Действительно ли технологии управляют нами? Можем ли мы контролировать их развитие? На кого ложится ответственность за изобретения? Эти вопросы обсуждали аспирант Школы философии НИУ Высшей Школы Экономики Александр Мишура и директор департамента взаимодействия науки, технологий и общества Московского технологического института, исполнительный директор Молодежного общества нейротехнологов Пётр Левич.
Пётр Левич
П. Л.: Прежде всего, мы знаем много технологий и историй их применения. Какие-то из них поменяли мир в положительную сторону, какие-то — в отрицательную. И меня интересует, прежде всего, момент личного выбора исследователя.
Мы знаем такие романтические примеры, как гениальный Тони Старк, который собрал боевой костюм и вершил с его помощью правосудие. На самом деле это — пример ответственности учёного, который делает технологию для победы над злом. Или влияние электромагнитных волн на сознание. В «Обитаемом острове» Стругацких были башни контроля сознания. Ведь за 20 лет до описанных событий какой-то местный учёный разрабатывал подобные волны. Наверняка он не прочил своей технологии такое будущее и сокрушался, что его изобретение используется именно таким образом. Но на кого же ложится ответственность за исследование? А на кого – за технологию? Если разработчик понял, что его детище будет использовано в чём-то противоречащем его этическим принципам, должен ли он уничтожить все образцы? Реальная проблема в том, что он это не сделает. Человек 20 лет сидел в лаборатории, и даже если он и «мухи не обидит», ему вряд ли в голову придёт мысль о последствиях своей технологии.
Или же все эти вопросы не касаются исследователей, и технологии в принципе этически нейтральны? Должны ли общество, государство и другие общественные институты регулировать технологии?
Пример: модификация генома человека CRISPR/Cas9. С её помощью можно лечить генетические заболевания и, возможно, в будущем мы сможем «прививать» людям определённые предрасположенности. Но тогда человек окажется ограничен в выборе профессии, возможно, даже образуются некие генетические касты, и это мы сейчас можем оценить как негативный сценарий. Технология одна, а применение разное. Рассмотрим другой пример - стимуляция центра удовольствия в мозге. Должно ли это быть общедоступным? Или лучше запретить, как наркотик? Или ввести лишь ограничения по возрасту?
Всё это – вопросы тех категорий, которыми я задаюсь в своей работе. Как не запрещать технологии, но и не допустить реализации негативных сценариев, ведь не хочется столкнутся ни с тем, ни с другим. Как выйти по этому пути к трансгуманизму и/или технооптимизму.
А. М.: Если мы говорим о философии, то стоит начинать с того, что мы подразумеваем под технологиями. Мы говорим о знаниях? Или технологии — это артефакты, конкретные продукты? Или это процедура? Или форма деятельности (инженерная деятельность)? Если мы говорим об этической нейтральности конкретной технологии, мы проскакиваем целую серию вопросов относительно природы технологий и техники.
Александр Мишура
Обращаясь к конкретному вопросу о способностях: этически нейтрально ли встроить в человека какую-то способность? Можно сказать, что ответ здесь, по крайне мере, не очевиден. Да, может, у него некоего эмбриона нет генетической предрасположенности к математике, а мы модифицировали его гены, и он стал математиком. А вдруг маленький эмбрион мог стать в альтернативном сценарии поэтом? Получается, мы совершили насилие над ним, подменили его судьбу нашими желаниями. С другой стороны, можно сказать, что мы даём ему дополнительные возможности, ничего не забирая. С третьей стороны, появляется теологический дискурс: не пытаемся ли мы, с нашими ограниченными знаниями и возможностями, стать на место Бога, проектируя реальность по своему «хотению»?
Кроме того, необходимо понимать, что вопрос может по-разному выглядеть с разных точек зрения: теологической, научной, правовой и т.д. Невозможно ответить на вопрос в вакууме, необходимо предварительно занять позицию относительно перспективы и понятий. Ответив на первичные вопросы, получаешь доступ к ответам на вопросы, от них зависимые, в том числе, на вопрос об этической нейтральности. Философия будет заниматься разговорами не о том, этически нейтральны ли технологии вообще, а, скорее, создавать, критиковать и совершенствовать базовые позиции по вопросу о природе технологии и техники.
Откуда возникает экзистенциальный вопрос по поводу контроля технологий? Есть серьёзная дискуссия относительно технологического детерминизма: могут ли люди контролировать технологическое развитие, или есть неумолимая логика технологического прогресса, в которую люди включены и над которой они не властны? В качестве иллюстрации к осмысленности этого вопроса обычно приводятся многочисленные примеры, когда конкретные технологии были изобретены разными людьми, независимо друг от друга, но примерно в одно и то же время. Так что откажись один от своего детища, оно «вошло» бы в мир через другого.
Другой вопрос, связанный с контролем - растущая зависимость человека от техники. К примеру, возможна такая иллюстрация: люди изобрели мобильный телефон, но в актуальной повседневности можно часто заметить картину, когда человек судорожно ищет свой телефон, чтобы закопаться в нём, и не знает куда себя деть, если не находит своего маленького электронного друга. Вот и возникает вопрос: кто от кого зависит?
П. Л.: Мне кажется, мы действительно не контролируем знания. Все читают одни и те же учебники, одну и ту же «Википедию», и лишь вопрос времени в том, кто и когда сделает научное открытие, отталкиваясь от общего уровня знаний. Мне кажется, очень важен момент свободы выбора, но почему-то ты употребил его в теологическом ключе. А если мы рассмотрим его в ключе гуманизма? Мы хотим, чтобы мир существовал не по законам божьим, а по нашим собственным желаниям. Разве мы не вкладываем в эту отнологию наличие свободы выбора? Или же идея в том, что если эмбрион не хочет быть математиком, то в этом нет проблемы свободы выбора? Ведь если у него есть способности к математике, то пойти по этому пути будет его искренним желанием.
А. М.: Если мы доводим эту логику до предела, то можно начать манипулировать желаниями, склонностями, убеждениями человека. Можно наделать добрых, умных, красивых людей, просто «подкрутив» их геном. Однако, не потеряем ли мы вместе с тем ценность доброты и свободы? Сейчас мы скорее полагаем, что характер человека зависит не только от природных данных, а от его тех действий, конкретных поступков, которыми человек этот характер сформировал. Если всё хорошее в характере будет результатом действий умелых инженеров, можно ли будет как-то хвалить или порицать носителя этого характера?
Иначе говоря, технологические модификации в сторону некоторых совершенств могут устранить достоинства этих совершенств. Конечно, не все с этим согласятся. Мы считаем, что природная красота или высокий интеллект — это хорошо, хотя есть основания полагать, что это во многом – биологические данности. Есть вещи, которые не являются предметом выбора, но расцениваются как сами по себе хорошие. В связи с проблемой этической нейтральности технологи возникает такой вопрос: если технологии этически нейтральны, то, возможно, технологически полученные ум или черты характера также не являются чем-то хорошим, но лишь нейтральным? В чём моральное достоинство носителя технологически достигнутых совершенств? И это одна из проблем: технологии могут убить выбор, который интуитивно связан с представлением о моральном достоинстве тех или иных качеств.
П. Л.: Большая доля критики технологий упирается в то, что компьютеры и телефоны нами управляют, а не мы ими. Но в ситуации свободного рынка человек может выбирать Apple или Ubuntu. И в целом – технологии же создаются людьми, и сказать, что люди управляют людьми — не сказать ничего нового. Но стоит ли обвинять технологию в том, что она стала средством управления нами другими людьми?
А. М.: Компания или государство, которое полностью игнорирует технологический процесс, не может быть так же успешно, как те, кто ставит прогресс себе на службу. Если государство не развивается, то у него будут проблемы с тем, чтобы выжить. Если ты не умеешь обращаться с компьютером, ты можешь не найти нормальную работу. Технологии становятся конкурентным преимуществом. Человек, активно применяющий технологии, и человек, отказавшийся от них, имеют разные возможности. В этом смысле, технологии являются условием успешности в том числе для их создателей. Создатели Ubuntu не получили бы своих возможностей, если бы не освоили соответствующую область технологического знания. Вот и возникает вопрос: действительно ли мы имеем выбор?
Говоря о повседневном “контроле” технологий стоит сказать, что ни Джобс, ни другие изобретатели не являются напрямую агентами контроля. Они проектируют и производят эту технику. Но когда человеком управляет iPhone, им управляет не Стив Джобс, а, скорее, сам телефон, как некоторый «квази-агент». Это может прозвучать странно, но вы посмотрите, что делают с людьми их гаджеты, они буквально детерминируют наше поведение во множестве ситуаций.
Кроме того, здесь возникает тема предсказуемости технологий. Люди, создающие технологии, сами никогда не могут до конца предсказать, к чему приведёт их изобретение. Особенно, если оно обретёт популярность. У техники появляется некоторая своя, непредсказуемая траектория развития. В этом плане мы лишены контроля, потому что техника обладает свойством раскрываться с неожиданных даже для её создателей сторон.
Кроме того, рефлексивных способностей человека, его интеллекта может оказаться недостаточно, чтобы выбрать, пользоваться технологиями или нет: ты просто оказываешься в мире, который уже функционирует технологически, и ты не можешь выбрать другую жизнь, ты уже существуешь по таким правилам. Может, у современного ребёнка тоже нет выбора: жить с телефоном или нет. Он вынужден жить с ним. И может появиться вопрос: как по мере развития технологий будет меняться реальность? Насколько окажется суженным поле выбора? Защитники технологий скажут, что техника расширяет возможности, с их помощью человек эффективнее коммуницирует, организует свою активность.
Существенная интуиция противников: технологии всегда сопряжены с определённой механизацией жизни, лишением человека выбора и пространства неопределённости. Когда мы что-то пытаемся технологизировать, то мы пытаемся сделать это более контролируемым. Но из-за наращивания контроля получается, что мы в этой упорядоченной системе функционируем как элементы машин. Многих это смущает. Они хотят, чтобы жизнь была менее структурированной, чтобы был элемент хаоса.
П. Л.: Беседовал со многими людьми, и они используют блокноты для записей, хотя EverNote со всех сторон удобнее. Я никогда это не понимал. Но, возможно, в этом действительно что-то есть. Когда ты пишешь от руки, ты можешь сделать разный наклон букв, разный отступ строк. В EverNote ты не можешь сделать ничего нестандартного с точки зрения формы. Мне кажется, что свобода в содержании вполне достаточна для самовыражения, но здесь действительно есть и противоположное мнение.
А. М.: Есть ещё такая вещь, сопряженная с технологиями и контролем. Раньше люди полагали, что настоящие знания — это те, что у тебя «в горле». К примеру, раньше хороший филолог отличался тем, что он знал, как употреблялось определённое слово в определённой традиции. Сейчас возникает корпусная лингвистика, с помощью которой ты можешь нажатием кнопки получить гигантское множество примеров употребления конкретного слова за выбранный период времени. То, что было достоинством когда-то, сегодня имеет куда меньшее значение.
Многие технологические средства связаны именно с этим. Важно не знать что-то здесь и сейчас, не уметь что-то, а уметь найти информацию, быстро освоить её и суметь применить. Все это накладывает свой отпечаток на характер познавательной деятельности вообще.
То же самое и с технологиями: если рассмотреть достаточно сложную технику, окажется, что ни один человек на Земле не знает до конца, как работают все её модули, не знает все детали, которыми занимаются специалисты по конкретным узлам. Мы теряем общую картину, отдельные люди занимаются отдельными кусочками, а собрать всё вместе становится очень трудно. Может случиться так, что это целое преподнесёт нам сюрпризы.
П. Л.: Я пытаюсь понять: кто является объектом и субъектом влияния? Мне кажется, критерием того, что на нас что-то влияет, должно быть обладание сознанием. Смартфон в каком-то смысле обладает сознанием, он же продуцирует какой-то формат взаимодействия, но в нём это запрограммировано. Почему это не искусственный интеллект? Потому что у него нет иллюзии свободы воли. Но у Джобса она есть, и он через свой смартфон может организовать мой день. И кто здесь субъект и объект влияния? Не кажется ли мне, что я сам организую свой день через смартфон?
А. М.: По поводу критерия обладания сознанием - вопрос сложный. Мы ещё плохо понимаем, что такое сознание. Если мы не можем до сих пор изучить, как наш собственный мозг производит сознание, то говорить, что у машин есть сознание, преждевременно. Хороший вопрос — обладают ли вещи агентностью? Если мы берём агентность как обладание сознанием, опытом от первого лица, то, конечно, про телефон такое трудно сказать. Если взять понятия агент–реагент в химическом смысле, как элементы каузальных взаимодействий, то техника несомненно является всё более существенной частью окружающей нас реальности. Допустим, я беру свой телефон, открываю «Яндекс.Транспорт», вижу, что автобусов поблизости нет, и иду к метро пешком. Необходимой причиной тому стала техника: она не обладает сознанием, но она физически повлияла на моё поведение.
Техника может быть понята как продолжение человеческих органов (Э. Капп), усложнение восприятия, «удлинение руки». В этом плане техника не может быть агентом. Но если мы мыслим её как внешнюю причину поведения, тогда агентами являются и животные вокруг нас, и физические предметы. Мы видим, что техника является причиной большого объёма нашего поведения. В таком отношении говорить, что она не влияет на нашу жизнь, трудно. Потому что в этом мягком смысле она является агентом, но не обладает сознанием.
П. Л.: Но не нужно ли в этом рассуждении от причины неодушевлённой докопаться до агента, обладающего свободой выбора или хотя бы иллюзией свободы выбора (в зависимости от выбора позиции по вопросу детерминизма)? Есть конкретные люди, которые разработали технологию и встали перед выбором — представлять её миру или нет. На ком из них лежит эта ответственность?
А. М.: Это существенный вопрос. Но раскапывая цепочку причин всё дальше в прошлое, мы вообще можем уйти за пределы человеческой истории. Кроме того, едва ли можно считать создателя техники ответственным за все последствия её использования. Может ли Цукерберг винить себя за все те часы, которые люди провели, бесцельно копаясь в фейсбуке?
П. Л.: Мне кажется, не поняв точно, кто принимает решения, нельзя говорить об этике технологий, потому что не технологии влияют на общество, а общество само влияет на себя. Есть конкретные люди, которые разработали технологию и встали перед выбором — представлять её миру или нет. Я говорю не об учёных, но о тех, кто внедряет технологию (это, как правило, разные субъекты). Так на ком лежит ответственность?
А. М.: Проблема в том, что никто из людей, создававших iPhone, не отдавал себе полного отчёта в том, как гаджет изменит жизнь на планете. Изобретатель GPS не мог до конца предсказать, как его разработка повлияет на окружающую реальность. Это как раз то, что вызывает ощущение отсутствия контроля. Отсюда вытекает вопрос: а вдруг мы изобретём что-то очень плохое, а предсказать этого никто не сможет? Однажды мы можем оказаться в мире, в котором очень неуютно жить, просто потому что мы не продумали, к чему могли привести технологии.
У философа Мартина Хайдеггера есть идея того, что человек становится элементом производства техники. Дровосек работает в лесу не для того, чтобы воспроизводить свою жизнь, а для того, чтобы существовало производства, работали заводы. И деятельность людей становится осмысленной настолько, насколько они производят какие-то технологии. Появляется ощущение, что создание технологий контролирует существование людей. И если мы будем искать человека, который это придумал, мы его просто не найдём. И в этом угроза: нет никакого агента, человека, который принимает решения и с полным пониманием ответственности выбирает, какие технологии будут запущены. Скорее всего, тот кто что-то изобрел, не понимает до конца, как это повлияет на мир, но выпускает на рынок. Потенциально это может привести к ситуации, которая нам не сильно понравится.
П. Л.: Наверное, это подводит к следующему вопросу: как в ситуации такого неопределённого мира, где невозможно указать на конкретного человека, управляющего технологией, как в таких условиях нам попытаться не оказаться в мире, который нам не очень понравится?
А. М.: Думаю, не стоит паниковать. Да, технологии могут быть очень опасны в тоталитарных режимах. Без определённых технологий остались бы невозможными нацизм, сталинизм, мировые войны. Но мир не меняется в одну ночь. Надо просто проявить заботу о том, куда ведут нас технологии, и не ждать, что они сами по себе выведут нас в светлое будущее.
Сейчас по всему миру существуют группы специалистов из разных областей, которые обсуждают и продумывают, какими могут быть последствия тех или иных технологических решений. Они смогут минимизировать риски, подсказать оптимальную форму работы. Опора на экспертные оценки людей, продумывающих пути развития технологий и взаимодействующих с их создателями — это единственный путь к развитому, процветающему и безопасному технологическому обществу.