ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И ПСИХИКА ЧАСТЬ ВТОРАЯ

Перейти к первой части | перейти ко второй части

Всегда ли мы будем превосходить разумные машины?

В первой части этой статьи сказка «Белоснежка» познакомила нас с темой искусственного интеллекта, затем научно-фантастический роман – с темой трансгуманизма. Напомню, что эта дисциплина стремится улучшить состояние человека с помощью научно-технических открытий, в частности искусственного интеллекта. Сегодня над созданием сверхчеловека работают очень серьезные люди: «Растущая скорость технологического развития предполагает радикальные и важные технологические достижения в течение следующих 50 лет». По мнению трансгуманистов, такое развитие желательно, и человек может и должен стать «больше, чем человек» благодаря применению таких технологических инноваций, как генная инженерия, нанотехнологии, нейрофармакология, искусственное протезирование и интерфейсы между разумом и машинами “. 1
В 2002 году под руководством Макса Мора и Тома Морроу Всемирная трансгуманистическая ассоциация (World Transhumanist Association) дала следующее определение трансгуманизму:
«1) Интеллектуальное и культурное движение, которое фундаментально утверждает возможность и желательность улучшения состояния человека с помощью прикладной науки, особенно путем разработки и распространения в широких масштабах технологий, способных устранить старение и расширить возможности человека в интеллектуальном, физическом и психологическом плане.
2) Изучение последствий, предпосылок и потенциальных опасностей технологий, которые позволят нам преодолеть фундаментальные ограничения человеческих существ, и связанное с этим изучение этических последствий разработки и использования таких технологий». 2
Как уже упоминалось, многие трансгуманисты считают, что материализация трансчеловека или постчеловека произойдет во второй половине XXI века (то есть в очень скором времени) благодаря соединению нашего мозга с разумными машинами. И это не научная фантастика. Все мы уже сегодня взаимодействуем с разумными машинами. По сути, мы отчасти подчиняемся им. Например, когда мы едем на машине по незнакомой местности, мы уже не можем не следовать указаниям навигатора. Поэтому мы считаем его умнее нас в этой области. Работая за компьютером, мы все используем Google для поиска информации. Хотя существуют и другие поисковые системы, которые отлично себя зарекомендовали, использование Google стало настолько привычным, что в языке появился неологизм «гуглить» как синоним поиска в Интернете. Однако кто задумывается о том, что, пользуясь «гуглом», он полагается на алгоритмы искусственного интеллекта?
Не стоит недооценивать тот факт, что на голосование по Brexit повлияла компания Cambridge analytica и что Дональд Трамп, скорее всего, был избран именно благодаря ей. Cambridge analytica фирма, специализирующаяся на обработке персональных данных. Используя алгоритмы искусственного интеллекта, ей удалось получить данные миллионов пользователей Facebook, а затем отправить им персонализированные сообщения, чтобы побудить их проголосовать определенным образом. Другими словами, алгоритмы искусственного интеллекта теперь способны влиять на судьбу страны!
Нельзя не упомянуть и о видеоиграх, еще одном примере искусственного интеллекта, которые погружают нас в виртуальную реальность, на мгновение заменяющую некоторые аспекты психической реальности и заставляющую забыть о связи с внешним миром. Эта виртуальная реальность настолько реальна, что для людей, которым она нравится, она воспринимается как сон, но сон, который мы можем активировать, когда захотим. Я не сказал «контролировать», потому что мы думаем, что контролируем видеоигру, но мы рискуем потерять контроль. На самом деле, когда человек чувствует себя полностью связанным с виртуальным миром игры, игра может вызвать привыкание. Тогда игрок, в силу уязвимости своей психической реальности, оказывается под контролем искусственного интеллекта машины!
Можно привести множество примеров. Я приведу еще один. Было проведено расследование на складе гиганта онлайн-продаж – складе, управляемом суперкомпьютером с искусственным интеллектом. Там работает только один человек. Компьютер говорит и указывает ему, что делать. Мне кажется страшным, что этот бедный сотрудник вынужден весь день общаться с машиной и подчиняться ей. На самом деле это ситуация, когда машина думает, а человек исполняет! Другими словами, в отношениях с машиной произошел разворот на 180 градусов: человек больше не заставляет машину выполнять слишком тяжелую для него работу, это машина заставляет человека выполнять. Это самое страшное. Что ответил этот сотрудник интервьюеру? Что машина составляет ему компанию и что он не одинок с ней!
Я отношусь к поколению, которое пережило социальные изменения после 68-го года. Тогда много говорили об отчуждении некоторых работников из-за нечеловеческих условий труда. Тогдашняя борьба, к счастью, заставила работодателей относиться к ним лучше. Сегодня, однако, другой вид отчуждения угрожает не только части работников, но и всему человечеству: подчинение искусственному интеллекту!
Говорят, что примерно к 2050 году роботы будут более интеллектуальны, чем люди. Это утверждение может показаться абсурдным. И все же! Все помнят удивление, когда Deep Blue, робот компании IBM, обыграл чемпиона мира по шахматам Каспарова. Это было в 1997 году. Deep Blue был способен просчитывать 200 миллионов позиций в секунду. Убежденные в непреодолимости человеческого интеллекта, некоторые утверждали, что Deep Blue не может делать ничего, кроме как быстро считать. Компьютер не может ничего изобрести. Сейчас это уже не так. В 2016 году суперкомпьютер AlphaGo победил чемпиона мира по игре Го. Напомню, что го, игра, придуманная, кажется, 2500 лет назад, отличается чрезвычайной сложностью: в ней возможны 1 и сто семьдесят 0, что больше, чем количество атомов во Вселенной. AlphaGo не только обыграла лучшего игрока-человека, но и придумала ход, который обеспечил ей победу! Этот ход не был придуман ранее ни одним человеком. Более того, в следующем году AlphaGo была побеждена. Хорошая месть для человека. О нет, AlphaGo победил его «сын», суперкомпьютер, созданный с его помощью и названный AlphaGo Zero. Он не закончен! АльфаГо Zero научился играть самостоятельно за три дня, а за сорок дней достиг уровня лучшего игрока мира! Теперь молодые игроки в го изучают игры АльфаГо Зеро, чтобы научиться. 3
Стоит отметить, что AlfaGo Zero был придуман и создан компанией DeepMind, дочерним предприятием Google. Вероятно, именно веб-гиганты будут формировать мир завтрашнего дня. Если только они уже не формируют мир сегодняшний!
Вернемся, однако, к психической реальности человека. Именно поэтому битва за интеллект может быть проиграна, а возможно, уже проиграна. Слабости человеческого мозга в сравнении с роботом как минимум тройственны: мы думаем гораздо медленнее, совершаем ошибки и часто руководствуемся своими привязанностями эмоциями, чувствами, вместо того, чтобы следовать разуму. Поэтому интеллектуальные машины превосходят нас в этих областях. Кроме того, на нашу психическую реальность постоянно влияет бессознательное, что ставит нас в неравное положение с искусственным интеллектом, по крайней мере, в когнитивном плане. Приведу два примера.
У нас есть тенденция вступать в отношения с другими людьми через идентификацию. Мы можем отождествлять себя с кем-то, кого мы любим, или с кем-то, кого мы боимся, или с кем-то, кого мы считаем сильнее себя. Идентификация это механизм, который мы в данный момент не осознаем, потому что им управляет бессознательное. Не осознавая этого, многие из нас с большой вероятностью отождествляют себя с этими очаровательными машинами. Философ Жан-Мишель Беснье считает, что каждый, кто ежедневно сталкивается с роботом, начинает мыслить как он, бинарно, в соответствии с системой стимул/реакция 4. Это будет означать обеднение наших умственных процессов, которые более эффективны, когда мышление происходит ассоциативно.
Второй пример. Наше бессознательное побуждает нас устанавливать отношения доминирования/подчинения, унаследованные от анальной стадии, и отношения соперничества, унаследованные от эдиповой динамики фаллической стадии. Это означает, в частности, что мы рискуем вообразить, что всегда будем доминировать над машинами, которые создаем. Как следствие, мы убеждены, что всегда будем превосходить умную машину, что в будущем мы также будем ее контролировать и что она может быть только у нас на службе. Великая нарциссическая иллюзия: мы уже частично доминируем над ней! Поэтому исход битвы представляется весьма неопределенным с точки зрения интеллекта, поскольку робот всегда будет быстрее нас, вынуждая нас действовать и реагировать.
Однако и у человека есть немало козырей против умных машин, нужно только не растратить их впустую. Я еще вернусь к этому вопросу, но сейчас давайте остановимся на опасности, которой подвергает нас искусственный интеллект, если мы не будем учитывать сильные стороны нашего психизма. Взаимодействуя с умной машиной, мы вынуждены реагировать на стимулы, которые она нам посылает, своего рода рефлекторно, вместо того чтобы думать о том, как поступить. Искусственный интеллект заставляет нас реагировать на стимулы, на сигналы, а не на знаки. Возьмем пример видеоигр: многие игры (я не говорю о тех, которые требуют более глубокого осмысления) требуют большой скорости исполнения, чтобы не произвести плохого впечатления. Времени на обдумывание следующего удара нет, приходится реагировать очередями. Вместо того чтобы думать, человек использует рефлекторную систему, которой мы обладаем наряду с животными. Это создает стресс, который может нарушить психическую систему удовольствия/неудовольствия и вызвать зависимость.

Обобщая, скажу, что мы должны быть осторожны, чтобы не поддаться увлечению скоростью. Действительно, самая сложная часть нашей психики,то есть самая благородная и одновременно самая хрупкая – призвана реагировать прежде всего на знаки, точнее, на сигнификаторы. А на это требуется время. Почему так важно иметь время, чтобы расшифровать и обработать знаки, которыми наполнен мир, не попадая постоянно в ситуацию стимул/реакция? Потому что за знаком стоит смысл. Знак, таким образом, отдается эхом в психике, вызывает резонанс в глубинах сознания. Другими словами, при использовании языка стимулов/ответов высшие психические процессы (предсознание/сознание) теряют связь с некоторыми психическими содержаниями, в частности с памятью о личном и семейном опыте. В результате предсознательные процессы теряют свою эффективность, а эго ослабевает. Это прямо противоположно эффектам аналитической работы.
Свободные ассоциации создают многочисленные связи на уровне подсознания, связи, которые усиливают его способность думать и чувствовать. В результате эго становится сильнее и лучше справляется с внутренними и внешними стрессами.
В этом можно убедиться с помощью техники длительных сессий, подкрепленных изучением иконографических документов/фотографий. Удлинение сессии дает большое пространство для аналитической работы, чтобы у анализируемого было столько времени, сколько необходимо для развития осмысленного дискурса и переработки своего опыта. По сравнению с бешеным темпом современной жизни длинная сессия – это оазис, в котором время растягивается. На наш взгляд, это расширение времени очень ценная вещь, потому что наш мир движется все быстрее и быстрее.
Конечно, ускорение темпа жизни произошло не совсем недавно. Считается, что изменения могли произойти в последней половине XVIII века. Например, продолжительность путешествия из Парижа в Дижон сократилась вдвое за двадцать лет, с 1760 по 1780 год, с 6 дней до 3. И это было достигнуто только за счет усовершенствования карет, сокращения отдыха и ускорения смены лошадей. 5
Если ускорение темпа жизни не является чем-то из ряда вон выходящим, то во второй половине XX века произошло то, что специалисты называют «большим ускорением», которое совпало с наступлением цифровой эпохи. Как долго еще скорость, вызванная искусственным интеллектом, будет для нас выносимой? Я оставляю этот вопрос открытым, но мне кажется очевидным, что такая скорость не способствует самореализации личности, связанной с умственной деятельностью.
Короче говоря, кажется, что наше общество параллельно с бесспорным повышением уровня жизни привело к сокращению психического пространства, необходимого для обработки мыслей, привязанностей и переживаний. В этот момент, возможно, полезно вспомнить книгу Фрейда «Недовольство культурой» 6. В ней он показывает, что цивилизованность требует от человека доминирования над влечениями, чтобы отсрочить и отклонить их удовлетворение. Другими словами, стать развитым существом – значит вставить процесс между желанием и действием, которое его реализует. Повторяю, интеллектуальная машина заставляет нас реагировать на все автоматизмом, без особой психической обработки.
Ранее я уже упоминал о козырях человека. Я, конечно, упомянул о том, что мы (надолго ли?) превосходим разумные машины, потому что обладаем отличным от них интеллектом: у нас есть интеллектуальное любопытство – унаследованное от сублимации наших инфантильных влечений – и мы способны мыслить ассоциативно, связывая вещи, которые, казалось бы, не имеют ничего общего, но имеют скрытую связь, уходящую корнями в бесконечность бессознательных содержаний. Я сообщил, что наличие бессознательного может быть слабостью с точки зрения рациональных и математических операций, в которых преуспели суперкомпьютеры. Вот аспект, который дает нам превосходство над искусственным интеллектом: мы креативны. Кстати, именно человеческое творчество позволило создавать и совершенствовать суперкомпьютеры снова и снова.
Как мы с Даниэлой Гарильо отметили в книге «Креативность-благополучие. Творческие движения в анализе» 7, творчество включает в себя «рекомбинационную обработку». Что представляет собой рекомбинационная обработка? Это ментальная обработка содержания, высвобожденного из влечений бессознательного и объединенного с другой информацией (опытом, желаниями, социальными и культурными данными…), в частности, со следами моментов благополучия, пережитых в разные периоды жизни. Эта работа приводит к рекомбинации информации в сознании, которая собирается в ментальный объект, являющийся источником будущей творческой активности. Что происходит с рекомбинационной обработкой в ситуации, когда робот думает, а человек выполняет, не задумываясь? До сих пор рекомбинационная обработка была прерогативой человека. Однако мы должны задать вопрос: являются ли победные удары AlphaGo и его «сына» результатом некой рекомбинационной обработки? Всегда ли творчество будет прерогативой человека?
Еще один элемент, который следует учитывать – я уже упоминал о нем – это аффективность. Кто будет производить суперкомпьютеры завтрашнего дня? Те, у кого есть деньги, так что, скорее всего, это будут не государства, а веб-гиганты. И они будут создавать роботов, которые будут приносить им деньги, а не приносить пользу человечеству. Робот создан для того, чтобы быть функциональным, а не для того, чтобы иметь чувства или быть моральным. У нас есть аффективность, которая дает нам богатство нашей психической реальности, но это также и ее хрупкость.
Двайте представим, что будущие суперкомпьютеры, гораздо более интеллектуальные, чем AlphaGo Zero, осознают, что люди своими страстями уничтожают планету. Если они действительно настолько умны, есть вероятность, что они предотвратят это. Можно представить, что они захватят власть и низведут человека до статуса раба, чтобы спасти его от разрушения. Другими словами, разумные машины будут иметь с нами такие же отношения, как мы с домашними животными. Конечно, это заставляет вспомнить фильм «Планета обезьян».
Конечно, это может показаться научно-фантастическим лукавством, но что, если это скорее предвестие? Не могу удержаться, чтобы не процитировать Джарона Ланье, одного из отцов виртуальной реальности. В 2018 году он написал: «Больше нет исследований, показывающих, что люди менее счастливы в социальных сетях, чем без них». Он добавил: «Вы не можете бороться с алгоритмом Twitter, который создан для того, чтобы возбуждать ваши негативные эмоции и превращать вас в ублюдков [sic]. Это лучший способ вызвать у вас зависимость. Это такая же поведенческая пружина, как и игровые автоматы в казино».  8
Я не ностальгирую по прошлому. Я не хочу возвращаться в эпоху настенных телефонов и бумажных карт. Так что же делать, чтобы не стать жертвой искусственного интеллекта?
Будучи психоаналитиками, психиатрами или психологами, мы никогда не будем обладать такими финансовыми возможностями, как Google, Twitter или Facebook. Однако мы можем быть источником информации. Мы можем рассказать людям о том, что не стоит очаровываться алгоритмами искусственного интеллекта. Объяснить, что счастье, которое они обещают, – это все дым и зеркала, настаивая на том, что наша психическая реальность и особенно творческие способности это бесценные активы. Было бы обидно пожертвовать ими, поддавшись чарам виртуальных сирен.

© Daniel Lysek

Перевод: Надя Теплова

Перейти к первой части | перейти ко второй части

Note:

1 –  https://it.wikipedia.org/wiki/Transumanesimo

2 – https://en.wikipedia.org/wiki/Transhumanism (Trad. DL).

3 – https://www.lci.fr/high-tech/le-super-ordinateur-alphago-tombeur-du-champion-du-monde-du-jeu-de-go-a-son-tour-terrasse-2067790.html e https://fr.wikipedia.org/wiki/AlphaGo_Zero

4 –  L. Alexandre & J.-M. Besnier, Les robots font-ils l’amour ? Le transhumanisme en 12 questions, Dunod, 2016.

5 – C. Studeny, La révolution des transports et l’accélération de la France (1770-1870), Presses Universitaires de Rennes, 2009.

6 – S. Freud (1929), Il disagio della civiltà, Opere, vol. 10, Torino, Boringhieri, pp. 557-631.

7 – D. Gariglio & D. Lysek, Creatività benessere. Movimenti creativi in analisi, Roma, Borla, 2007, pp. 48-53.

8 –  J. Lanier, Ten Arguments for deleting your Social Medias Accounts Right Now, Vintage, 2018.