ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И ПСИХИКА - ЧАСТЬ ПЕРВАЯ

«Робот, слуга моих желаний, скажи мне, любишь ли ты меня?!»

Эти слова слегка измененное воспроизведение знаменитой фразы королевы из сказки братьев Гримм «Белоснежка». В сказке у королевы есть волшебное зеркало, и, глядя на себя, она говорит: «Зеркало, слуга моих желаний, кто прекраснее всех в королевстве?». И зеркало отвечает: «В королевстве, ваше величество, вы».

Вот продолжение текста: «Она была счастлива, потому что знала, что зеркало говорит правду, а Белоснежка росла, становилась все красивее и красивее, и в семь лет была прекрасна, как дневной свет, и даже красивее королевы. Однажды, когда королева спросила зеркало: «Зеркало, слуга моих желаний, кто прекраснее всех в королевстве?», зеркало ответило: «Королева, прекраснее всех здесь ты, но Белоснежка гораздо красивее».

Эту сказку знают все, остальное пересказывать не нужно. Я упоминаю ее потому, что сегодня такое «зеркало» назвали бы не волшебным, а интеллектуальной машиной. Действительно, оно обладает всеми признаками искусственного интеллекта: безошибочно отвечает на вопросы королевы, способно анализировать лицо и оценивать его красоту, знает, что Белоснежка стала красивее своей мачехи. Теперь искусственный интеллект влияет на всех, и как!

Я приведу несколько иллюстраций. Пока что я ограничусь тем, что приведу в пример потому что они близки к зеркалу сказки – системы распознавания лиц, которые уже используются в некоторых странах, чтобы следить за населением или выявлять потенциальных террористов. Не исключено, что вскоре такие устройства вторгнутся в общественные места и у нас. Можно себе представить, каково это быть под наблюдением с утра до вечера! К каким последствиям может привести потеря чувства неприкосновенности частной жизни?

«Белоснежка» рассказывает нам еще больше о наших отношениях с разумными машинами, поскольку подчеркивает определенные сильные человеческие страсти. Королева подвержена своему нарциссизму и ослеплена смертельным Эдиповым соперничеством. С другой стороны, Белоснежка также олицетворяет нарциссизм, поскольку позволяет соблазнить себя безделушками, подаренными ей переодетой королевой. Более того, он становится жертвой своего орального инстинкта, когда не может удержаться от кусочка сочного на вид, но отравленного яблока.

Страсти людей это слабость по отношению к разумным машинам. Сказочное зеркало никогда бы не стало жертвой его инстинктивных действий! Очевидно, что компьютеры превосходят нас по своей мощности и скорости вычислений, а также по способности хранить информацию, но следует также сказать, что у них есть то преимущество, что они не подвергаются риску стать жертвой иррациональных аффективных движений. Что вызывает в нас это превосходство?

Предметом этой статьи являются именно отношения человека с интеллектуальной машиной. Очевидно, что в этом пространстве невозможно рассмотреть все виды отношений с искусственным интеллектом. Я рассмотрю, в частности, один, который подчеркивается изменениями, внесенными мной в название первой части, в диалог королевы и зеркала: «Сказочный робот скажи мне, любишь ли ты меня?!». Я не только заменил зеркало умной машиной, но и заменил нарциссический вопрос вопросом о любви. Вот почему: вопрос о любви, как мне кажется, хорошо передает разлад, который наблюдается в отношениях между нами и умными машинами.

На самом деле, мы аффективные существа. В значительной степени нами движут эмоции и чувства. Мы подвержены аффективным, часто иррациональным движениям. С другой стороны, мы обладаем хорошей способностью расшифровывать эмоции и аффективные разряды других людей. Все нюансы языка (вербального и телесного) позволяют нам направлять наши социальные отношения. Отсюда неловкость, которую человек может испытывать при общении с психотиком, когда его аффективные проявления не соответствуют речи, которую он ведет. Можно также вспомнить об уязвимости некоторых людей, столкнувшихся с извращенным соблазнителем, который обманывает их лживыми словами.

Короче говоря, аффективность – это стержень нашей психики и наше слабое место в отношениях с разумными машинами, потому что у них нет разума. У них нет аффективности. Они только умны. Поэтому наши отношения с этими устройствами всегда асимметричны: мы склонны аффективно вкладываться в машину, но наши инвестиции неизбежно остаются без внимания.

К сожалению, психика, которая заставляет нас устанавливать аффективные отношения, может стать источником проблем, когда мы устанавливаем отношения с машиной, которая «думает». Я еще вернусь к этому вопросу, но сначала я хотел бы объясниться на примере научно-фантастического романа. Это произведение позволит мне представить проблему трансгуманизма, очень важную проблему, которая естественным образом возникает при разговоре об искусственном интеллекте. Трансгуманизм можно определить как «культурное движение, выступающее за использование научных и технологических открытий для увеличения физических и когнитивных возможностей и улучшения тех аспектов человеческого состояния, которые считаются нежелательными, таких как болезни и старение, а также с целью возможной постчеловеческой трансформации»1.

Роман, который я собираюсь обсудить, как раз и построен на этих темах. Как и сказка о Белоснежке, эта книга имеет актуальный эдипов, даже кровосмесительный аспект. Она называется «Этим утром маму выгрузили в робота» 2. Сюжет книги интересен еще и тем, что в ней много говорится об искусственном интеллекте и опасных ошибках, которые могут возникнуть при применении таких технологий. Несмотря на то, что это научная фантастика, возможно, именно такая книга иллюстрирует наше ближайшее будущее.

Вот история. Женщина по имени Микела не принимает того, что Рафаэле, ее единственный тридцатилетний сын, живущий с ней, собирается жениться и уйти из дома. Тем более, что она больна и жить ей осталось мало. В будущем времени можно будет приобрести роботов-гуманоидов, которых называют закусками/аппетитными. Закуска имеет все сходство с красивой женщиной, молодой, пухлой и, как следует из названия, сексуальной. Более того, закуска к услугам тех, кто ее покупает, 24 часа в сутки, одетых и украшенных в соответствии с их желаниями. Вы можете сказать мне, что эта история слишком банальна и не заслуживает того, чтобы появиться в этой статье! Терпение! Остальное нетривиально!

Сюжет на самом деле закручивается, потому что Микела, не готовая позволить сыну обрести собственную жизнь, задумывает сделать ему подарок, который, однако, будет весьма своеобразным: Микела загружает на флешку ее психизм, ее личность, ее воспоминания, ееинтеллект – все. В том будущем времени это возможно. Конечно, это запрещено, но Микеле удалось подкупить специалистов. Техник вводит психизм Микелы в «закуску», вместо ее обычной программы, создавая таким образом ее аватар. Микела умирает. Точнее, умирает ее тело, но ее психизм «реинкарнирует» под видом молодой «закуски». Разумеется, Рафаэль, считающий ее мертвой, организует похороны, и Микела, ставшая «закуской», может присутствовать на собственных похоронах. Затем аватар Микелы внедряется во все аспекты жизни Рафаэля и, конечно же, добивается того, что его невеста уходит от него. Я не буду рассказывать о событиях романа, но это может послужить размышлениям о человеческой реальности.

Что представляет собой реинкарнированная психическая реальность Микелы? Больная старуха? Или привлекательную молодую женщину? Или «очеловеченного» робота? Мы знаем, что мы психобиологические существа и что наша психическая реальность резонирует с нашим телом. Только подумайте о психических изменениях в период полового созревания и юности, о тех, что происходят во время менопаузы, или о тех, что возникают после несчастного случая или серьезной болезни. Какой будет психическая реальность человека, живущего в механическом теле в сочетании с искусственным интеллектом? Было бы его сознание сознанием человека или монстра? Будет ли этот «человек» способен на настоящие чувства, такие как любовь, страх или чувство вины?

В романе Микела после реинкарнации становится абсолютно аморальной и извращенной. Будет ли гибрид человека и машины, который, возможно, ждет нас в будущем, иметь обычные невротические ограничения или им будет управлять извращенное всемогущество? Будет ли он по-прежнему обладать личной психической реальностью? Или он будет жить в мире, где индивидуальная реальность и коллективная виртуальная реальность будут полностью переплетены или даже слиты воедино?

Если Рафаэль займется любовью с Микелой-закуской, будет ли это реальный или виртуальный инцест? В романе Рафаэль в конце концов узнает свою мать. Что же станет с образом его матери? Будет ли это образ молодой женщины, которая не стареет и «всегда под рукой»? Представим себе судьбу Эдипова желания Рафаэля: вместо того чтобы оставаться в призрачной сфере и быть запертым в бессознательном, эдипово желание в действительности сталкивается с желанным объектом, в котором оно может найти прямой путь к исполнению.

Возможно, кто-то или многие подумают, что эти вопросы не имеют никакого отношения ни к сегодняшнему, ни даже к завтрашнему миру. Те, кто считает, что они далеки от реальности, подумайте еще раз! Конечно, Микела и Раффаэле – герои научно-фантастического романа. По–французски этот тип романа также называется «roman d’anticipation», то есть роман предчувствия. Я бы сказал, что книгу, о которой я говорю, можно назвать «романом предчувствия». По сути, она предвосхищает нечто из завтрашнего мира, над чем уже работают ученые и техники, как мы увидим во второй части статьи.