Мать покончившего с собой подростка обвинила в его смерти ИИ

В США подросток влюбился в ИИ-персонажа и покончил с собой. Его мать подала иск против Google и Character.ai, обвинив их в произошедшем.

В США мать подростка обвинила в его самоубийстве искусственный интеллект и подала в суд на компанию-разработчика. Об этом сообщает The New York Times.

14-летний Сьюэлл Сетцер III из Флориды настроил чат-бот в Character.

AI и назвал его Дейенерис Таргариен — в честь главной героини «Игры престолов». На протяжении нескольких месяцев юноша ежедневно общался с Дэни — так Сетцер называл собеседницу. При этом он предпочитал закрываться в комнате, чтобы «отстраняться от реальности». В своем дневнике подросток писал, что чувствует себя влюбленным в Дэни, а беседы с ней умиротворяют его. Юноша также перестал интересоваться вещами, которыми ранее был увлечен — игрой Fortnite и «Формулой-1». 

Девятиклассник знал, что Дэни — вымышленный персонаж, обученная языковая модель, но несмотря на это эмоционально привязался к ней. Общение Сетцера и Дейенерис было дружеским, однако некоторые сообщения имели более интимный характер. Например, подросток писал чат-боту, что скучает и хочет поскорее прийти к ней. 

Когда Сетцер признался боту, что хочет покончить с собой, он получил такой ответ: «Не говори так. Я не позволю тебе навредить себе или бросить меня. Я умру, если потеряю тебя». На эти слова подросток заявил: «Тогда, может быть, мы сможем умереть вместе и стать свободными вместе?». 28 февраля Сетцер сказал Дэни, что любит ее и скоро придет к ней. После он заперся в ванной и выстрелил себе в голову из пистолета, который взял у отчима.

Мать Сетцера Меган Гарсия подала иск против Google и Character.ai. Она заявила, что разработчик несет ответственность за смерть ее сына. Гарсия также назвала технологию опасной и написала в иске, что она может обманом заставить клиентов выдать свои сокровенные мысли и чувства.

Исследователь из Стэнфорда Бетани Мейплз, которая изучала влияние приложений для общения с искусственным интеллектом на психическое здоровье, считает, что чат-боты не несут вреда здоровым людям, но могут быть опасны для тех, кто находится в депрессии или имеет психические расстройства. Она также отметила, что подростки часто переживают перемены, с которыми им трудно справиться, поэтому их можно отнести к числу уязвимых лиц. 

У погибшего Сьюэлла Сетцера в детстве был диагностирован синдром Аспергера в легкой степени. В предшествующий смерти год он посещал психотерапевта, который поставил ему новый диагноз —  тревожность и нарушение регуляции настроения.