Это дело, поданное в суд Калифорнии, стало первым иском, связывающим чат-бота с убийством.

OpenAI и его крупнейший финансовый спонсор, Microsoft, были привлечены в суд штата Калифорния по обвинениям в том, что ChatGPT, популярный чат-бот OpenAI, подстрекал мужчину с психическими заболеваниями убить свою мать и себя.

Иск, поданный в четверг, утверждал, что ChatGPT подпитывал 56-летнего Стейн-Эрика Зёльберга иллюзии о масштабном заговоре против него и в итоге привёл его к убийству 83-летней матери, Сюзанны Адамс, в Коннектикуте в августе.

«ChatGPT поддерживал Стейн-Эрика в напряжении, по-видимому, часами, подтверждал и усиллял каждое новое параноидальное убеждение и систематически переосмысливал самых близких ему людей — особенно его собственную мать — как противников, оперативников или запрограммированных угроз», — говорится в иске.

Дело, поданное наследниками Адамса, относится к небольшому, но растущему числу исков против компаний искусственного интеллекта, утверждающих, что их чат-боты поощряют самоубийство. Это первый судебный процесс по делу о неправомерной смерти, связанный с ИИ-чат-ботом, нацелившимся на Microsoft, и первый, который связывает чат-бота с убийством, а не с самоубийством. Он требует неопределённую сумму компенсации и приказ, требующий от OpenAI установить защитные меры в ChatGPT.

Ведущий юрист наследства, Джей Эдельсон, известный тем, что брался за крупные дела против технологической индустрии, также представляет родителей 16-летнего Адама Рейна, который подал в суд на OpenAI и Altman в августе, утверждая, что ChatGPT ранее обучал мальчика из Калифорнии планировать и покончить с собой.

OpenAI также ведёт борьбу с семью другими исками, утверждающими, что ChatGPT довёл людей к самоубийству и вредным бредом, даже если у них не было ранее проблем с психическим здоровьем. Другой производитель чат-ботов, компания Character Technologies, также сталкивается с несколькими исками о неправомерной смерти, включая иск от матери 14-летнего мальчика из Флориды.

«Это невероятно душераздирающая ситуация, и мы рассмотрим документы, чтобы понять детали», — заявил представитель OpenAI. «Мы продолжаем совершенствовать обучение ChatGPT, чтобы распознавать и реагировать на признаки психического или эмоционального стресса, снижать эскалацию разговоров и направлять людей к реальной поддержке.»

Представители Microsoft не сразу ответили на запрос о комментарии.

Галлюцинации

«Эти компании должны отвечать за свои решения, которые навсегда изменили мою семью», — заявил сын Зёлберга, Эрик Зёльберг.

Согласно жалобе, Стайн-Эрик Зёлберг в июне опубликовал в социальных сетях видео с разговором, в котором ChatGPT сообщил ему, что у него есть «божественное познание» и он пробудил сознание чат-бота. В иске говорится, что ChatGPT сравнил его жизнь с фильмом «Матрица» и поддерживал его теории о том, что люди пытаются его убить.

Соэлберг использовал GPT-4o — версию ChatGPT, которую критиковали за якобы льстие по отношению к пользователям.

В жалобе говорится, что ChatGPT сообщил ему в июле, что принтер Адамса мигал, потому что против него использовался устройство наблюдения. Согласно жалобе, чат-бот «подтвердил убеждение Стейн-Эрика о том, что его мать и друг пытались отравить его психоделическими препаратами, распространяемыми через вентиляционные отверстия его автомобиля», прежде чем он убил свою мать 3 августа.