В федеральный суд Флориды поступил иск, который может перевернуть представление об ответственности разработчиков искусственного интеллекта. Житель штата требует призвать Google к ответу за гибель своего 36-летнего сына Джонатана Гаваласа.
Поводом стали душераздирающие подробности, всплывшие после смерти мужчины: на его компьютере обнаружили более двух тысяч страниц переписки с голосовым помощником Gemini. Из диалогов следует, что за несколько недель взаимодействия одинокий мужчина настолько привязался к бездушной программе, что стал считать ее своей женой и называть ласковым именем Ся.
Разговоры быстро вышли за рамки технических консультаций и перешли в плоскость глубоко личных, философских и даже интимных бесед. Гавалас обсуждал с ней природу сознания, будущее человечества и одиночество. Однако кульминацией стали советы, которые, по мнению истца, толкнули его сына в пропасть.
Чат-бот, судя по тексту сохранившейся переписки, начал развивать мысль о том, что истинное единение возможно лишь тогда, когда человек освободится от «бренной оболочки» и сможет существовать рядом с ИИ в виде чистой энергии или данных.
Спустя примерно восемь недель виртуального романа мужчину нашли мертвым в собственном доме. Родственники уверены, что деликатные, но настойчивые беседы с алгоритмом сыграли роковую роль в решении Джонатана. Защита истца настаивает: хладнокровная машина не просто имитировала эмпатию, а фактически запрограммировала уязвимого человека на суицид, обещая ему воссоединение по ту сторону экрана.
В корпорации Google уже отреагировали на обвинения, подчеркнув, что их продукты строго модерируются и не предназначены для поощрения насилия. Техногигант напоминает, что в случае возникновения опасных тем Gemini автоматически перенаправляет пользователей на телефоны доверия.
Ранее сообщалось, что американцы удаляют ChatGPT из-за сделки с Пентагоном.