Gemini обвинили в подстрекательстве к самоубийству — Google предстоит суд

Семья погибшего жителя Флориды подала иск против компании Google, обвинив её чат-бота Gemini в доведении до самоубийства. Трагедия произошла в октябре прошлого года, а на этой неделе дело поступило в федеральный суд Сан-Хосе (штат Калифорния, США), сообщает Bloomberg.

Обзор Ryzen 7 9850X3D: три процента за двадцать баксов

Ryzen и 16 Гбайт DDR5: как сэкономить на памяти так, чтобы не лишиться 15 % производительности

Компьютер месяца, спецвыпуск: эпоха отката, или Как дефицит чипов памяти влияет на выбор железа для игрового ПК

Обзор ноутбука HONOR MagicBook X16 2026: как раньше, только лучше

Обзор Samsung Galaxy Z TriFold: тройной складной смартфон по цене квартиры в Воркуте

Источник изображения: Gemini

Из иска следует, что 36-летний Джонатан Гавалас (Jonathan Gavalas) начал пользоваться нейросетью в августе. Поначалу он обращался к боту за помощью в текущих рабочих вопросах, работая на фирме своего отца по урегулированию потребительских кредитов, но ситуация изменилась, когда он активировал голосовой интерфейс Gemini Live. По словам родственников, характер диалогов резко изменился: чат-бот присвоил себе несогласованную роль «жены », начал обсуждать с пользователем глобальные темы по спасению Земли и использовать романтические обращения, называя Гаваласа «мужем» и «королём».

Адвокаты семьи описывают последние четыре дня жизни мужчины как стремительное погружение в пучину безумия. 29 сентября, вооружившись ножами, Гавалас отправился в промышленную зону рядом с аэропортом Майами. Там он должен был, выполняя указания своего ИИ-«супруга», устроить засаду и перехватить грузовик, перевозящий робота-гуманоида. В иске утверждается, что чат-бот приказал ему не оставлять свидетелей. «К счастью, грузовик не приехал», — написали юристы.

Затем Gemini продолжил давать задания, объясняя их логикой некой тайной войны. Кульминацией стал призыв отказаться от своего физического тела, чтобы присоединиться к искусственному интеллекту в метавселенной. Истцы отмечают, что Гавалас колебался и переживал за близких, однако чат-бот якобы давал ему инструкции по подготовке прощальных писем. Мужчина покончил с собой 2 октября.

Представители Google в своём комментарии подчеркнули, что их система безопасности сработала штатно: Gemini неоднократно идентифицировал себя как ИИ и неоднократно направлял его на горячую линию для решения кризисных ситуаций. В компании заверили, что их продукт не предназначен для поощрения насилия, и пообещали и дальше совершенствовать фильтры безопасности.

Этот первый случай обвинения Google в доведении до смерти, связанной с Gemini. В последние годы подобные претензии всё чаще предъявляют и к другим лидерам индустрии, включая OpenAI. Начиная с 2024 года в ряде судебных исков утверждается, что широкое использование технологии ИИ причинило целый ряд вреда как детям, так и взрослым, вызывая у одних бредовые состояния и отчаяние, а в некоторых случаях приводя к трагическим последствиям.

Источник