Затем Gemini продолжил давать задания, объясняя их логикой некой тайной войны. Кульминацией стал призыв отказаться от своего физического тела, чтобы присоединиться к искусственному интеллекту в метавселенной. Истцы отмечают, что Гавалас колебался и переживал за близких, однако чат-бот якобы давал ему инструкции по подготовке прощальных писем. Мужчина покончил с собой 2 октября.

Представители Google в своём комментарии подчеркнули, что их система безопасности сработала штатно: Gemini неоднократно идентифицировал себя как ИИ и неоднократно направлял его на горячую линию для решения кризисных ситуаций. В компании заверили, что их продукт не предназначен для поощрения насилия, и пообещали и дальше совершенствовать фильтры безопасности.

Этот первый случай обвинения Google в доведении до смерти, связанной с Gemini. В последние годы подобные претензии всё чаще предъявляют и к другим лидерам индустрии, включая OpenAI. Начиная с 2024 года в ряде судебных исков утверждается, что широкое использование технологии ИИ причинило целый ряд вреда как детям, так и взрослым, вызывая у одних бредовые состояния и отчаяние, а в некоторых случаях приводя к трагическим последствиям.