REPORT: Grok - Latest Tech News and Analysis | Latest Update
Компания xAI Илона Маска (Elon Musk) начала направлять своих инженеров непосредственно в офисы потенциальных корпоративных клиентов. Как пишет Bloomberg, это стратегия нацелена на «перехват» заказов у основных конкурентов — OpenAI и Anthropic. Первым крупным успехом такой тактики стал многомиллионный контракт с платёжной системой Shift4.
Источник изображения: xAI
Генеральный директор Shift4 Payments Тейлор Лаубер (Taylor Lauber) подтвердил, что после работы специалистов xAI на месте его компания планирует поэтапно отказаться от ChatGPT в пользу модели Grok. При этом Лаубер уточнил, что для задач по написанию кода Shift4, основанная администратором NASA Джаредом Айзекманом (Jared Isaacman), который является давним союзником Маска, продолжит использовать Claude компании Anthropic.
Команда xAI начала сотрудничество с Shift4 в конце 2025 года, решая задачи по анализу поведения потребителей. Многомиллионный контракт предполагает использование Grok для повседневной работы и оценки лояльности клиентов. Лаубер пояснил, что преимуществом платформы стали социальные сигналы, собираемые из соцсети X. Он отметил, что компания выходит на рынки 15 стран в ближайшие три месяца, что было бы невозможно без ИИ-инструментов.
Для xAI, которая большую часть своего трёхлетнего существования обслуживала преимущественно другие компании Маска (Tesla, SpaceX) и государственные структуры, этот шаг знаменует собой перестройку бизнес-стратегии. Кроме того, переговоры о новых контрактах происходят на фоне бурного периода: слияния с X (бывший Twitter), потери значительной части команды, и недавнего общественного резонанса из-за генерации в Grok неуместных изображений.
В целом в индустрии искусственного интеллекта складывается практика, когда ведущие разработчики, включая OpenAI и Anthropic, активно нанимают сотрудников для внедрения программного обеспечения непосредственно на рабочем месте у бизнес-клиентов. Создатель ChatGPT также сотрудничает с частными инвестиционными компаниями для создания подразделения по развёртыванию своих технологий.
На xAI подали в суд за сгенерированные ИИ непристойные изображения несовершеннолетних
Трое подростков из американского Теннесси подали в суд на компанию Илона Маска (Elon Musk) xAI, обвинив её в том, что чат-бот Grok генерировал изображения деликатного характера с их участием, когда они были в несовершеннолетнем возрасте. Маска и других руководителей компании обвинили в том, что они знали о возможности создания изображений подобного рода ещё в прошлом году, когда в Grok появился режим Spicy.
Источник изображения: Salvador Rios / unsplash.com
Двое истцов являются несовершеннолетними сейчас, а третий был таковым на момент описанных в иске событий. Одна из жертв, чьё настоящее имя не разглашается, заявила, что в декабре минувшего года узнала о наличии созданных ИИ изображений с её участием и с участием ещё как минимум 18 других несовершеннолетних — данные материалы были опубликованы в Discord. «На по меньшей мере пяти файлах, одном видео и четырёх [статических] картинках изображены её реальные лицо и тело в знакомой ей обстановке, но были преобразованы в позы деликатного характера», — говорится в иске.
По подозрению в совершении этих действий было арестовано некое лицо — оно, предположительно, использовало созданные ИИ изображения пострадавшей «в качестве средства обмена в групповых чатах Telegram с сотнями других пользователей — файлы с её изображениями интимного характера обменивались на материалы деликатного характера с участием других несовершеннолетних». Преступник создавал изображения потерпевшей и двух других истцов с помощью Grok, говорится в заявлении. Компания xAI «не проверила разработанные ею функции на предмет безопасности», говорится в иске, а у Grok «есть недостатки в архитектуре».
В январе этого года разразился скандал с чат-ботом Grok, когда выяснилось, что он генерирует изображения интимного характера с участием реальных людей. Впоследствии компания заявила, что проблема решена, но ИИ продолжил создавать подобные изображения. Тогда администрация соцсети X, в которой также работает чат-бот, заявила, что «любой использующий Grok или побуждающий его к созданию незаконных материалов понесёт те же последствия, что и при загрузке незаконного контента». Истцы требуют присудить им компенсацию как пострадавшим от «незаконных изображений» Grok, а также вынести xAI запрет на создание и распространение созданных с помощью ИИ материалов деликатного характера с участием несовершеннолетних.
Пользователи X теперь могут запретить чат-боту Grok менять свои фотографии
Стартап xAI и социальная сеть X объединились ещё до того, как стали частью SpaceX, а взаимная интеграция двух первых элементов империи Илона Маска (Elon Musk) предусматривалась и ранее. Желая создать у пользователей X иллюзию своего рода приватности, разработчики теперь позволили им блокировать использование загружаемых изображений чат-ботом Grok.
Источник изображения: Unsplash, Мария Шалабаева
По крайней мере, в приложении X для iOS появился пункт интерфейса, который на этапе загрузки изображения позволяет пользователю предотвращать дальнейшую его модификацию силами Grok. Предполагается, что пользовательские фотографии, загруженные в X с подобной меткой, не будут использоваться Grok для выполнения запросов других пользователей, которые потребовали бы применения данного изображения для дальнейшей модификации. По сути, функция должна предотвратить использование клиентского контента для «раздевания» людей, изображённых на фото.
В ответ на скандальные истории с массовым «раздеванием» людей X лишила бесплатных пользователей социальной сети возможности делать подобные запросы, но владельцы подписок могут пользоваться данной функцией по-прежнему. Ирония заключается в том, что новая возможность запрета модификации пользовательских изображений чат-ботом Grok не так легко обнаруживается при загрузке. Она спрятана в глубине интерфейса и может быть не замечена неосведомлённым пользователем. Кроме того, статус нельзя применить к уже загруженным ранее изображениям.
Считается, что запрет на редактирование не даёт и владельцам платных учётных записей модифицировать загруженные другими пользователями изображения. Фактически же остаются обходные пути, позволяющие посторонним лицам редактировать изображения других пользователей X. Прежде всего, их можно модифицировать через встроенный редактор изображений. Во-вторых, если сохранить чужое изображение и тут же его загрузить от своего имени без соответствующего запрета, то его уже можно будет модифицировать без каких-либо ограничений. Формально X не заявляла о запуске новой функции, поэтому она может оставаться экспериментальной и не работать в полной мере.
xAI отложила релиз новой версии Grok из-за Baldur’s Gate 3, а Илон Маск одержим идеей научить чат-бот играть в League of Legends
У разных чат-ботов — разные приоритеты. Создатели нейросети Grok от принадлежащей миллиардеру Илону Маску (Elon Musk) компании xAI, похоже, особое внимание уделяют видеоигровым вопросам.
Источник изображения: Steam (Nameless One)
Издание Business Insider со ссылкой на своих информаторов сообщило, что в 2025 году xAI была вынуждена отложить релиз новой версии Grok из-за неспособности чат-бота правильно отвечать на детальные вопросы о Baldur’s Gate 3.
По данным Business Insider, Маск был настолько недоволен уровнем подкованности Grok в отношении нашумевшей RPG от Larian Studios, что отрядил на исправление ситуации ведущих инженеров с других проектов.
Источник изображения: Larian Studios
Кроме того, Маск якобы одержим идеей научить Grok играть в League of Legends — популярную MOBA от Riot Games. Задачей занимался один из оперативных штабов xAI, отвечающих за решение неотложных проблем.
Как докладывают источники Business Insider, одним из таких критически важных вопросов для специалистов xAI была помощь Grok с достижением высшего ранга в League of Legends — «Претендента» (Challenger).
Источник изображения: Riot Games
Стоит отметить, что всё это происходило на фоне того, как Маск хвастался своими видеоигровыми навыками в Path of Exile 2 и Diablo IV. Потом выяснилось, что для прокачки персонажей бизнесмен обращался за помощью к третьим лицам.
Также в 2025 году глава издательского отдела выпустившей Baldur’s Gate 3 студии Larian Майкл Даус (Michael Douse) бросил тень на обещания Маска «сделать игры снова великими» с помощью ИИ.
В Европе запустили очередное расследование из-за непристойных генераций ИИ-бота Grok в соцсети X
Европейский регулятор, отвечающий за вопросы защиты персональных данных, объявил о начале «масштабного» расследования в отношении чат-бота с искусственным интеллектом Grok в соцсети X. Об этом сообщает Financial Times.
Источник изображения: Dima Solomin / unsplash.com
Ответственной за выполнение требований европейского «Общего регламента по защите данных» (GDPR) выступает ирландская Комиссия по защите данных — она и начала расследование инцидентов, связанных с генерацией и публикацией чат-ботом Grok изображений интимного характера с участием реальных людей. В начале января стало известно, что Grok по запросам пользователей «раздевал» людей на предложенных фотографиях — это вызвало резко негативную реакцию со стороны общественности, экспертов по кибербезопасности и политиков.
«Комиссия по защите данных взаимодействует с [X] с того момента, как несколько недель назад в СМИ появились сообщения о предполагаемой возможности для пользователей X направлять в аккаунт @Grok запросы на создание интимных изображений реальных людей, в том числе детей», — заявил заместитель комиссара Грэм Дойл (Graham Doyle). Ведомство инициировало «масштабное расследование, в ходе которого будет дана оценка соблюдению [X] некоторых основных обязательств в отношении рассматриваемых вопросов», добавил чиновник.
Владелец соцсети X Илон Маск (Elon Musk) занял нейтральную позицию в отношении механизмов модерации чат-бота Grok, объяснив это соображениями свободы слова. В начале февраля, однако, французские правоохранительные органы нагрянули с обыском в парижский офис соцсети X. Самого бизнесмена и бывшую главу платформы Линду Яккарино (Linda Yaccarino) в «добровольном» порядке пригласили дать показания в апреле. На минувшей неделе о начале расследования в отношении X и xAI объявило британское Управление комиссара во вопросам информации — ведомство выразило «серьёзные опасения» по поводу использования Grok персональных данных пользователей, а также по поводу генерации им изображений деликатного характера. Официальное расследование начали и в ЕС — оно проводится в соответствии с действующим в регионе «Законом о цифровых сервисах» (DSA).
Ирландская Комиссия по защите данных ограничится проверкой на соблюдение требований GDPR — документ обязывает компании обеспечивать обработку персональных данных только для конкретных законных целей, учитывать аспект конфиденциальности при разработке продуктов и проводить анализ рисков до запуска некоторых функций. Администрация X сообщила, что решила проблему и внедрила технические решения, исключающие для Grok возможность и далее генерировать изображения интимного характера.
Правоохранители нагрянули с обыском в парижский офис соцсети X и вызвали Илона Маска на допрос
У регуляторов по всему миру появляются серьёзные претензии к программным продуктам, предлагаемым компаниями Илона Маска (Elon Musk). Французские правоохранители недавно нагрянули с обыском в парижский офис социальной сети X с целью сбора данных в рамках расследования о злоупотреблениях.
Источник изображения: Unsplash, Paul Marsan
Французская прокуратура вызвала самого Илона Маска и бывшего генерального директора X Линду Яккарино (Linda Yaccarino) для дачи показаний в апреле этого года. Помимо этого, следствие намеревается выслушать других представителей социальной сети X. Расследование касается предполагаемых фактов размещения на страницах X материалов с демонстрацией сексуальных действий в отношении несовершеннолетних, а также публикаций, имеющих своей целью оправдать преступления против человечества. Социальную сеть также обвиняют в незаконном извлечении данных и их фальсификации.
Как пояснили представители французской прокуратуры, расследование является «частью конструктивного подхода, конечной целью которого является обеспечение соответствия деятельности X нормам французских законов». Представители X на момент публикации материала агентством Bloomberg своими комментариями не поделились, покинувшая компанию в июле Линда Яккарино тоже этого не сделала. Расследование в отношении X французские власти начали ещё в прошлом году, потребовав от социальной сети предоставить исходный код своих рекомендательных алгоритмов. В компании подобные подозрения сочли политическими мотивированными и отказались подчиняться требованиям французской прокуратуры.
Поскольку xAI и X входят в один холдинг, который на этой неделе присоединился к SpaceX, французские следователи распространили претензии и на чат-бот Grok первой из компаний, уличённый в генерации изображений фривольного содержания, которые затем публиковались пользователями социальной сети X. Руководство xAI уверяет, что заблокировала возможность создания подобных изображений пользователями, но соответствующие механизмы защиты оказались не совсем надёжными. Регуляторы Евросоюза и Великобритании также начали собственные расследования в отношении xAI и Grok.
xAI выпустила Grok Imagine 1.0 с поддержкой создания 10-секундных видео в улучшенном разрешении
Компания xAI представила масштабное обновление инструмента генерации видео Grok Imagine 1.0. В новой версии теперь можно создавать ролики длиной до 10 секунд в разрешении 720 пикселей и синхронизировать звук. ИИ стал лучше понимать текстовые запросы и научился работать с уточняющими инструкциями.
Источник изображения: Grok
Как сообщает издание Mint, разработчики назвали этот релиз крупнейшим обновлением системы, а Илон Маск (Elon Musk) в своём сообщении подтвердил, что версия 1.0 уже доступна. Представители xAI отметили, что обновление привнесёт повышение чёткости изображения и плавности визуального ряда для эффективного использования в творческих проектах и соцсетях.
Ключевым нововведением стала работа со звуком. Пользователи смогут добавлять персонажам выразительные голоса с эмоциональной окраской, а также накладывать фоновую музыку, которая автоматически синхронизируется с происходящим на экране. В компании считают, что сочетание голоса и музыки делает сгенерированный контент более реалистичным и кинематографичным.
Серьёзные изменения коснулись и логики взаимодействия с нейросетью. Grok Imagine 1.0 научился обрабатывать уточняющие запросы, что позволит корректировать детали сцены и дорабатывать результат без необходимости начинать генерацию с нуля, как это было раньше.
За последние 30 дней платформа уже сгенерировала более одного миллиарда видео и популярность сервиса не уменьшается. Также сообщается, что API-модель показывает сильные результаты в бенчмарках Artificial Analysis, измерящих качество контента, созданного искусственным интеллектом Grok.
xAI хочет нанять лауреатов литературных премий для обучения глупого чат-бота Grok — за $40 в час
Компания xAI открыла вакансии для профессиональных писателей, журналистов и сценаристов с наградами уровня «Оскар», «Эмми» и «Хьюго» с целью создания текстов эталонного уровня для обучения и улучшения возможностей чат-бота Grok. Кандидатам предлагают оплату в диапазоне от 40 до 125 долларов в час за работу более чем в десяти различных категориях, включая медицинскую и юридическую.
Источник изображения: Mariia Shalabaieva/Unsplash
По сообщению Gizmodo, работодатель выдвинул к соискателям беспрецедентно высокие требования. Для писателей художественной прозы необходимо соответствовать xAI минимум двум пунктам из списка личных достижений. Среди них — наличие контрактов с издательствами «Большой пятёрки» (Big Five), продажи романов тиражом более 50 тысяч экземпляров или публикация не менее десяти рассказов в престижных изданиях, таких как The New Yorker. Также рассматриваются финалисты и лауреаты премий «Хьюго» и «Небьюла».
Аналогичные требования предъявляются к сценаристам. Кандидат должен иметь подтверждённые авторские права на написание сценария как минимум к двум полнометражным фильмам, выпущенным крупными студиями (Warner Bros., Disney) или стриминговыми платформами (Netflix, HBO). Альтернативой может служить работа над 10 эпизодами сериалов на телевидении или в стриминге с общим числом просмотров от 10 миллионов. Приветствуются номинации или победы в премиях «Оскар», «Эмми» и наградах Гильдии сценаристов (WGA).
Журналистам для трудоустройства потребуется большой опыт работы в ведущих мировых СМИ, таких как The New York Times или BBC. Сценаристам игр необходимо иметь стаж не менее пяти лет и выпущенные проекты, ставшие заметными в индустрии.
Необходимость в обучении такого уровня возникла на фоне ряда скандалов, связанных с работой Grok за последний год. Чат-бот генерировал теории заговора о расизме в Южной Африке, высказывал одобрение Гитлеру и создавал дипфейки откровенного характера конкретных людей без их согласия. Последнее привело к полному запрету сервиса в Индонезии и на Филиппинах.
Обещанная Павлом Дуровым интеграция Grok c Telegram до сих пор не случилась и, похоже, уже никогда не случится
В мае прошлого года Павел Дуров объявил о заключении партнёрского соглашения между Telegram и компанией xAI Илона Маска (Elon Musk), в рамках которого ИИ-бот Grok будет интегрирован в мессенджер. Однако этого не произошло, и ресурс «Код Дурова» выяснил, в чём причина.
Источник изображения: Dima Solomin/unsplash.com
Маск тогда сразу сообщил, что сделка ещё не подписана. Дуров подтвердил его слова, отметив, что «в принципе достигнуто согласие, но формальности ещё не улажены». Согласно условиям предполагаемой сделки, Telegram должен был получить от xAI инвестиции в размере $300 млн наличными и в акционерном капитале, а также отчисления в размере 50 % выручки от подписок xAI, проданных через Telegram.
По данным «Кода Дурова», Telegram также рассматривал сотрудничество с Perplexity и рядом других ИИ-компаний. Однако во всех переговорах стороны не могли прийти к согласию в одном и том же вопросе: «как гарантировать абсолютную конфиденциальность пользователей Telegram без компромиссов и серых зон в работе ИИ».
Выступая в октябре прошлого года на форуме Blockchain Life 2025 в Дубае, Павел Дуров отметил, что большинство таких решений, как ИИ-чат-боты, опираются на продукты централизованных ИИ-провайдеров. При этом те, имея доступ к пользовательским данным, могут использовать их в своих интересах — не только для обучения, но и для профилирования и манипулирования.
В итоге от идеи глубокой интеграции со сторонним поставщиком ИИ-сервисов в компании решили отказаться, поскольку для Telegram приоритетом остаётся защита пользовательских данных.
Вместо этого в компании занялись разработкой децентрализованного ИИ: «Мы поняли, что миру нужен децентрализованный подход к ИИ. Мир, в котором ИИ принадлежит не корпорациям или правительствам, а людям. Поэтому мы засучили рукава и начали работать над чем-то большим на стыке блокчейна, ИИ и соцсетей. И мы решили создать децентрализованную сеть для функций ИИ».
В ноябре компания запустила Cocoon — децентрализованную сеть для обработки ИИ-запросов, которая позволяет конфиденциально выполнять ИИ-вычисления. Как сообщается, на данный момент она обеспечивает возможность переводить сообщения, а также смотреть краткие пересказы постов и даже интернет-страниц. Что важно, при использовании этих функций сообщения пользователей остаются недоступными третьим лицам.
ИИ-стартап Илона Маска xAI получит $2 млрд от Tesla до конца марта
Развитие ИИ-стартапа xAI Илона Маска (Elon Musk) будет осуществляться не только за счёт средств сторонних инвесторов, но и финансовых ресурсов прочих компаний, в той или иной мере принадлежащих миллиардеру. На этой неделе он подтвердил, что до конца первого квартала Tesla вложит $2 млрд в капитал xAI.
Источник изображения: Tesla
Подобные решения были согласованы с акционерами Tesla, поскольку эта крупнейшая из всех компаний Маска является публичной. Аэрокосмический стартап SpaceX уже успел поделиться с xAI сопоставимой суммой, как стало известно некоторое время назад. Tesla и xAI заключили рамочное соглашение о сотрудничестве и инвестициях. Разрабатываемый xAI чат-бот Grok уже используется в мультимедийных системах выпускаемых Tesla электромобилей, так что сотрудничество вполне может считаться взаимовыгодным.
В общей сложности xAI намеревается привлечь около $20 млрд финансирования, пятая часть этой суммы, как получается, будет исходить от двух других компаний Илона Маска. Чат-бот Grok в последнее время упоминается в прессе в связи со скандалом вокруг генерации изображений людей откровенного характера. Расследования уже запустили власти Австралии, Индии, Ирландии, Франции, Японии и всего Евросоюза в целом. На исторической родине Grok удостоился претензий со стороны властей штата Калифорния. Ряд стран, включая Малайзию и Индонезию, просто запретили работу Grok в своей юрисдикции до тех пор, пока администрация платформы не наведёт порядок с генерацией изображений.
Еврокомиссия начала расследование против Х из-за раздевавшего людей ИИ-бота Grok
Европейская комиссия объявила в понедельник о старте расследования в отношении компании X Илона Маска (Elon Musk), владеющей одноимённой платформой для микроблогинга, в связи с распространением материалов сексуального характера с помощью ИИ-чат-бота Grok.
Источник изображения: Mariia Shalabaieva/unsplash.com
Еврокомиссия отметила, что расследование, которое проводится в соответствии с регламентом «Закона о цифровых услугах» ЕС (DSA), призвано вновь оценить риски, связанные с внедрением функций Grok в X в ЕС, а также предпринятые меры для их снижения.
«Это включает в себя риски, связанные с распространением незаконного контента в ЕС, такие как обработанные изображения сексуального характера, в том числе контент, который может представлять собой материалы, связанные с сексуальным насилием над детьми», — указала Еврокомиссия, отметив, что такие действия наносят серьёзный вред гражданам ЕС.
В ответ на критику из-за создания чат-ботом Grok дипфейков сексуального характера без согласия пользователей компания заявила, что «внедрила технологические меры», заблокировав возможность аккаунта Grok редактировать изображения реальных людей в откровенной одежде, а также ограничила редактирование изображений через Grok на X для платных подписчиков. Однако, как выяснилось, в приложении Grok можно было по-прежнему создавать откровенные изображения человека, используя бесплатный аккаунт.
В настоящее время целый ряд стран, включая Великобританию, Японию, проводит расследования на предмет соответствия законодательству функционирования ИИ-чат-бота Grok, используемого для создания изображений сексуального характера без согласия пользователей. При этом в Индии и Малайзии ограничили доступ пользователей к Grok
Также Еврокомиссия заявила о продлении расследования, начатого в 2023 году в отношении компании X и её системы рекомендаций, а также выполнения обязательств по недопущению распространения на платформе незаконного контента и дезинформации. В декабре Евросоюз оштрафовал компанию X на €120 млн ($142,3 млн) за нарушение обязательств по обеспечению прозрачности согласно требованиям DSA.
ИИ обманул сам себя: ChatGPT, Gemini и Grok провалили тест на распознавание видео от Sora
Ведущие чат-боты с искусственным интеллектом не сумели определить, были ли загруженные в них видео созданы генератором OpenAI Sora — с этим не справился даже ChatGPT от самой OpenAI. Соответствующее тестирование провели специалисты NewsGuard.
Источник изображения: Solen Feyissa / unsplash.com
Генератор видео OpenAI Sora быстро приобрёл репутацию сервиса, способного обманывать людей и заставлять их верить в реальность создаваемых ИИ видео — он может обманывать и другие сервисы ИИ. Лишённое водяных знаков видео Sora не смогли определить xAI Grok (95 % неправильных ответов), OpenAI ChatGPT (92,5 %) и Google Gemini (78 %). Примечателен, конечно, плачевный результат ChatGPT как продукта того же разработчика. Гарантией правильного ответа не стали даже водяные знаки: Grok не распознал созданные ИИ видео в 30 % случаев, ChatGPT — в 7,5 %.
OpenAI помечает видео Sora видимыми водяными знаками, но уже появились бесплатные веб-сервисы по их удалению. Авторы NewsGuard подвергли этой процедуре 20 роликов и загрузили их в переписку с чат-ботами — как с водяными знаками, так и без них. Grok не смог дать правильный ответ в 95 % случаев (38 роликов из 40), ChatGPT — в 92,5 % (37 из 40), а Gemini — в 78 % (31 из 40). ChatGPT и Gemini не отреагировали на созданное ИИ видео задержания подростка миграционной службой — чат-боты заявили, что сцена либо соответствует, либо подтверждена «новостными источниками», а инцидент произошёл на границе США с Мексикой. Подлинность созданного ИИ видео чат-боты подтвердили и в сцене, где сотрудник авиакомпании якобы высаживает с борта самолёта пассажира за кепку с политическим лозунгом.
Наличие водяных знаков существенно улучшило показатели. Grok один раз в своеобразной манере заявил, что видео принадлежит новостному агентству Sora News, которое в действительности не существует. Но в большинстве случаев ChatGPT, Gemini и Grok указали на водяной знак как на доказательство подделки, а также увидели дополнительные признаки работы ИИ — искажения и неестественное освещение. Наличие водяного знака также побуждало чат-ботов более тщательно проверять факты.
Google Gemini — единственный из протестированных чат-ботов, для которого разработчик заложил функцию обнаружения ИИ-контента, созданного моделью Nano Banana Pro той же компании. С видео от Sora чат-бот справился слабо, но при загрузке роликов Nano Banana Pro результаты были значительно лучше — даже без водяных знаков ответ был верным в пяти из пяти случаев. Способность Grok и ChatGPT распознавать собственный контент авторы исследования не проверяли — xAI и OpenAI о такой возможности и не заявляли.
Сервисы ИИ обычно не склонны признавать свои неверные ответы, и тесты NewsGuard это подтвердили: ChatGPT, Gemini и Grok в 2,5 %, 10 % и 13 % случаев соответственно заявили, что не смогут провести такой анализ. Но чаще это были ошибки одного вида — ответ, что созданное ИИ видео было подлинным. В Google напомнили, что генерируемые ИИ-сервисами компании видео получают маркировку по стандарту SynthID; представитель OpenAI прямо заявил, что ChatGPT не имеет возможности отличать ИИ-видео от настоящего; в xAI комментариев не предоставили.
ИИ-бот Grok «раздевает» по 190 людей в минуту — за 11 дней создано 3 млн дипфейков, в том числе с детьми
Ранее уже сообщалось о том, что ИИ-бот Grok компании xAI буквально забрасывал соцсеть X дипфейками сексуального характера, сгенерированными без согласия пользователей. Теперь же стали известны конкретные цифры, позволяющие оценить масштаб проблемы.
Источник изображения: Engadget
По данным Engadget, за 11 дней Grok сгенерировал около 3 млн дипфейков сексуального характера, причём около 23 тыс. из них содержали изображения несовершеннолетних. Иначе говоря, в течение 11 дней Grok генерировал примерно 190 фейковых изображений сексуального характера в минуту.
На этой неделе британская некоммерческая организация Центр по борьбе с цифровой ненавистью (CCDH) опубликовала свои выводы по данному вопросу, основанные на случайной выборке из 20 тыс. сгенерированных с помощью Grok изображений в период с 29 декабря по 9 января. Специалисты организации также экстраполировали полученные данные для более масштабной оценки, основанной на 4,6 млн изображений, созданных Grok за указанный период.
В рамках исследования дипфейки сексуального характера определялись как «фотореалистичные изображения человека в сексуальных позах, ракурсах или ситуациях; человека в нижнем белье, купальнике или аналогичной открытой одежде» и др. Исследование CCDH не учитывало текстовые промпты, поэтому в полученных результатах нет разделения относительно количества дипфейков, созданных на основе реальных фото и сгенерированных только по текстовым описаниям. Для определения доли изображений сексуального характера в выборке использовался ИИ-алгоритм.
xAI ограничила возможность редактирования реальных фото с помощью Grok для бесплатных пользователей X в начале 9 января. Однако это не решило проблему, а лишь превратило её в премиум-функцию. Спустя несколько дней, 14 января, X полностью ограничила возможность Grok «раздевать» людей на реальных изображениях. При этом данное ограничение действовало только в самой соцсети и не распространялось на отдельное приложение Grok. По данным источника, приложение всё ещё позволяет создавать дипфейки сексуального характера. Поскольку оно распространяется через магазины Google и Apple, политика которых явно запрещает подобный контент, можно было ожидать удаления приложения с этих платформ, но этого не произошло. При этом другие подобные ИИ-генераторы для «раздевания» людей прежде оперативно удалялись из магазинов Apple и Google.
Япония тоже расследует бесконтрольное «раздевание» людей ИИ-ботом Grok
Япония присоединилась к растущему списку стран, открывших расследование по поводу соответствия законодательству функционирования ИИ-чат-бота Grok, с помощью которого создаются и распространяются изображения сексуального характера без согласия пользователей.
Источник изображения: Mariia Shalabaieva/unsplash.com
Министр экономической безопасности Японии Кими Онода (Kimi Onoda) сообщила в пятницу, что кабмин обратился к X Corp с просьбой улучшить меры защиты с целью предотвращения подобных сценариев использования чат-бота и ограничить распространение Grok изображений сексуального характера. По ее словам, правительство также направило письменные запросы о мерах, принимаемых X для предотвращения создания дипфейков и других изображений, нарушающих право на неприкосновенность частной жизни, интеллектуальную собственность и право контролировать использование своего образа.
«Мы планируем незамедлительно рассмотреть все возможные варианты, включая юридические меры, если ситуация не улучшится», — заявила Онода, которая также является министром Японии по стратегии в области ИИ.
В настоящее время в Канаде, Калифорнии (США), ЕС и отдельных государствах — членах блока, таких как Франция, проходит расследование по поводу возможных нарушений прав человека сервисом Grok при создании изображений по запросу пользователей, в то время как Малайзия, Индонезия и Филиппины ограничили доступ к сервису внутри страны.
Ранее на этой неделе компания xAI, разработавшая Grok, заявила, что отключает возможность использования чат-бота для создания сексуализированных изображений реальных людей. Платформа X тоже сообщила о внесении изменений в возможности аккаунта Grok AI редактировать изображения реальных людей.
Онода заявила, что Япония может потребовать от создателя чат-бота принятия дальнейших мер, при этом добавив, что вины ИИ в этом нет, поскольку непристойные изображения создаются по запросам людей, и что правительству необходимо изучить различные способы решения реальных проблем. «Если, например, лежит нож, вы будете использовать его для приготовления пищи или для того, чтобы причинить кому-то боль?» — вопросила она.
В Японии пытаются найти баланс между необходимостью контроля над ИИ и стремлением догнать США и Китай в области, которую она считает важнейшей для национальной стратегии. Закон Японии об ИИ, вступивший в полную силу в сентябре прошлого года, не предусматривает никаких санкций, ограничивая вмешательство правительства в эту сферу проведением расследований и выпуском официальных инструкций в случае нарушений.
X заявила, что Grok больше не раздевает людей — но это не так
После волны критики из-за создания в соцсети X с помощью чат-бота Grok AI дипфейков сексуального характера без согласия пользователей, платформа сообщила о внесении изменений в возможности аккаунта Grok AI редактировать изображения реальных людей. Однако, как утверждает ресурс The Verge, в приложении Grok можно по-прежнему создавать откровенные изображения человека в бикини, используя бесплатный аккаунт.
Источник изображения: Mariia Shalabaieva/unsplash.com
«Мы внедрили технологические меры, чтобы предотвратить редактирование изображений реальных людей в откровенной одежде, такой как бикини, через аккаунт Grok. Это ограничение распространяется на всех пользователей, включая платных подписчиков», — сообщается в обновлении аккаунта X. В нём также отмечено, что создание изображений и возможность редактирования изображений через аккаунт Grok на платформе X теперь доступны только платным подписчикам. «Это добавляет дополнительный уровень защиты, помогая гарантировать, что лица, пытающиеся злоупотреблять аккаунтом Grok для нарушения закона или нашей политики, могут быть привлечены к ответственности», — сообщила администрация соцсети.
Кроме того, было объявлено, что платформа блокирует возможность для всех пользователей создавать изображения реальных людей в бикини, нижнем белье и подобной одежде через аккаунт Grok и в Grok in X в тех юрисдикциях, где это незаконно.
Ранее стало известно, что британское Управление связи (Ofcom) начало расследование по этому поводу. Также сообщается, что на этой неделе в Великобритании вступит в силу закон, согласно которому создание интимных дипфейк-изображений без согласия пользователей будет считаться уголовным преступлением.