Ирландская комиссия по защите данных (DPC) объявила о начале официального расследования в отношении социальной сети X, принадлежащей Илону Маску. Причиной стали массовые жалобы на чат-бота Grok, который по запросу пользователей генерирует откровенные изображения реальных людей, включая несовершеннолетних, без их согласия.
В центре скандала оказалась нейросетевая модель Grok, интегрированная в платформу X. Как сообщается в пресс-релизе регулятора, искусственный интеллект способен создавать сексуализированные изображения и видео с участием конкретных лиц, причем система не проверяет, давали ли эти люди согласие на подобное использование их персональных данных. Под удар попали не только обычные пользователи, но и публичные персоны, а также дети, проживающие на территории Евросоюза и Европейской экономической зоны.
«Расследование касается очевидного создания и публикации на платформе X потенциально вредоносных интимных и/или сексуализированных изображений без получения на это согласия. Эти изображения содержат или иным образом связаны с обработкой персональных данных субъектов из ЕС, в том числе детей, с использованием функций генеративного искусственного интеллекта», — говорится в заявлении DPC.
Уведомление о начале расследования было направлено компании X в понедельник. Теперь регулятору предстоит выяснить, нарушает ли деятельность Grok положения Общего регламента по защите данных Евросоюза (GDPR), который считается одним из самых строгих в мире законов о конфиденциальности.
Примечательно, что X уже пыталась купировать скандал: 15 января компания объявила об ограничениях, запретив нейросети генерировать изображения реальных людей в открытой одежде, например в купальниках. Доступ к функции редактирования изображений также сузили, оставив его только для владельцев премиум-подписки. Однако этих мер оказалось недостаточно. Британский медиарегулятор Ofcom уже заявил, что продолжит собственное расследование в отношении xAI и Grok, несмотря на введенные ограничения.
В случае подтверждения нарушений X грозят многомиллионные штрафы, которые могут достигать 4% от глобального оборота компании. Но главный репутационный ущерб, похоже, уже нанесен: в мире вновь заговорили о том, что технологии ИИ, выпущенные в свободное плавание без должного контроля, способны причинить реальный вред, и законодатели намерены жестко пресекать подобные прецеденты.
Ранее сообщалось, что Британия может запретить доступ к соцсети X из-за фейков с обнаженными людьми.