Новости дня

Все новости дня
Интернет

Исследователи обнаружили невидимые водяные знаки в текстах, сгенерированных GPT

OpenAI тестирует систему скрытой идентификации текстов GPT

Группа исследователей, разрабатывающих инструменты для сферы образования, выявила наличие незримых меток в текстах, генерируемых языковыми моделями GPT o4-mini, o4-mini-high и o3.

Исследователи обнаружили невидимые водяные знаки в текстах, сгенерированных GPT
Фото: «Шедеврум», Источник: «Яндекс»

Эти метки представляют собой неразрывные пробелы Unicode, хаотично расположенные в тексте, в особенности вблизи дат и аббревиатур. Хотя они незаметны в распространенных текстовых редакторах, таких как Word и Google Docs, их можно обнаружить в редакторах кода, например, Sublime Text и VS Code.

Подчеркивается, что водяные знаки проявляются только в объемных текстах. Это может свидетельствовать о том, что OpenAI проводит испытания системы скрытой идентификации для контроля студенческих работ, что особенно актуально после недавнего открытия бесплатного доступа к ChatGPT для учащихся.

По мнению разработчиков, данный метод может временно облегчить выявление сгенерированного текста, однако его эффективность будет недолгой, так как существуют простые способы удаления скрытых символов из текста.

Ранее мы писали, что у ИИ-модели Claude есть собственный моральный кодекс. Также Microsoft внедрила ИИ в стандартное приложение Windows 11.

Автор: Дмитрий Иванов

Читайте нас в телеграм
Продолжая использовать наш сайт, вы даете согласие на обработку файлов cookie, которые обеспечивают правильную работу сайта.Согласен