Эксперт призывает оценивать «чувствительность всего кадра». Безобидная на первый взгляд фотография часто выдает лишнее: рабочий экран с корпоративной почтой, адрес на картонной коробке от маркетплейса или случайного прохожего, который не давал согласия на передачу своих данных сторонней нейросети.
Риски не ограничиваются только алгоритмами. Доступ к загруженным снимкам имеют сотрудники и подрядчики ИИ-сервиса. В случае взлома или утечки базы данных эти изображения попадают в руки злоумышленников. Каракай отмечает, что фото используют для создания поддельных аккаунтов, дипфейков и сфабрикованного контента с целью шантажа.
«Самый понятный сценарий — поддельный аккаунт с настоящими именем и фотографией. С него могут обращаться к друзьям, родственникам или коллегам: просить деньги, присылать ссылки, предлагать передать документы. Для такой атаки иногда достаточно обычного снимка без сложной генерации», — пояснил эксперт Газете.Ru.
Особую опасность представляют снимки документов. Каракай настоятельно не рекомендует загружать в чат-боты фото паспортов, водительских удостоверений, банковских карт, пропусков, медицинских справок и рабочих документов.
При этом угроза может скрываться даже там, где нет явных документов. Системы распознавания текста легко считывают информацию с бейджей, экранов мониторов и записей на доске. Кроме того, метаданные самого файла (EXIF) часто хранят точные GPS-координаты, дату и время съемки. Если метаданные удалены, адрес могут выдать вывески магазинов, особенности интерьера или узнаваемые здания на фоне.
Чтобы обезопасить себя, кадр нужно готовить на своем устройстве до отправки.
«Если чувствительные детали можно убрать, это нужно сделать на своем устройстве до загрузки: обрезать кадр, удалить ненужные данные и проверить итоговый файл. Просьба к нейросети "замажь паспорт на заднем плане" предполагает, что исходник с паспортом уже отправлен сервису», — добавил Каракай.
Отключение функции «обучения на пользовательских данных» в настройках нейросети — это лишь полумера. Оно не гарантирует, что оригинал фото будет немедленно удален. Сроки хранения, доступ сотрудников и порядок уничтожения файлов зависят исключительно от внутренней политики конкретного сервиса.