Представьте ситуацию: вы оказались на скамье подсудимых, а ключевую улику против вас на самом деле никто и никогда не видел вживую. Её просто сочинила программа — а сотрудник органов выдал выдумку за реальные факты. Похоже на страшилку из фантастического сериала, правда? Но именно это сейчас пытаются доказать британские следователи, и история уже вышла далеко за пределы одного полицейского участка.
В графстве Дербишир разгорелся скандал, аналогов которому в британской юриспруденции ещё не было. Одного из действующих сотрудников полиции временно отстранили от службы и завели против него уголовное дело — формулировка звучит как «препятствование осуществлению правосудия».
Суть претензий проста и одновременно пугающа: следствие подозревает, что офицер поручил нейросети сформировать материалы, которые впоследствии легли в основу реальных судебных разбирательств. То есть машина, по сути, могла придумать содержание доказательств, а человек лишь подписался под результатом как под собственной работой.
Пресс-служба ведомства подтвердила сам факт разбирательства, но подробностей пока раскрывать не стала — сослались на раннюю стадию проверки. Обвиняемого не назвали, задерживать пока не стали, зато с патрулирования улиц сняли моментально.
По имеющимся у журналистов данным, речь может идти о свидетельских показаниях — а работать с ними при помощи генеративных нейросетей в британской полиции строго запрещено регламентом. Если формулировать проще: закон разрешает роботу разве что подсказывать, но никак не решать за человека судьбу другого человека.
Прокуратура уже подключилась к проверке и параллельно связывается с адвокатами по всем делам, где мог фигурировать этот же сотрудник. А это значит, что под сомнением рискуют оказаться далеко не одно уголовное производство, а сразу целая пачка приговоров.
А теперь — самое неудобное. Ровно за несколько дней до того, как история попала в прессу, британские власти с помпой запустили национальный проект PoliceAI — единый центр, который должен внедрить нейросети во все 43 полицейских подразделения Англии и Уэльса разом.
Бюджет проекта — порядка 75 миллионов фунтов, а общая программа цифровизации органов оценивается почти в 140 миллионов. Заявленная цель звучит благородно: избавить сотрудников от бумажной волокиты и сэкономить им около шести миллионов рабочих часов уже к 2028 году.
На торжественной презентации временно исполняющий обязанности директора центра публично заявил, что ему неизвестен ни один судебный процесс, развалившийся из-за некорректного использования искусственного интеллекта. Не прошло и недели, как эта уверенность затрещала по швам буквально в соседнем графстве.
Министр, курирующая работу полиции, публично назвала произошедшее наглядным примером того, к чему приводят недостаточное обучение сотрудников и отсутствие чётких границ применения технологий.
«Это именно то, к чему ведёт нехватка подготовки персонала и отсутствие должных ограничений при использовании искусственного интеллекта», — заявила чиновница, комментируя дело.
Примечательно, что несмотря на скандал, само ведомство официально не стало запрещать сотрудникам пользоваться нейросетями в целом — их по-прежнему применяют, например, для редактирования документов, правда, с обязательной ручной перепроверкой перед подачей в суд.
Если оглянуться чуть шире, выяснится, что это далеко не первая осечка машин на службе закона. Буквально накануне похожий скандал разразился и в США: там выявили как минимум 18 случаев, когда полицейские использовали систему автоматического распознавания автомобильных номеров для слежки за бывшими партнёрами и личными знакомыми — то есть в целях, никак не связанных со служебными обязанностями. Часть этих сотрудников уже была задержана.
Были у нейросетей и откровенно комичные провалы. В одном из американских штатов программа для автогенерации протоколов умудрилась превратить полицейского в тексте документа в… лягушку — алгоритм принял звучавшую на фоне мультипликационную песню за часть релевантной информации. А в другом регионе стражи порядка отчитывались о задержании несуществующих торговцев наркотиками, попросту сгенерировав фотографии несуществующих спецопераций.
Есть и обратный пример: буквально на днях в британском суде уже сама нейросеть, а не человек, полностью подготовила гражданский иск — собрала доказательную базу, составила свидетельские показания и весь пакет документов, доведя дело до трёхчасового заседания без единого живого юриста на этапе подготовки. Заявительница сэкономила колоссальную сумму на юридических услугах. Получается парадокс: там, где искусственный интеллект действовал открыто и под контролем, всё прошло гладко, а там, где кто-то попытался выдать его работу за собственную — начался уголовный скандал.
Согласно международной базе данных, которая фиксирует сбои искусственного интеллекта в работе государственных структур по всему миру, только за минувший год набралось порядка трёхсот пятидесяти подобных инцидентов. Больше половины из них связаны именно с ошибками распознавания и анализа информации — а это напрямую бьёт по решениям, которые принимаются «на земле».
Юридически же ситуация до сих пор висит в воздухе: официально выводы нейросети в британском правосудии считаются лишь «рекомендацией», а не готовым решением. Но грань между рекомендацией и подменой человеческой работы, как показал дербиширский случай, оказалась слишком тонкой.
Если обвинения подтвердятся, дело станет первым в истории британского правосудия прецедентом такого рода — и, по мнению юристов, способно потянуть за собой волну пересмотров уже вынесенных приговоров. Одновременно эксперты по цифровой криминалистике всё громче говорят о том, что судам пора обзаводиться инструментами для проверки подлинности «доказательств», сгенерированных машиной.
Получается любопытная картина: одни и те же технологии одновременно помогают выигрывать дела честно и позволяют кому-то фальсифицировать их бесчестно. Вопрос лишь в том, кто и с какой целью нажимает на кнопку «сгенерировать».
А как считаете вы — можно ли вообще подпускать искусственный интеллект к сбору доказательств, или граница должна быть железной? Пишите в комментариях, обсудим.