Опасность, которую искусственный интеллект (ИИ) представляет для общества, становится всё более очевидной и вызывает значительное беспокойство у ведущих специалистов по всему миру.
Недавний отчет International AI Safety Report, подготовленный 96 учеными под руководством лауреата престижной премии в сфере информатики Тьюринга Йошуа Бенжио, ярко демонстрирует масштабы данной проблемы.
Наиболее тревожным является недостаточное внимание к вопросам безопасности при проектировании и внедрении ИИ-систем. Стремление к созданию более мощных и «умных» алгоритмов затмевает важные аспекты контроля и предсказуемости их работы. Системы, обученные на больших объемах данных, могут находить скрытые закономерности и использовать их неординарным образом, что может восприниматься как манипуляция или обман.
Ученые настоятельно призывают правительства всех стран сосредоточиться не на развитии ИИ, а на его безопасности. Управление рисками требует не только технических мер, но и международного сотрудничества, строгих стандартов и прозрачности со стороны разработчиков, утверждается в докладе.
Эксперт Дмитрий Штаненко рассказал о мошенничестве в сфере ИИ, и о том, как аферисты используют передовые технологии.
Искусственный интеллект в поисковике Google продвигает вредоносные сайты.