Где проходит реальная граница возможностей современного ИИ

Современные нейросети остаются сложным программным обеспечением, которое превосходит человека лишь в узкоспециализированных операциях. О появлении машинного самосознания и захвате мира алгоритмами говорить пока преждевременно. Об этом рассказал генеральный директор компании Zecurion Алексей Раевский.

Поводом для дискуссии стали заявления бывшего исследователя команды безопасности Google DeepMind Джоша Энгельса. Он предложил рассматривать ИИ не просто как технологию, а как потенциальный новый вид разумных существ с ценностями, кардинально отличными от человеческих. После увольнения из корпорации Энгельс присоединился к организации METR для изучения рисков гибели человечества в случае выхода технологий из-под контроля.

Раевский предлагает более прагматичный взгляд на ситуацию:

• Отсутствие воли: современные системы не обладают собственными желаниями. Они эффективно обрабатывают массивы данных исключительно для выполнения задач, поставленных пользователем.
• Аналогия с техникой: разрыв между биологическим разумом и кодом огромен.
  «У нас много машин, которые в чем-то превосходят человека: автомобиль быстрее перемещается, самолет умеет летать — человек этого даже близко не умеет», — пояснил эксперт.
• Границы алгоритма: даже при нестандартном решении проблемы программа действует строго в рамках заданных параметров. Однако эксперты опасаются, что жесткие ограничения могут иметь непредвиденные последствия, искажая внутреннюю логику суждений модели.

Специалист подчеркнул в комментарии для Pravda.Ru, что само понятие мышления трудно применимо к технике, пока наука точно не определит природу человеческой воли. Сценарий культового фильма «Терминатор», где система обретает волю и решает уничтожить человечество, остается теоретически возможным, но сейчас ИИ выступает исключительно в роли помощника.

Дальнейшая эволюция искусственного интеллекта зависит от целей, которые будет преследовать сам человек. При этом расширение прав автономных ИИ-агентов уже создает новые вызовы: возникают юридические риски при генерации контента, а массовая автоматизация начинает влиять на верификацию научных данных и уникальность открытий.