Искусственный интеллект уже сегодня способен решать задачи широкого профиля, формировать стратегии и обгонять людей по уровню эрудиции. Однако до полной передачи ему управления сложными системами человечеству еще далеко. Об рассказал доцент факультета программной инженерии и компьютерной техники, руководитель магистерской программы «Проектирование и разработка систем ИИ» Университета ИТМО Александр Кугаевских.
По словам эксперта, современные технологии вплотную подошли к понятию «общий искусственный интеллект» (AGI), а следующей ступенью развития станет создание сверхинтеллекта, который превзойдет возможности человека.
«Технологии доросли до термина "общий искусственный интеллект" или "сильный искусственный интеллект". Следующая ступень — создание сверхинтеллекта, который по своим возможностям превзойдёт человека», — отметил Кугаевских в интервью RT.
Несмотря на впечатляющий прогресс, переоценивать возможности нейросетей пока рано. Эксперт выделил несколько фундаментальных ограничений, которые не позволяют доверить алгоритмам критически важные процессы:
Отдельно Александр Кугаевских предупредил о главной угрозе тотальной автоматизации — постепенной деградации человеческого капитала.
«Это несёт серьёзные риски. Чем больше мы будем перекладывать узлы принятия решений на модели, тем меньше у нас будет понимания, как работает вся система целиком. Со временем это может привести к потере компетенций людьми, которые уже не смогут перехватить у ИИ управление в кризисной ситуации», — заключил учёный.
По сути, чем активнее общество делегирует принятие решений машинам, тем быстрее оно теряет собственные компетенции. В критической ситуации люди рискуют оказаться перед «черным ящиком», который они сами создали, но уже не способны контролировать.