По словам эксперта, современные технологии вплотную подошли к понятию «общий искусственный интеллект» (AGI), а следующей ступенью развития станет создание сверхинтеллекта, который превзойдет возможности человека.
«Технологии доросли до термина "общий искусственный интеллект" или "сильный искусственный интеллект". Следующая ступень — создание сверхинтеллекта, который по своим возможностям превзойдёт человека», — отметил Кугаевских в интервью RT.
Несмотря на впечатляющий прогресс, переоценивать возможности нейросетей пока рано. Эксперт выделил несколько фундаментальных ограничений, которые не позволяют доверить алгоритмам критически важные процессы:
- Отсутствие самосознания: у ИИ нет субъектности. Он не понимает контекста и не может самостоятельно ставить перед собой цели, как бы ни утверждали обратное представители ИТ-корпораций.
- Проблема «галлюцинаций»: модели продолжают выдавать ложную информацию и ошибаться в логических построениях.
- Слабое критическое мышление: алгоритмы демонстрируют дефицит креативности и не способны к глубокому критическому анализу.
Отдельно Александр Кугаевских предупредил о главной угрозе тотальной автоматизации — постепенной деградации человеческого капитала.
«Это несёт серьёзные риски. Чем больше мы будем перекладывать узлы принятия решений на модели, тем меньше у нас будет понимания, как работает вся система целиком. Со временем это может привести к потере компетенций людьми, которые уже не смогут перехватить у ИИ управление в кризисной ситуации», — заключил учёный.
По сути, чем активнее общество делегирует принятие решений машинам, тем быстрее оно теряет собственные компетенции. В критической ситуации люди рискуют оказаться перед «черным ящиком», который они сами создали, но уже не способны контролировать.