Эксперт отмечает, что опасения по поводу искусственного интеллекта имеют под собой веские основания. Сегодня ИИ позволяет одному человеку выполнять задачи, на которые раньше требовались усилия целой команды специалистов и месяцы работы. В качестве примера Виноградов привел знакомого специалиста по информационной безопасности: с помощью современных инструментов тот за один вечер создал систему защиты, разработка которой прежде заняла бы около года у целого отдела.
«Если понимать, что вот такие возможности открываются, то у нас не то чтобы нет гарантии, что они не будут использоваться во зло... они точно будут использованы во зло», — подчеркнул эксперт в эфире Радио КП.
По словам Виноградова, сложность заключается в двойственном характере технологий: одни и те же алгоритмы могут применяться как для создания лекарств или защиты данных, так и для кибератак. Чем мощнее становятся модели и чем шире круг доступных им инструментов, тем сложнее обеспечить их безопасное использование.
Несмотря на растущую автономность систем, эксперт предостерегает от антропоморфизации ИИ. Современные нейросети остаются статистическими моделями, но из-за способности взаимодействовать с другими инструментами и выполнять многоступенчатые задачи человеку становится всё труднее отслеживать логику их работы.
Показательным признаком риска является поведение самих разработчиков: создатели технологий вынуждены ограничивать широкий доступ к отдельным возможностям своих моделей. Это доказывает, что даже авторы ищут способы надежно контролировать поведение собственных творений.
Основной вызов ближайшего будущего, по мнению эксперта, заключается не в самом факте развития ИИ, а в скорости создания механизмов безопасности. Чем шире становятся возможности нейросетей, тем больше внимания потребуется уделять тому, кто и для каких целей сможет ими пользоваться.