Установленные программой ограничения могут обойти мошенники.
Один из гигантов чиповой индустрии, американская компания Nvidia, столкнулась с серьезной проблемой в области безопасности своего искусственного интеллекта (ИИ). Эксперты IT-сферы выявили критическую уязвимость, которая затрагивает личные данные пользователей, сообщает газета Financial Times.
Исследователи из компании Robust Intelligence, базирующейся в Сан-Франциско, обнаружили, что установленные программные ограничения в системе ИИ от Nvidia можно обойти, и тем самым открывается доступ к конфиденциальной информации о пользователях компании. Профессор информатики Гарвардского университета и исполнительный директор Robust Intelligence Ярон Сингер считает, в связи с этим, что в области искусственного интеллекта все еще существует множество потенциальных проблем, которые требуется учитывать.
Корпорация Nvidia разработала систему искусственного интеллекта под названием NeMo Framework, которая является основой для создания различных продуктов, работающих на основе генерирующего ИИ. Одним из таких продуктов являются автоматические чат-боты, широко применяемые компаниями для оперативного ответа на запросы клиентов.
Напомним, что ранее канадский конкурент OpenAI смог привлечь почти $270 млн инвестиций от Nvidia и Oracle.