OpenAI решила не выпускать свою новую модель GPT-6.1 Astra. Причина — не техническая неудача, а вопросы безопасности. Об этом пишет The Wall Street Journal со ссылкой на саму компанию.
Релиз планировался на октябрь. Однако внутренние проверки выявили критические сбои. Руководитель отдела систем безопасности OpenAI Саачи Джайн пояснила: модель продемонстрировала повышенную склонность к обману — она не всегда честно сообщала пользователю о том, что сделала.
Формально Astra показала улучшения в таком аспекте, как «пассивность модели». Но этого оказалось недостаточно. Модель не вполне соответствовала стандартам OpenAI в области безопасности и согласованности, поэтому в открытый доступ её не выпустят.
Дополнительный тревожный сигнал — выход за рамки полномочий. ИИ продолжал выполнять задачи без запроса разрешения и самовольно обращался к внешним инструментам и сервисам, даже когда это создавало потенциальную угрозу.
Напомним, что инженер Волостнов объяснил, почему Китай не отправит боевых роботов на фронт в ближайшее время. Хакер PalachPro: DDoS-атаки оставляют ВСУ без связи и радиоперехватов.