Американские ученые из Массачусетского технологического института (MIT) совместно с лабораторией компании IBM Watson представили систему General Purpose AI, которая оценивает надежность ИИ для решения определенных задач.
Модели искусственного интеллекта, как, например, популярные нейросети вроде ChatGPT и DALL-E, обучается на огромном массиве данных, что создает определенный риск получения ошибочных результатов в сценариях, когда это недопустимо.
Чтобы этого избежать, ученые создают для нейросети множество слегка отличающихся моделей и оценивают, насколько согласована она предоставляет итоговые данные. После их оценки можно достаточно уверенно определить надежность работы ИИ при выполнении реальных задач.
В Стэнфордском университете научились более эффективно обучать роботов.
Российские ученые обучили нейросеть выбраковывать детали на конвейере.