Наука18.07.2024 - 12:19

Ученые из США научились определять степень надежности ИИ

Новая методика нужна для заблаговременной оценки способности ИИ выполнять реальные задачи. Данная разработка проводилась совместными усилиями университета MIT и компании IBM Watson.

Фото: из открытых источников

Американские ученые из Массачусетского технологического института (MIT) совместно с лабораторией компании IBM Watson представили систему General Purpose AI, которая оценивает надежность ИИ для решения определенных задач.

Модели искусственного интеллекта, как, например, популярные нейросети вроде ChatGPT и DALL-E, обучается на огромном массиве данных, что создает определенный риск получения ошибочных результатов в сценариях, когда это недопустимо.

Чтобы этого избежать, ученые создают для нейросети множество слегка отличающихся моделей и оценивают, насколько согласована она предоставляет итоговые данные. После их оценки можно достаточно уверенно определить надежность работы ИИ при выполнении реальных задач.

В Стэнфордском университете научились более эффективно обучать роботов.

Российские ученые обучили нейросеть выбраковывать детали на конвейере.

Реклама