Ситуация, когда искусственный интеллект вместо помощи начинает читать нотации, стала для химиков привычной. По словам Александра Иванова, ведущего инженера кафедры редких металлов и наноматериалов Физико-технологического института УрФУ, нейросети сегодня наотрез отказываются описывать даже совершенно безобидные реакции.
Вместо конкретных инструкций модель может заявить, что опыты должны проводить только специально подготовленные люди, и попросту заблокировать запрос. Иванов, который также ведет блог «Химия — Просто», отмечает: такие ограничения бьют по реальной работе, ведь ИИ активно используется для написания сценариев и подбора экспериментов.
Любопытно, что еще год назад те же самые нейросети вели себя иначе. Они охотно генерировали описания химических реакций, которых в природе не существует, то есть попросту «галлюцинировали». Сейчас маятник качнулся в другую сторону: по словам эксперта, системы стали чрезмерно зацензурированными и запрещают множество вещей, которые на самом деле безопасны. Для специалистов это оборачивается дополнительной головной болью — вместо творческого поиска приходится тратить время на обход искусственных барьеров.
При этом Иванов подчеркивает: профессионалы способны отфильтровать ошибки и проверить достоверность предложенной информации. А вот пользователи без соответствующих знаний могут не распознать недостоверные сведения. По его мнению, полностью исключать вероятность получения от нейросетей рекомендаций, следование которым может привести к травмам, нельзя.
Ранее «Газпром нефть» показала, что скрывает Баренцево море. Муравьиная логика для роя дронов: российские ученые придумали, как управлять машинами без центра.