Встроенные ограничения искусственного интеллекта осложняют подготовку химических экспериментов для научно-популярных проектов. Современные нейросети нередко отказываются описывать даже полностью безопасные реакции, ссылаясь на возможную угрозу при их проведении.
На эту проблему обратил внимание ведущий инженер кафедры редких металлов и наноматериалов Физико-технологического института УрФУ, автор научно-популярного блога «Химия — Просто» Александр Иванов. По его словам, специалисты применяют алгоритмы для составления сценариев и подбора наглядных опытов. Однако вместо нужной инструкции программа зачастую выдает предупреждение о том, что подобные опыты требуют участия подготовленных профессионалов.
Как сообщает информационное агентство ТАСС, всего год назад те же самые языковые модели предлагали гораздо больше вариантов реакций, включая несуществующие в природе. Сейчас же алгоритмы подвергли жесткой цензуре, из-за чего под запрет попадают даже безобидные химические процессы.
Александр Иванов добавил, что опытные химики способны самостоятельно отсеивать галлюцинации нейросетей и проверять точность их рекомендаций. Обычные пользователи без профильных знаний рискуют не заметить фактических ошибок в ответах алгоритма, а избыточные запреты только снижают практическую пользу ИИ в работе популяризаторов науки.