Китайский фермер по фамилии Ву из провинции Аньхой столкнулся с катастрофическими последствиями доверия к современным технологиям. Мужчина на протяжении примерно года активно использовал чат-бота для решения сельскохозяйственных задач: запрашивал сроки проведения работ, рекомендации по удобрениям и средствам защиты растений. Сначала он относился к подсказкам системы с осторожностью, но постепенно привык полагаться на её советы в повседневной работе.
В прошлом месяце Ву обратился к ИИ с запросом о подборе препаратов против сорняков и вредителей на поле, засеянном кунжутом. Алгоритм выдал комбинацию из нескольких химикатов. Фермер не стал перепроверять полученную схему у агронома и сразу приступил к обработке посевов. Однако уже на следующий день он заметил, что вместе с сорняками начинает массово гибнуть и сам кунжут.
Пытаясь понять причину, Ву снова задал вопрос чат-боту. На этот раз система указала, что один из ранее предложенных гербицидов мог оказаться губительным для кунжута. Позднее местные специалисты подтвердили: рекомендованный препарат предназначен преимущественно для борьбы с широколиственными сорняками на соевых полях и не рассчитан на сплошную обработку кунжута. Неправильное применение такого средства провоцирует фитотоксичность и неминуемо уничтожает культуру.
В итоге фермер потерял практически весь урожай на десяти гектарах. Он посетовал, что чат-бот недостаточно чётко предупредил его о возможном риске. Однако сервис, которым пользовался Ву, стандартно информировал пользователей, что ответы ИИ могут содержать ошибки и требуют дополнительной проверки, – мужчина признался, что прежде просто игнорировал эти сообщения.
Ранее ИИ и суперкомпьютеры нашли способ победить бактерии, убивающие миллионы. Ученые США заставили ИИ создать новую форму жизни.