67-летний фермер из китайского городского округа Чучжоу уничтожил почти весь урожай кунжута после того, как в точности последовал рекомендациям ИИ по борьбе с сорняками и вредителями. Мужчина пользовался ИИ около года и за несколько месяцев успел убедиться, что советы нейросети могут быть полезными. В итоге это привело к ошибке, которая обернулась потерей примерно 10 гектаров посевов.
Фермер по фамилии Ву обратился к ИИ с вопросом о защите кунжутной травы от сорняков и вредителей. Нейросеть предложила рецепт обработки поля, в который вошли «высокоэффективный флупириметалин», «флусульфасульфаэфир», а также тиаметоксазин и метиловая соль. Ву не стал проверять рекомендации у специалистов по сельскому хозяйству или самостоятельно искать подтверждение полученной информации.
Последствия проявились уже на следующий день. После обработки массово погибли не только сорняки, но и всходы кунжута.
«Если опрыскать, на следующий день всходы не выживут», — рассказал фермер.
По его словам, растения погибали даже быстрее, чем сорняки.
Ву вновь обратился к нейросети, чтобы выяснить причину произошедшего. На этот раз ИИ предположил, что проблема могла быть связана с «флусульфасульфаэфиром».
Как отмечают эксперты в области сельского хозяйства, это вещество в основном используют для борьбы с широколистными сорняками на соевых полях. Кунжут также относится к широколистным растениям, поэтому гербицид способен воздействовать и на него. Кроме того, такое средство предназначено для обработки отдельных проблемных участков, а не для опрыскивания всего поля.
Фермер заявил, что нейросеть не предупредила его о возможных последствиях применения смеси. При этом непосредственно на странице чата присутствовало предупреждение о том, что ответы ИИ могут быть ошибочными и требуют проверки.
История Ву показывает одну из ключевых проблем современных нейросетей: убедительный и подробный ответ не означает, что он правильный. ИИ может сформулировать конкретную инструкцию даже в ситуации, когда ошибка способна привести к реальным последствиям. В данном случае доверие к инструменту постепенно сформировалось после нескольких месяцев удачных рекомендаций, поэтому фермер решил без дополнительной проверки выполнить и потенциально опасный совет.