Поскольку искусственный интеллект с каждым днем все больше проникает в нашу жизнь, его недостатки становятся все более очевидными, поскольку он сталкивается с ситуациями, которые его создатели не предвидели. Последний пример — компания Microsoft, которая использовала искусственный интеллект для добавления сгенерированных опросов рядом с новостями, чтобы читатели могли принять в них участие, что теоретически повышает вовлеченность на сайте. Недавно ИИ опубликовал опрос о женщине из Сиднея, которая была найдена мертвой, и в ходе опроса читателей спрашивали, что, по их мнению, стало причиной смерти.
Новостная статья касалась тренера по водному поло из Сиднея, тело которой было найдено в школьном спортзале. В результате опроса читателей спрашивали, какова, по их мнению, причина - убийство, несчастный случай или самоубийство?! В результате появилась гневная статья в газете The Guardian, которая обвинила Microsoft в том, что та разместила такой бездушный опрос вместе со своей статьей в новостном агрегаторе компании Microsoft Start (MSN.com в интернете). После всей этой шумихи с неудачным опросом, Microsoft решила приостановить свой генератор опросов на основе искусственного интеллекта до выяснения всех обстоятельств.
MSN не является популярным новостным ресурсом, поэтому Microsoft решила использовать искусственный интеллект для генерации новостей и опросов.
По мнению The Guardian, этот шаг Microsoft был слишком запоздалым и слишком скупым, которое подверглось резкой критике со стороны читателей, считающих, что именно она несет ответственность за опрос. Генеральный директор The Guardian Анна Бейтсон написала гневное письмо президенту Microsoft Брэду Смиту по поводу этой ситуации, подчеркнув, что газета никогда не хотела, чтобы опросы появлялись рядом с любым синдицированным контентом. «Применение генеративного искусственного интеллекта компанией Microsoft — это именно тот случай, о котором мы предупреждали в отношении новостей», — написал Бейтсон. Генеральный директор призвал Microsoft объяснить читателям, что в опрос разместил искусственный интеллект, а не The Guardian.
После этого компания Microsoft взяла на себя ответственность за оскорбительный опрос. В заявлении для Axios компания Microsoft написала: «Опрос не должен был появляться рядом со статьей такого рода, и мы предпринимаем шаги, чтобы предотвратить повторение подобных ошибок в будущем».
Эта оплошность от Microsoft подчеркивает сложность использования искусственного интеллекта и алгоритмов для замены человеческого суждения. По данным CNN, новостной агрегатор Microsoft в последнее время переиздал множество ложных историй. Раньше для курирования контента в компании работало более 800 редакторов по всему миру, но недавно их число сократилось из-за «автоматизации», которую многие редакторы восприняли как означающую, что ИИ теперь выполняет свою работу.
В любом случае, этот инцидент лишь подчеркивает, что медиакомпаниям необходимо уточнять, когда они используют контент, созданный искусственным интеллектом. Пока неизвестно, пойдет ли Microsoft по этому пути и вернутся подобные опросы в интернет вообще.
