Определённо, да. Приводим несколько доказательств ненадёжности искусственного интеллекта, чтобы никто из вас не попался в AI-ловушку
Например, если задать чат-боту вопрос: Кто является главным героем романа Толстого «После бала»? Нейросеть вполне может ответить, что это молодая девушка - Наташа Ростова.Мы произведение читали и понимаем, что на самом деле главный герой романа — Иван Васильевич.
Почему так получилось? Ответ на этот вопрос прозвучал во время конференции «Обнаружение заимствований» 2023. На самом деле всё просто: слова «Толстой» и «После бала» системы воспринимаются по частотному анализу. Наташа Ростова встречается значительно чаще, поэтому нейросеть выдает такой ответ.
Ещё есть сомнения в необходимости проводить дополнительные проверки? Вот случай посерьезнее. В США нейросеть обманула адвоката, придумав несуществующие прецеденты. После того как суд заслушал сгенерированную информацию, был подан встречный иск уже на адвоката. Он предоставил недостоверную информацию, что могло привести к не самым приятным последствиям.
Ну что, будешь проверять нейросети на достоверность? Кстати, эта картинка тоже создана при помощи нейросети (mage space).
