Крейг Мартелл, занимающий пост руководителя отдела Пентагона по разработке и развитию искусственного интеллекта, высказал свои опасения касательно нейросетей, ставших крайне популярными в последнее время. Американский деятель уверен, что такие проекты, как ChatGPT, можно использовать в качестве идеального инструмента дезинформации (ссылка).
В своем заявлении мистер Мартелл сообщил, что он «напуган до смерти» осознанием факта того, что сейчас такие опасные инструменты доступны практически любому желающему. Дело в том, что искусственный интеллект абсолютно не воспринимает контекста обращения со стороны реального человека, тогда как рядовые граждане будут воспринимать утверждения ИИ, как свершившийся и неоспоримый факт.
Проблема, по мнению господина Мартелла, также заключается в том, что ChatGPT и остальные чат-боты, работающие на основе самообучающегося искусственного интеллекта, ведут себя, как авторитетные специалисты абсолютно во всех областях. Их утверждения звучат здраво и серьезно, а потому им хочется верить. Используя эту особенность, некоторые лица смогут внедрять в умы простых граждан те точки зрения, которые не имеют под собой твердой основы. Или же несущие конкретные угрозы для государств, видных деятелей и прочих лиц, ставших целью злоумышленников.
Напомним, что не так давно в сети стали распространяться, якобы, реальные фотографии, на которых изображены известные люди типа Папы Римского и бывшего президента США Дональда Трампа. Первый был изображен в белом модном пуховике, а второго, якобы, задерживала полиция. Изображения, сгенерированные нейросетью Midjourney, были настолько реалистичными, что создавалось впечатления, что это не арты, а настоящие фотографии. После этого администрация нейросети была вынуждена запретить генерацию изображений, несущих фейковую информацию.