Ментальный ковид, способный заразить весь мир ложью - фейки.
События последних лет показали, что люди сильно подвержены влиянию дезинформации, которая очень быстро может распространяться в соцсетях. Особенно, когда она якобы исходит от известной персоны. Создаются целые «фабрики» цифровых двойников и новые возможности для их использования далеко не всегда направлены во благо человеку.
Думаю, что в будущем нужна будет профессия специалиста по выявлению дипфейков или «глубинных подделок». Тем более, что она связана с новым прорывом в IT технологиях и дипфейк, будучи одним из направлений использования ИИ («искусственного интеллекта»), многих настораживает.
Дипфейки, или иначе «глубинная подделка» - это что?
Это тоже ложь в сети, но самая беспардонная и жестокая, ибо представляет собой «цифровую трансплантацию лица и голоса» в видеороликах, созданных с использованием техники глубинного обучения.
То есть, вы видите на экране популярного человека, в ролике он с максимальной правдоподобностью лица, голоса, мимики, манерой речи вещает нам то, что никогда нигде не говорил.
Как хотите, но это опасно, особенно если слушать ложь из уст влиятельного человека, Президента, например. Как понять – он говорит или ИИ?
Уже создана модель Instant NeRF, которой требуется всего несколько секунд на обучение на нескольких десятках неподвижных фотографий — плюс данные о ракурсах камеры, с которых они были сделаны, чтобы визуализировать 3D-сцену. Функционал этой нейросети доступен всем желающим.
Как хотите, но я уверена, что из всех мер безопасности сейчас наиболее важно находить и останавливать тех, кто разрабатывает и внедряет эту технологию. Нужен IT-полицейский, способный распознать подделку и вывести ИИ на чистую воду. В конце концов, искусственный интеллект создан Человеком, а сам по себе просто машина с базой данных и программным обеспечением. Надеюсь, что специалисты в сфере IT технологий и с этой задачей справятся.
Есть же верификаторы, которые проверяют правильность выполнения какой-то работы, либо проверяют людей на то, лгут ли они или нет - такой живой детектор лжи. Говорят, такие профи работают в банке для проверки кредитной истории и репутации потенциальных заёмщиков.
Верификатор легко определяет насколько достоверной является полученная информации и анализирует ответ с точки зрения тонкостей человеческой психики. То есть, он отвечает на вопрос, почему собеседник решил обмануть или скрыть правду.
А вот профайлеры позволяют составить психологический портрет личности, что крайне важно для общения с человеком. Нужно не только понять человека, но научиться управлять его действиями и поведением.
В случае с дипфейками всё еще опаснее. Нужно не только распознать фейк с важной персоной в видеоролике, но и понять, зачем он был создан, как должен повлиять на общество и на какие действия выводит социум.
Золотая жила для агентов влияния и технологов «цветных революций».
Нужно уметь противостоять этим вызовам нового мира и я уверена, что подобные технологии в первую очередь будут проверять на нашей стране.
Верификатор, профайлер, дознаватель – к этим названием мы уже привыкли, а вот как назовут новую профессию, которая бросит вызов Искусственном Интеллекту?
