Встречали крутые приложения или сайты, работу которых сложно понять?
Вот несколько интересных:
1.Сервис Deepart может создавать из фотографии картину.
2. ThisPersonDoesNotExist - создает реалистичное изображение не существующих людей. Просто обновите страницу и появится новый человек.
3. Voices by Headliner - можно озвучить текст на английском языке голосом знаменитости, например Марка Цукерберга или Дональда Дрампа.
Все они работают на основе нейросети. Нейронная сеть- это математическая модель, а также её программное или аппаратное воплощение, построенная по принципу организации и функционирования биологических нейронных сетей — сетей нервных клеток живого организма. Созданную нейросеть, как ребенка необходимо обучать. Чем больше алгоритмов действия, которое необходимо выполнить в нее загрузят, тем умнее она будет.
Наглядный пример, как обмануть нейросеть, ими же и созданную, показали исследователи OpenAI . Для этого требуются всего лишь ручка и бумага. Новейшую модель компьютерного зрения CLIP оказалось просто обмануть с помощью так называемой «типографской атаки». Если написать «iPod» или «пицца» на стикере и приклеить его к яблоку, то CLIP ошибочно классифицирует фрукт как плеер или блюдо.
Руководители проекта отметили, что «эта атака работает без ограничений» и «для нее не требуется серьезных технологий».
CLIP оказалось не единственным ПО, которое попалось на простую уловку. Ранее исследователям с помощью липкой ленты удалось обмануть автопилот Tesla и заставить его неправильно интерпретировать знак «35 миль в час» как знак «85 миль в час».
На фоне развития технологий нейросети возникают курьезные ситуации. Например в социальной сети TicToc был создан фейковый аккаунт Тома Круза, в котором он рассказывал о встрече с Горбачевым. Несколько недель люди верили, что это настоящий Том Круз. За несколько дней на аккайнт подписались более 300 000 человек.
Создание такого контента помогло развитие и популяризация технологии deepfake. Deepfake ( дипфейк ) — дословно «глубинное обучение» (англ. Deep learning) и «подделка» (англ. Fake) . Это Искусственный интеллект, который объединяет несколько фото, на котором человек изображен с разным выражением лица и учится выглядеть и двигаться в точности, как персона на фото.
Распространение технологии DeepFake позволяет дискредитировать как простых людей, так и публичных личностей. Например, весной 2019 года в Сети было опубликовано дипфейк-видео со спикером палаты представителей конгресса США Нэнси Пелоси. Автор ролика с помощью ИИ изменил речь Пелоси так, что она плохо выговаривала слова, и пользователи, посмотревшие видео, посчитали, что политик пьяна. Ситуация вылилась в громкий скандал, и лишь спустя некоторое время было доказано, что речь Пелоси была сгенерирована ИИ.
Как думаете, сможете отличить фото реального человека от фото, созданного нейросетью? Пройдите тест !
