Предлагаю Вашему вниманию перевод интересной статьи о том, как современные технологии могут уничтожить жизнь человека
Использование поддельных технологий для манипулирования видео и аудио в злонамеренных целях - будь то для разжигания насилия или дискредитации политиков и журналистов - становится реальной угрозой.
По мере того, как эти инструменты станут более доступными, а их продукты - более реалистичными, как они будут формировать то, во что мы верим. Рана Айюб - журналистка в Индии, чья работа выявила коррупцию в правительстве и нарушения прав человека. И с годами она привыкла к острым ощущениям и спорам вокруг своей работы. Но ничто из этого не могло подготовить ее к тому, с чем она столкнулась в апреле 2018 года. Она сидела в кафе с другом, когда впервые увидела его: двухминутное 20-секундное видео, на котором она занималась сексом. И она не могла поверить своим глазам. Она никогда не снимала секс-видео.
Но, к сожалению, тысячи и тысячи людей поверят, что это была она. Я взял интервью у г-жи Айюб около трех месяцев назад в связи с моей книгой о сексуальной неприкосновенности. Я профессор права, адвокат и защитник гражданских прав. Так что невероятно обидно, зная, что прямо сейчас закон мало что может сделать, чтобы помочь ей. И когда мы разговаривали, она объяснила, что должна была увидеть фальшивое секс-видео. Она сказала: "В конце концов, секс так часто используется для унижения и позора женщин, особенно женщин из числа меньшинств, и особенно женщин из числа меньшинств, которые осмеливаются бросить вызов влиятельным мужчинам", как она это делала в своей работе. Фальшивое секс-видео стало вирусным за 48 часов. Все ее онлайн-аккаунты были завалены скриншотами видео, графическими изображениями изнасилований и угроз убийством, а также оскорблениями о ее мусульманской вере. Посты в Интернете предполагают, что она "доступна" для секса. И она была в шоке, а это значит, что ее домашний адрес и номер мобильного телефона были разбросаны по интернету. Видео было показано более 40 000 раз. Теперь, когда кто-то становится мишенью подобного рода кибератак, это наносит серьезный вред. Жизнь Раны Айюб была перевернута с ног на голову. Неделями она не могла ни есть, ни говорить. Она перестала писать и закрыла все свои аккаунты в социальных сетях, что, знаешь ли, очень сложно сделать, когда ты журналист. И она боялась выйти за пределы дома своей семьи. Что, если плакаты хорошо заработают на их угрозах? Совет ООН по правам человека подтвердил, что она не сошла с ума. Оно опубликовало публичное заявление, в котором говорилось, что они беспокоятся о ее безопасности. То, с чем столкнулась Рана Айюб, было подделкой: технология машинного обучения, которая манипулирует аудио и видеозаписями или изготавливает их, чтобы показать людям, что они делают и говорят то, чего никогда не делали и не говорили. Глубокие подделки кажутся аутентичными и реалистичными, но это не так, это полная ложь. Хотя эта технология все еще развивается в своем совершенстве, она широко доступна. В последнее время пристальное внимание к подделкам появилось, как и многие другие вещи, связанные с порнографией, в Интернете. В начале 2018 года кто-то разместил на Reddit инструмент, позволяющий пользователям вставлять лица в порнофильмы. Затем последовал каскад фальшивых порнофильмов с участием любимых знаменитостей из числа женщин. И сегодня вы можете зайти на YouTube и просмотреть бесчисленные обучающие программы с пошаговыми инструкциями о том, как сделать подделку на вашем настольном приложении. И скоро мы сможем даже сделать их на наших сотовых телефонах. Теперь, это взаимодействие некоторых из наших самых основных человеческих слабостей и сетевых инструментов, которые могут превратить подделки в оружие. Так позвольте мне объяснить. Как люди, мы имеем внутреннюю реакцию на аудио- и видеоматериалы. Мы верим, что это правда, что вы можете поверить в то, что говорят ваши глаза и уши. И именно этот механизм может подорвать наше общее чувство реальности. Хотя мы верим, что подделки - это правда, но это не так. И нас привлекает непристойность, провокация. Мы склонны верить и делиться негативной и новаторской информацией. И исследователи обнаружили, что он-лайн мистификации распространяются в 10 раз быстрее, чем точные истории. Теперь нас также привлекает информация, совпадающая с нашей точкой зрения. Психологи называют эту тенденцию "смещением в сторону подтверждения". А социальные медиа-платформы усиливают эту тенденцию, позволяя нам мгновенно и широко обмениваться информацией, согласующейся с нашими точками зрения. Теперь глубокие фальшивки могут причинить серьезный личный и общественный вред. Итак, представьте себе фальшивку, на которой изображены американские солдаты в Афганистане, сжигающие Коран. Можете себе представить, что эта фальшивка спровоцирует насилие в отношении этих солдат. А что если на следующий же день произойдет еще одна подделка, которая покажет известному лондонскому имаму, восхваляющему нападение на этих солдат? Мы можем стать свидетелями насилия и гражданских беспорядков не только в Афганистане и Соединенном Королевстве, но и во всем мире. И ты могла бы сказать мне: "Да ладно, Даниэль, это надуманно." Но это не так. Мы видели, как ложь распространялась на WhatsApp и других онлайн-сервисах сообщений, приводящая к насилию в отношении этнических меньшинств. И это было просто сообщение - представь, если бы это было видео. Теперь подделки могут подорвать доверие к демократическим институтам, которое мы испытываем. Итак, представьте себе ночь перед выборами. Есть фальшивка, показывающая, что один из основных кандидатов от партии тяжело болен. Подделка могла бы дать чаевые выборам и поколебать наше чувство легитимности выборов. Представьте себе, если накануне вечером перед первичным публичным размещением акций крупного глобального банка состоялась фальшивка, демонстрирующая пьяным голосом теорию заговора главному управляющему директору банка. Подделка может сорвать IPO и, что еще хуже, поколебать наше ощущение стабильности финансовых рынков. Таким образом, подделки могут использовать и преувеличивать то глубокое недоверие, которое мы уже испытываем к политикам, лидерам бизнеса и другим влиятельным лидерам. Они находят аудиторию готовой поверить им. И погоня за истиной тоже на кону. Технологи ожидают, что с развитием искусственного интеллекта вскоре будет трудно или даже невозможно отличить настоящее видео от поддельного. Так как же правда может появиться на рынке идей, наполненном фальшивками? Будем ли мы идти по пути наименьшего сопротивления и верить в то, во что хотим верить, будь мы прокляты? И мы можем не только поверить в подделку, но и начать не верить в правду. Мы уже видели, как люди ссылаются на феномен подделок, чтобы поставить под сомнение реальные доказательства своих противоправных действий. Мы слышали, как политики говорили о звуке своих тревожных комментариев: "Да ладно, это фальшивые новости. Ты не можешь поверить, что твои глаза и уши говорят тебе." И именно этот риск мы с профессором Робертом Чесни называем "дивидендами лжеца": риск того, что лжецы будут призывать подделки, чтобы избежать ответственности за свои проступки. Итак, у нас есть своя работа для нас, нет никаких сомнений в этом. И нам понадобится проактивное решение от технологических компаний, законодателей, правоохранительных органов и средств массовой информации. И нам понадобится здоровая доза социальной устойчивости. Итак, сейчас мы ведем очень публичный разговор об ответственности технологических компаний. И я советую платформам социальных сетей изменить условия их работы и правила сообщества, чтобы запретить подделки, которые причиняют вред. Это решение, которое потребует человеческих суждений, и оно дорогостоящее. Но нам нужно, чтобы люди взглянули на содержание и контекст подделки, чтобы понять, является ли она вредной олицетворением или же это ценная сатира, искусство или образование. Итак, что насчет закона? Закон - наш воспитатель. Он учит нас тому, что вредно и что не так. И она формирует поведение, которое она сдерживает, наказывая преступников и обеспечивая средства правовой защиты для жертв. Прямо сейчас закон не справляется с проблемой подделок. Во всем мире у нас нет хорошо продуманных законов, направленных на борьбу с цифровыми олицетворениями, посягающими на сексуальную неприкосновенность, наносящими ущерб репутации и вызывающими эмоциональный стресс. То, что случилось с Раной Айюб, становится все более распространенным явлением. Однако, когда она поехала в правоохранительные органы в Дели, ей сказали, что ничего не поделаешь. И печальная правда заключается в том, что то же самое можно сказать и о Соединенных Штатах и Европе. Таким образом, у нас есть правовой вакуум, который необходимо заполнить. Моя коллега доктор Мэри Энн Франкс и я работаем с законодателями США над разработкой законодательства, запрещающего вредоносное цифровое олицетворение личности, которое равнозначно хищению личных данных. Аналогичные шаги мы наблюдали в Исландии, Великобритании и Австралии. Но, конечно, это всего лишь небольшая часть регуляторной головоломки. Я знаю, что закон - не панацея от всех болезней. Правда? Это тупой инструмент. И мы должны использовать его разумно. Она также сталкивается с некоторыми практическими препятствиями. Ты не можешь использовать закон против людей, которых не можешь идентифицировать и найти. А если преступник живет за пределами страны, где проживает жертва, то вы не сможете настоять на том, чтобы преступник предстал перед местным судом, чтобы предстать перед судом. И поэтому нам понадобится скоординированная международная реакция. Образование также должно быть частью наших ответных мер. Правоохранительные органы не собираются применять законы, о которых они не знают, и предлагать проблемы, которые они не понимают. В своем исследовании киберпреследования я обнаружил, что правоохранительным органам не хватает подготовки, чтобы понять законы, доступные для них, и проблему злоупотреблений в Интернете. И так часто они говорили жертвам: "Просто выключите компьютер. Не обращай внимания. Это пройдет." И мы видели это в деле Раны Айюб. Ей сказали: "Да ладно тебе, ты делаешь из этого что-то важное. Мальчики - это мальчики." И поэтому нам необходимо сочетать новое законодательство с усилиями по обучению. И образование должно быть направлено также и на СМИ. Журналисты нуждаются в просвещении о феномене глубоких подделок, чтобы они не усиливали и не распространяли их. И это та часть, в которой мы все вовлечены. Каждый из нас нуждается в образовании. Мы щелкаем, делимся, нравится и даже не думаем об этом. Нам нужно работать лучше. Нам нужен гораздо лучший радар для подделки. Так что, пока мы работаем над этими решениями, нам предстоит пройти через множество испытаний. Рана Айюб все еще борется с последствиями. Она все еще не чувствует себя свободной выражать себя в сети и вне ее. И, как она мне сказала, она все еще чувствует, что на ее обнаженном теле тысячи глаз, хотя, с интеллектуальной точки зрения, она знает, что это было не ее тело. И у нее часто случаются приступы паники, особенно когда незнакомый человек пытается ее сфотографировать. "Что, если они собираются сделать еще одну подделку?" Она думает сама по себе. И поэтому ради таких людей, как Рана Айюб и ради нашей демократии, мы должны что-то сделать прямо сейчас.
