Когда речь заходит о возможных угрозах искусственного интеллекта, воображение рисует картины в духе Терминатора, где машина вырывается из-под контроля и начинает сеять хаос.
Однако мало кого пугает бездушная система, способная отказать в ипотеке, или банковское приложение, требующее отпечаток пальца для входа. Даже робот-собака от Boston Dynamics вызывает лишь восхищение, а армия роботов-пылесосов, используемых многими в быту, кажется скорее забавной.
Этот феномен связан, в том числе, с эффектом «зловещей долины», который активно используется в кинематографе.
На мой взгляд, страх перед искусственным интеллектом (ИИ) совершенно необоснован, хотя, признаться честно, антропоморфные роботы и у меня вызывают некоторую тревогу.
Люди часто склонны преувеличивать возможности ИИ.
В настоящее время ИИ способен только автоматизировать относительно рутинные процессы — освобождать людей от чисто технической работы. В частности, многие процессы, которые поддаются алгоритмизации, могут быть заменены ИИ. Результаты работы ИИ иногда выглядят очень впечатляюще, что и подталкивает к мыслям о восстании машин, но важно понимать, что все алгоритмы создаются и используются людьми. Это означает, во-первых, что нельзя полностью полагаться на ИИ, можно лишь учитывать его рекомендации, а окончательное решение всегда должно оставаться за человеком. Во-вторых, ИИ — это всего лишь инструмент, применение которому придумывает человек.
Я считаю, что следует опасаться проблем с информационной безопасностью и того, кто и как будет использовать наши данные. Это та самая Big Data, которая регулярно попадает в руки мошенников. Речь может идти о паролях, банковских данных и т. д.
Возьмём, к примеру, популярные сейчас генетические тесты. Казалось бы, вы можете получить свой генетический паспорт, узнаете многое о своём здоровье и гипотетических проблемах. Но что, если кто-то ещё получит доступ к этим данным? Представьте, что вы знаете все уязвимые места большого количества людей. Эту информацию можно использовать как во благо, изменив, например, какие-то моменты в системе здравоохранения, так и во вред. Это вполне тянет на теорию заговора.
Ещё один пример: в Москве сейчас активно разворачивается система распознавания лиц, которая, с одной стороны, помогает более оперативно находить преступников, а с другой… По большому счёту, мы не знаем, кто может оказаться по ту сторону этой системы и с какой целью этот человек будет отслеживать наши перемещения по городу.
Распространение искусственного интеллекта ставит перед специалистами по информационной безопасности новые задачи, ведь технологии глубокого обучения теперь доступны всем. Рассмотрим несколько примеров, которые будут понятны каждому.
Раньше телефонными мошенниками были сотни «операторов» из мест лишения свободы. Теперь их место занимают алгоритмы, которые распознают человеческую речь и могут воспроизводить заранее записанные фразы. Правда, пока злоумышленникам приходится подключать к разговору живого человека, чтобы потенциальная жертва ничего не заподозрила. Алгоритмы помогают лишь отобрать тех, кому можно позвонить.
С написанием сообщений в чатах компьютер справляется гораздо лучше. Сегодня никого не удивишь историей о взломе страницы в социальной сети. От имени знакомого достаточно естественно и с учётом стиля общения реального человека злоумышленник просит одолжить денег. Алгоритмы машинного обучения делают такие атаки ещё опаснее.
За считанные секунды алгоритм может проанализировать переписку за годы, учесть все нюансы общения и без участия злоумышленника написать сообщение, которое покажется жертве абсолютно реальным. Человек даже не усомнится в том, что его знакомый просит о срочной финансовой помощи.
Злоумышленники не просто копируют наших знакомых. С помощью технологий Deepfake любой желающий, обладающий необходимыми навыками, может подделать абсолютно любого политика или актёра. И ущерб от таких действий измеряется уже не сотнями рублей.
