Неприятная для многих перспектива: ИИ хорошо умеет находить уязвимости.
Эксперт в кибербезопасности Брюс Шнайер (Bruce Schneier) сообщил о перспективном направлении активного использования искусственного интеллекта хакерами. Шнайер полагает, что взломщики, вооруженные ИИ, смогут эффективнее преодолевать защитные меры.
Очень перспективной в этом отношении выглядит способность ИИ отыскивать уязвимости. Анализировать построчно программный код – занятие не из легких, и как раз ИИ может брать его на себя. Обнаружение им различных «слабых мест» в коде и онлайн-системах приведет к возрастанию риска безопасности конфиденциальных данных. ИИ способен к постоянному сканированию интернета в поисках такого рода «лазеек», на которые не обратили внимания специалисты по кибербезопасности. Едва только обнаружив новую уязвимость, ИИ способен воспользоваться ею в массовом порядке, не давая специалистам возможности исправить данный недочет.
С другой стороны, эти же свойства искусственного интеллекта могут быть полезными для обнаружения уязвимых участков кода и в онлайн-системах, предотвращая использования этих уязвимостей в хакерских целях.
Еще одна проблема вызвана тем, что пользователи не так уж редко начинают подсознательно приписывать программам черты человеческой личности, а это приводит к тому, что программы получают сведения достаточно личного характера. Еще в 2000 г. ученые исследовали поведение пользователей и установили: человек с большой вероятностью доверит секретные сведения программе в ответ на ее «доверительность», когда она предоставит ему фальшивую информацию якобы личного характера. На этой основе современный и будущий ИИ получил способ похищения персональных данных о пользователях, представляясь им живыми людьми.
