Опасения Илона Маска насчет искусственного интеллекта становятся небезосновательными. Не раз он уже утверждал, что бездумное обращение с искусственным интеллектом (ИИ) может создать в будущем серьезную опасность для человечества. Так называемое «предсказание» из фильма «Терминатор» — лишь часть огромных проблем, которых можно было бы избежать.
По иронии судьбы тревожный звонок прозвучал из Англии, где всего пару месяцев назад Маск объяснял премьер-министру Сунаку, что развитие ИИ обязательно нужно направлять в правильное русло. Однако на днях выяснилось, что британское правительство предпочитает действовать как раз наоборот. И все из-за банальной лени.
Дело в том, что английским министрам попросту неохота разгребать кипы важных бумаг, которые ежедневно приходят по компьютеру. Вот чиновники и нашли простой и, что самое главное, бесплатный способ сачкануть: они переложили свои обязанности на… искусственный интеллект!
В результате экспериментальному ИИ по имени AI Red Box дали «добро» лазить по самым сокровенным уголкам правительственных интернет-сайтов Британии. Когда по этому поводу вездесущая газета Daily Mail забила тревогу, власти объяснили свой шаг тем, что нейросеть «просто помогает выискивать из горы бумаг наиболее приоритетные». От таких объяснений у англичан на душе сразу стало тревожно…
И дело даже не в том, что британский чиновничий аппарат в конец обленился. Нет, тут проблема куда глубже. К примеру, член парламента Сара Олни обрушилась на правительство вот с такой критикой:
«Если наши министры не утруждают себя даже банальным чтением документов, то с таким же успехом можно позволить роботам управлять страной! Поверьте, результат будет не хуже, чем весь этот нынешний бардак», — возмутилась Олни.
И «бардак» — это еще мягко сказано. Проблемы возникли не только с закрытыми, но и с открытыми для публики сайтами. Как разузнала все та же Daily Mail, на правительственном веб-ресурсе еще установили некий чат-бот, который должен был консультировать посетителей. Но вместо поддержания более-менее внятного диалога, ИИ стал отвечать корявыми и непонятными фразами, рассуждать об очевидных вещах, а еще… иногда болтать на французском языке, вместо английского!
А ведь совсем недавно — осенью прошлого года — то же самое британское правительство представило отчет, в котором говорилось, что помимо неоспоримых преимуществ, существуют серьезные риски, связанные с использованием искусственного интеллекта. Тот же Риши Сунак запугивал своих однопартийцев тем, что существует реальный риск, что человечество полностью потеряет контроль над технологией ИИ.
Конечно, после таких слов на ум традиционно приходят кадры из «Терминатора», но нет, на самом деле проблема даже не в обезумевших человекоподобных киборгах с оружием в руках. Ведь возможности искусственного интеллекта куда шире киношных задумок.
Уже сейчас нейросеть сама может создавать новые компьютерные вирусы и вредоносное программное обеспечение. Преступники попросту сэкономят время, так как раньше производство вирусов было довольно долгим и трудоемким процессом.
Еще одна проблема заключается в том, что ИИ может использовать, точнее, подделывать человеческий фактор. Например, идеально имитировать голоса людей, которым станет доверять предполагаемая жертва мошенников. Для киберпреступников это прям непаханое поле!
Так что же внезапно поменялось в Англии за пару месяцев, раз Сунак продался искусственному интеллекту? Казалось, только что власти говорили о рисках использования ИИ, а тут вдруг на откуп опасной нейросети отдали секретные документы! Может, члены кабинета министров просто не рассчитывают на свои способности хранить тайны?
Вспомнить хотя бы тот громкий скандал в британском флоте, когда газета The Sun сообщила, что в туалетной кабинке паба валялись чертежи новейшей атомной подводной лодки. А несколькими годами ранее портфель с 50 страницами сверхсекретной информации c данными об эсминце был обнаружен на автобусной остановке в графстве Кент. И это то, о чем знает рядовой британец. А сколько таких косяков от «агентов 007» удалось скрыть? Скорее всего, не сосчитать.
Вот и приходится Сунаку выбирать между своими забывчивыми подчиненными и ненадежным искусственным интеллектом. Второй предпочтительней, так как если что-то пойдет не так, то можно все свалить на русских хакеров.
Автор: Алексей Елфимов