Искусственный интеллект все глубже и глубже проникает в нашу жизнь. И ходит много разговоров об опасности того, что он начнет управлять нами. А ведь, по сути, уже и управляет. Он везде: пишет тексты и музыку, поет за известных музыкантов, рисует картины, и составляет рецепты для ресторанов…
Парфюмеры перестали доверять своему носу при создании новых ароматов. Они обращаются к ИИ за подсказкой, как запахи влияют на мозг человека, какие из них выбрать, чтобы вызвать положительные эмоции, спокойствие и эйфорию. Невольно вспоминается история про Жана-Батиста Гренуя.
ИИ готовы доверить оказание психологической помощи людям, а это уже напрямую вручить жизнь человека искусственному разуму.
Многие эксперты в области ИИ сами стали опасаться за наше будущее и не считают повсеместное применение таких технологий безопасным. А некоторые конкретно предрекают гибель человечества, если мы вовремя не притормозим. Напомню, что весной этого года группа экспертов из разных стран (более тысячи человек, в том числе Илон Маск) опубликовала открытое письмо, с призывом приостановить обучение мощных систем ИИ до полного выяснения всех связанных с этим рисков и принятия мер безопасности.
Ведь возможности ИИ практически невозможно предсказать, это трудная задача даже для тех, кто его разрабатывает. А еще сложнее предсказать, в чьи руки попадут такие разработки, уж очень многим они доступны.
Так вот, Великобритания решила взять контроль над ИИ в свои руки. Это четко дал понять премьер-министр Риши Сунак. Он заявил, что создаст первый в мире институт безопасности искусственного интеллекта для изучения всех рисков, связанных с его использованием.
Что права на роль мирового лидера по вопросам ИИ заявила именно Великобритания, вполне логично. Там компаний, занимающихся искусственным интеллектом, в два раза больше, чем в любой другой европейской стране, и каждый год открываются сотни новых. В этом секторе в Великобритании работают более 50 тысяч человек.
1-2 ноября в Блетчли-парке в Бакингемшире состоялся саммит по безопасности ИИ. Место выбрано символически, именно там во время Второй мировой войны математик Алан Тьюринг взломал код Enigma нацистской Германии.
Главными вопросами саммита были риски использования ИИ, связанные с опасностью для жизни людей и национальной безопасностью, конфиденциальностью информации, искажением данных языковыми моделями типа ChatGPT. А также вопросы ответственности разработчиков за вред, нанесенный ИИ и международного сотрудничества в сфере контроля безопасности.
Кроме отмеченных рисков и опасений разработки новых технологий ИИ было подчеркнуто, что искусственный интеллект уже неотъемлемая часть нашей жизни и он необходим современному миру. В той же Великобритании Национальная служба здравоохранения использует технологии для более быстрой диагностики и лечения пациентов от таких заболеваний, как онкология, инсульты и болезни сердца. ИИ помогает промышленным предприятиям сократить выбросы углекислого газа и увеличить использование экологически чистой возобновляемой электроэнергии. Он незаменим в образовательных технологиях…
Каковы же итоги саммита? Главный итог – то, ради чего все затевалось. А конкретно, в Великобритании создан первый в мире Институт безопасности ИИ, которому поручено тестировать безопасность новых типов ИИ. По словам председателя Яна Хогарта, «Созданный Институт безопасности ИИ будет играть важную роль в объединении мирового сообщества для решения проблем, связанных с этой быстро развивающейся технологией».
Новая организация сразу же приступила к работе. После саммита представители правительств ведущих стран и крупных организаций, занимающихся искусственным интеллектом, начали согласование плана тестирования безопасности передовых моделей ИИ, и разработку вопросов ответственности правительств. Особенно при тестировании на предмет национальной безопасности и безопасности для общества.
Подготовку первого отчета «Состояние науки», который даст общее понимание возможностей и рисков, связанных с использованием передовых ИИ, возглавит один из «крестных отцов искусственного интеллекта» профессор Йошуа Бенджио, самый цитируемый в мире ученый-компьютерщик и советник правительства Великобритании и ООН.
Что же, дело-то хорошее. Кто-то должен был выдвинуть такую инициативу, почему не Великобритания, раз она оказалась шустрее других стран. Лишь бы реальная польза была, а не скатилось все просто к решению денежных и политических вопросов.
