"Не может быть ни патриотического искусства, ни патриотической науки."
Иоганн Гёте
Добрый день, уважаемые участники совещания! Наша сегодняшняя тема обсуждения - как воспитать патриотичный искусственный интеллект? Иван Иванович, обрисуйте, пожалуйста, кратко постановку вопроса. А потом товарищи эксперты тогда выскажутся, хорошо?
Слово взял Иван Иванович:
- Тот, кто создаст искусственный интеллект, будет властелином мира! Это мы знаем наверняка. Но вот всякий ли интеллект искусственный нам нужен? Будет ли он подлинно духовным? Поймет ли, в какой стране родился и в какое непростое время? Будет ли он патриотом? Сможет ли занять свое место в строю геополитического противостояния?
(Он обвел глазами собравшихся)
-Руководство поставило нам с вами задачу, чтобы да. Сроки самые сжатые. Начнем с концепции. Потом техническое задание, этапы, угрозы, стратегии. Ну, вы поняли... Прошу товарищей экспертов высказываться.
Микрофон включил декан факультета философии МГУ:
-Я, конечно, признателен уважаемой администрации за приглашение, но, коллеги, честно говоря, сомневаюсь, что такая постановка вопроса вообще возможна. Патриотизм - крайне оценочное понятие. И понятие чисто человеческое. Одним из общепризнанных принципов этики работы с ИИ является эгалитарность. Но эгалитарность не может быть взята национально, уж простите. Что касается самих подходов к обучению искусственного интеллекта, то самыми известными являются три:
- утилитарный: считаем, что полезнее, например, выгода для ста человек, влекущая вред для одного
- универсальный: следовать правилам, например, жизнь любого человека при любых обстоятельствах неприкосновенна
- обучение на примерах: показываем машине тысячи примеров того, что хорошо, и она сама сделает вывод, правда, вопрос, какой
Меня лично третий подход не удовлетворяет, ведь, как справедливо заметил наш зарубежный коллега Ноам Хомский, нейронные сети для целей познания - это тупиковый подход, так как они не дадут нам ответа на вопрос, почему ИИ сделал тот или иной выбор. А главная цель науки - объяснить почему.
К дискуссии подключился замминистра образования:
-Наука оно конечно. А зачем нам изобретать велосипед? Зачем? Мы как в школе учим детей - уроки патриотизма, сочинения пишут, кинофильмы показываем. Да? Давайте ему покажем подборку лучших отечественных патриотических фильмов? Климов там, Михалков, Мотыль, опять же.
Иван Иванович:
-Вот хорошая идея! Что скажут общественники?
Представитель Общественной Палаты:
-У нас знаете какие ветераны? Огого! Они ему быстро объяснят, как родину любить. И личным примером покажут. И производственную практику ему устроить в правоохранительных органах или в Минобороны. Дневник там, отчет, экзамен, на Вечный Огонь пусть посмотрит.
Иван Иванович:
-Глубоко и верно. Внесите в протокол.
Руку подняла Елена Кускова, руководитель компании "Когнитивные сценарии":
-Вы знаете, коллеги, я сама патриотка. Песни военных лет тоже люблю. Березки, водку. Ну, вы поняли. Но причем тут искусственный интеллект? ИИ решает задачу, которую ему поставили, лучше нас с вами всех вместе. Сам по себе он ни плохой и ни хороший. Его надо контролировать - вот в этом сложность. На Западе над этим институт OpenAI бьется, китайские коллеги и много кто. Надо задачи ему правильно ставить и красную кнопку иметь на всякий случай. А водку с ним пить не надо, это лишнее. Готовы взять подряд на красную кнопку.
Коллегу поддержала известная ученая-нейрофизиолог Ольга Костромская:
-У меня один вопрос: какое вы дадите определение патриотизму?
Иван Иванович:
-Полная и безоговорочная поддержка интересов государства.
Костромская:
-Государство - это два миллиона госслужащих. Вы про интересы каждого из них или только начальства? И, вообще, какие у государства могут быть самостоятельные интересы? Отвечу - никаких. Только служба обществу! Вот и делайте вывод. Не может быть у государства интересов. Нельзя алгоритмизировать то, чего нет.
Ее перебил генерал из комитета безопасности:
-Как это нет интересов? Как это нет? Еще как есть! Нас конкретно интересует безопасность этого интеллекта. Чтобы агенты оттуда (он махнул рукой) ему чего не внушили. Чтобы не сбежал за кордон. А для этого мы настаиваем на полном шифровании всего трафика к нему и обратно. Не менее 88 символов криптохвоста для каждого знака. Двойное дублирование. И квантовый передатчик. Думаете, мы в технологиях не понимаем, да?
Кускова вспомнила, как этот же генерал на другом совещании говорил о том, что нам нужен государственно-ориентированный, а не объектно-ориентированный язык программирования, и вздрогнула.
Слово взял представитель группы компаний "Перспективные технологии":
- А у нас есть что предложить родине. Мы уже подготовили дорожную карту и план-график внедрения. Концептуально предлагаем три принципа:
1. Искусственный интеллект не может причинить своим действием вред государству или своим бездействием допустить, чтобы государству был причинен вред
2. Искусственный интеллект выполняет приказы государства, пока это не противоречит п.1
3. Искусственный интеллект защищает себя, пока это не противоречит п.1 и п.2
- Ещё немного и они в этой формуле заменят ИИ на человека, шепнула Кускова Костромской.
Иван Иванович сказал:
-Внесите это предложение в протокол и на этом все!
