Заголовок темы: «Время для спасения истекает». В Соединенных Штатах заявили об угрозе искусственного интеллекта всему человечеству. Доклад, подготовленный по заказу Госдепартамента США, рисует тревожную картину катастрофических рисков национальной безопасности, создаваемых быстро развивающимся искусственным интеллектом, и предупреждает, что время, необходимое для предотвращения катастрофы, истекает. Это уже осознали в Европе - в этом плане они опередили американцев. Европарламент одобрил первый в мире закон об искусственном интеллекте, запрещающий неприемлемые методы его использования. Это объемный документ - надо очень долго вчитываться. Новые правила запрещают определенные приложения ИИ, которые угрожают правам граждан. В частности, под запрет попадают системы биометрической идентификации, которые используют изображения лиц из Интернета и записи камер видеонаблюдения для создания баз данных. Целью закона является защита фундаментальных прав, демократии, верховенства закона от ИИ. В общем, не лезьте в человеческую жизнь. У нас тоже создан Альянс по искусственному интеллекту. Участники Альянса рассчитывают, что за счет объединения усилий удастся ускорить развитие технологий на основе ИИ. Сразу со всех концов света полетели новости, что ИИ не такой «белый и пушистый», как его рисуют апологеты этого движения. Риски есть. Или это «ретрограды» возбудились?
Сергей Михеев: Америка и Европа были в авангарде этого движения, разработки технологий, их популяризации и внедрения. Но вдруг они прозрели. Хотя дискуссии и опасения по этому поводу велись на Западе давно. Первые опасения появились в западных научных кругах, а до нас это доходило в виде научной и ненаучной фантастики. Они были у классиков американской и европейской фантастики (Брэдбери, Азимов): риск того, что умные машины вырвутся из-под контроля и начнут «крошить» людей направо и налево или их поработят. Они развивались постепенно, по мере развития науки и техники, с момента появления компьютеров, вычислительных машин, роботизированных систем. Я думаю, что это закономерные опасения. Эта мысль пульсировала и в Америке, и в Европе.
Отчасти это была спекуляция в рамках массовой культуры, но отчасти это были реальные опасения. Я думаю, что они имеют под собой вполне понятную почву: чем умнее и самостоятельнее машины в принятии решений, тем больше риска, что они «отвяжутся» и человек станет их придатком. А что они с человеком будут делать и как будут использовать, никто понять не может. Надо держать это под контролем. Парадоксальная ситуация - они всё это продвигали, а теперь до них начало доходить. Почему сейчас? Может быть хитро выделанный заговор поискать! Но я думаю, что за последние годы совершён мощный, качественный рывок в развитии систем, основанных на ИИ, и такой же мощный рывок в их рекламе. Это стало проникать в политические теории, стало повседневной реальностью. Это проникло в повседневную жизнь человека и стало активно внедряться во все сферы деятельности.
На мой взгляд, происходит хаотизация процессов: мы не можем ухватиться и проконтролировать всё, что происходит, что связано с ИИ. Редкий случай, когда я готов поддержать американцев и европейцев в этом вопросе. Что касается нас: если мы хотим суверенного развития в рамках того, что мы являемся самостоятельной цивилизацией, нам надо любое явление этого мира, включая НТП, осмысливать через призму собственных интересов и через призму сочетания традиционных ценностей и смыслов с технической модернизацией. Собственная концепция развития ИИ - философски обоснованная и нравственно обусловленная - нам жизненно необходима.
Просто сказать, что мы будем его развивать, - этого мало. Надо понять, что и как мы будем развивать; что здесь нам полезно, а что вредно; что надо ограничивать и контролировать, а что стимулировать и подталкивать. И может быть мы могли бы показать оптимальную концепцию развития. Здесь мы опять не успели – они уже приняли законы, чтобы показать всем модель развития! К сожалению, проявляется вторичность, сохраняющаяся в нашем сознании. Друзья мои, побеждает тот, кто возглавляет эти процессы и инициативу берет в свои руки! Как только все эти вещи появились, надо было заявить собственную модель развития, и это могло бы стать примером для других. Надо думать на 3-5 шагов вперед - тогда вы будете лидерами и не будете всё время кого-то догонять. Но проблема актуальна, и придётся на эту тему серьезно размышлять, в том числе философски.
