Белый дом США обнародовал первую комплексную программу по управлению рисками, связанными с искусственным интеллектом. Она приписывает всем создателям ИИ отчитываться об его использовании, устранять потенциальные риски, которые связаны с этой технологией. Я почитал этот отчет. Эти риски и наши эксперты озвучивают, и я думаю, что небезосновательно. Белый дом говорит: «Мы объявляем о новых стандартах защиты прав и безопасности ИИ. Мы потребуем проверки, чтобы эти инструменты не ставили под угрозу права и безопасность американского народа». Приводится пример, что если в больницах ИИ в помощь врачам ставит диагнозы пациентам, он должен показать, что он не ставит диагнозы на расовой почве. Второе требование – это прозрачность: как, на каких условиях, для чего используется ИИ, и чтобы был внутренний надзор. Федеральное агентство назначит у себя главного сотрудника по ИИ с соответствующими полномочиями и компетенциями.
Сергей Михеев: Главным сотрудником станет какой-нибудь робот (смеется).
Так или иначе, шаг сделан. У них опасения на расовой почве.
Сергей Михеев: Это просто модно. Не являюсь противником прогресса, но считаю, что к этим вещам надо относиться ответственно и контролировать их для того, чтобы человек не стал жертвой прогресса и именем прилагательным. Человек во главе угла, это делается для человека, а не человек для всех этих новшеств. Во-первых, надо видеть все опасности; во-вторых, надо от них защищать человека; в-третьих, надо вырабатывать оптимальную систему использования там, где это полезно. Просто хочу ответственного отношения к развитию технологий, а не тупой эйфории и кампанейщины. Это моя личная позиция.
С политической точки зрения: мне обидно, что Белый дом выступает первым с концепцией безопасности ИИ. Это должна была сделать Россия! Для чего отдавать инициативу Белому дому, ООН, ЕС? Ведь эти проблемы очевидны, вы развиваете и везде внедряете ИИ -вам бы и выступить мировыми лидерами! Мы всё говорим: «Что Россия может предложить миру?» Всё лежит на поверхности! Сейчас это супертема. Возьмите и скажите: «Наряду с развитием технологий мы заявляем о необходимости ответственного подхода к ИИ. Вот концепция безопасности России в этой сфере. Развитие плюс безопасность – ответственная вещь. Поучитесь у нас – сейчас переведём на все языки сразу, почитайте». Какой тут надо обладать особой мудростью, чтобы это делать? Это было бы правильно, интересно и привлекало бы внимание.
Но мы с вами комментируем другие новости - из Вашингтона. Мы, конечно, посмеёмся над ними: «Расовые штуки – ха-ха-ха». Но они это написали, а мы пока нет. А что мешает это сделать? Хотя бы для себя. И тогда мы будем это обсуждать в новостях. Более того, многие люди в других странах мира, включая на Западе, тоже это прочитают и будут обсуждать. Не надо создавать образ цифровых технологий и ИИ как чего-то подобного Райскому саду! Это неправда. И мы это видим на примере мошенничества, преступности, диверсий. Это значит, что надо создать комплексную, гармоничную концепцию, которая поставит нам на службу всё, что принесет пользу, и, наоборот, отсечёт и ограничит всё, что может принести вред.
Что касается медицины, здорового человека и его жизни, надо максимально ответственно к этому подходить. Вы доверитесь ИИ, он поставит неправильный диагноз, а если вы начнёте человека неправильно лечить, он помрёт. Вы ему доверите контроль за оборудованием в реанимации, а он что-нибудь перемкнёт, и человек умрёт. Это крайне ответственная сфера - надо очень осторожно, аккуратно к этому подходить. К сожалению, многие прогнозы сбываются. Вся эта цифровая вакханалия скоро придёт к тому, что мы будем жить в мире тотальной лжи. Одна из проблем, которая сейчас озвучивается в ходе ситуации после теракта в «Крокусе», это то, что преступники, мошенники приспособили ИИ для того, чтобы он имитировал голоса ваших родственников. Они вам звонят от имени родственников и вас обманывают или заставляют совершить преступление. Помню, когда только начинал об этом говорить, мне отвечали: «Не мешайте прогрессу». Чтобы такие вещи прогнозировать, не надо быть академиком. Они лежат на поверхности. От этого надо было защищаться. И сейчас еще несложно это признать и начать защищаться.
Миллиардер Билл Гейтс - не последний человек в этой отрасли. Он в беседе с премьер-министром Индии Нарендрой Моди сказал, что мир сейчас наблюдает начальный этап развития технологий ИИ - это первые дни развития ИИ; он будет делать то, что вы сейчас считаете трудным, а затем потерпит неудачу в том, что вы считаете лёгким. Как я понял слова Гейтса, ИИ не взберётся на высшую ступень цифровой эволюции.
Сергей Михеев: Эти вещи на интуитивном уровне понятны и довольно легко просчитываются. ИИ поднимется в лучшем случае до среднего уровня, поэтому не надо из него делать божество; потому что, делая из него божество и внедряя его везде, вы готовите себе проблемы. Здесь нужен трезвый и спокойный анализ: что-то можно использовать – хорошо; что-то нельзя использовать - и не надо. В этом смысле с Биллом Гейтсом я согласен.
Цифровой профиль - это хорошо, а живое общение бесценно.
Сергей Михеев: Так точно.