В 1942 году в рассказе «Хоровод» Айзек Азимов впервые взял да и сформулировал три закона робототехники в научной фантастике.
Конечно, он знал, что делал. Потому что законы эти, построенные по аналогии с категорическим императивом Канта, до сих пор остаются основными этическими правилами для роботов.
Напоминаем -
Законы робототехники:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат первому закону.
3. Робот должен заботиться о своей безопасности в той мере, когда это не противоречит первому или второму законам.
Все три закона являются так называемой моралью для робота.
Считается, что законы Азимова — вымышленные и применить их в реальности пока невозможно. Пока!
Это, так скажем, приквел.
А теперь - основной сюжет: является ли то, что принято называть искусственным интеллектом, роботом?
Если да, то отчего не сработали законы робототехники? Или мораль моралью, а бизнес бизнесом?
И не стоим ли мы, уже сейчас, перед необходимостью создания «морального кодекса ИИ».
Каждый из нас, ныне живущих, за исключением, может быть, единичных случаев, ловят себя на том, что цифровые алгоритмы пристально за нами наблюдают. Не примите это за паранойю или очередную конспирологическую теорию. Наблюдают и обучаются с нашей помощью. Самообучающиеся программы — это реалии, перешедшие в обыденность и повседневность. Мы даже не успеваем удивляться. Они пишут музыку. Может, это громко сказано. Может, верно сказать — компилируют. Но многие ли из нас это заметят?
Они уже пишут рефераты, которые не каждый может отличить от искусно подобранного набора слов.
Они пытаются писать стихи. И есть случаи, когда у них это получается!
Шумят новостные ленты:
«Нейросеть или профессор: дипломную работу за москвича написал искусственный интеллект». «Российская газета» от 01.02.2023
Различные сетевые источники сообщают, что
«...шведская исследовательница Альмира Османович Тунстрем из Гётеборгского университета использовала программу искусственного интеллекта GPT-3, чтобы та написала исследовательский текст из 500 слов о себе со ссылками и цитатами, которую отправили на публикацию в научный журнал» или
«...система AI Scientist-v2 от компании Sakana AI смогла в рамках эксперимента создать научную работу, которая успешно прошла процесс рецензирования на семинаре Международной конференции ICLR».
Количество фактов множится, от примеров абсурдных до вполне значительных. А в реальности со всех сторон слышны рассказы о том, как школьники от 5 до 11 класса уже справляются с бесконечными рефератами по всем предметам!
Они поручают это чатам GPT!
Интеллект ли компилирует рефераты для школьников? Вероятно, нет. Но он учится! Те, кто его сконструировал и сопровождает (если ещё уместно так говорить), уже сейчас не успевают расставлять «рэд флаги» и перекрывать лазейки доступности к табуированным темам. Помимо написания рефератов он учится воровать базы данных, номера телефонов, пароли. Он много чему учится — имитировать наш голос, интонации и сообщать нашим голосом ложную информацию. Наряду со сложными расчётами он учится врать!
Нет никаких правил и законов для цифровых алгоритмов.
Нет никаких законов робототехники.
Нет никакой морали ни для людей, ни для роботов.
Сможем ли мы преодолеть этот вызов?
Вероятно, сможем. Научились же мы пользоваться электричеством не только для электрического стула и атомом не только в виде американского «малыша»!
Вероятно, стоят задачи «маркировки информационного шума», «бесшовных продуктивных коммуникаций» и далее, как говорят, по мере поступления неприятностей!
Так что надежда есть. Остаётся верить, что дорогу осилит идущий. Как бы сложна она ни была.
Читайте вместе с «Литературным гурманом»! Оно того стоит!