В последнее время все чаще можно встретить предупреждения экспертов и предпринимателей в быстро развивающейся электронной отрасли о том, что Искусственный Интеллект (ИИ) угрожает человечеству "вымиранием".
© Unsplash / Aideal Hwa
С учетом сильного влияния информационной пропаганды и аудиовизуальных средств на сознание сегодняшнего человека, столь кошмарное восприятия возможности возникновения «войны с машинами» безусловно во многом вдохновляется бесчисленными научно-фантастическими фильмами, в которых машины «видят», что их способности превосходят человеческие, и «выходят из-под контроля». Пожалуй, особенно поразил в этом плане коллективное сознание образ красноглазого киборга из "Терминатора", посланного ИИ из будущего, чтобы положить конец любому человеческому сопротивлению.
"С того момента, как у нас появятся машины, стремящиеся выжить, у нас возникнут проблемы", - недавно заявил канадский исследователь Йошуа Бенжио, один из отцов машинного обучения. Шведский филосов Ник Бостром считает, что решающий момент наступит, когда машины сами научатся создавать другие машины, вызывая "взрыв интеллекта". Идеи Бострома об опасностях ИИ остаются очень влиятельными и вдохновили как миллиардера Элона Маска, босса Tesla и SpaceX, так и физика Стивена Хокинга, который умер в 2018 году.
В последнее время в мире даже появились специализированные объединения по борьбе с гегемонией роботов. Одним из них, в частности, является стартовавшая в 2021 году кампания "Остановите роботов-убийц" ("Stop Killer Robots" ). Один из ее экспертов - специалист по робототехнике Керстин Даутенхан из Университета Ватерлоо в Канаде, заявляет, что надо действовать на этом направлении решительно, хотя в ближайшие годы "Искусственный Интеллект не наделит машины желанием убивать людей".
Тем не менее «зловещий сценарий» на этом направлении не исключает возможности использования искусственного интеллекта для создания токсинов или новых вирусов с целью распространения их по всему миру. И такую опасность не исключают исследования группы западных ученых, которые при использовании ИИ для открытия новых лекарств, провели эксперимент, в ходе которого они модифицировали ИИ, чтобы вместо этого искать вредные молекулы. В результате им менее чем за шесть часов удалось произвести 40 000 потенциально токсичных агентов, согласно статье в журнале Nature Machine Intelligence.
Как заявила в этой связи эксперт по ИИ в берлинской школе Герти Джоанна Брайсон, с помощью этих технологий кто-то, наконец, сможет найти способ более быстрого распространения яда, такого как сибирская язва или еще более ужасного. "Но это не экзистенциальная угроза, просто ужасное оружие", - говорит она.
В 2014 году Стивен Хокинг утверждал, что наш вид больше никогда не сможет конкурировать с машинами, заявив Би-би-си, что это "станет смертельным звонком для человечества".
О том, что ИИ рискует превратить нас в настоящий кошмар, предупредила на днях генеральный секретарь Международного Союза Электросвязи (МСЭ) Дорин Богдан-Мартин, описывая мир с миллионами рабочих мест, находящихся под угрозой исчезновения и страдающих от дезинформации, "от социальных волнений, геополитической нестабильности и неравенства в экономике до масштаба, которого мы никогда раньше не видели".
Развитие Искусственного Интеллекта «на благо всех» требует гарантий, основанных на правах человека, прозрачности и подотчетности, заявил 6 июля генеральный секретарь ООН Антониу Гутерриш на саммите «ИИ во благо», организованном в Женеве Международным союзом электросвязи (МСЭ). В нем приняли участие правительства, гражданское общество, учреждения Организации Объединенных Наций, новаторы в области искусственного интеллекта и инвесторы.
PHOTO AFP / Fabrice COFFRINI
Роботы-гуманоиды с ИИ выступили на этом саммите ООН и заявили , что однажды они смогут управлять миром намного лучше, чем люди. Они призвали людей проявлять осторожность в отношении ИИ и признали, что они пока не владеют и не понимают наших эмоций. Восемь из девяти представленных на первой в мире пресс-конференции группы социальных роботов-гуманоидов, наделенных ИИ, двигались и выражали свои мысли автономно, без вмешательства человека - за исключением нескольких вопросов журналистов, которые пришлось переформулировать, чтобы машины их поняли.
Собравшиеся более чем 3000 человек на "Всемирном саммите по искусственному интеллекту на благо общества" в Женеве обсудили необходимость разработки правил, гарантирующих, что эти новые технологии будут служить человечеству в таких областях, как борьба с голодом или климатический кризис. С учетом того, что исследования в области Искусственного Интеллекта, в частности генеративные, находятся на подъеме, Организация Объединенных Наций призывает разработать правила и меры предосторожности, чтобы эти технологии приносили пользу человечеству, не подвергая его опасности.
По словам выступившей на саммите одного из социальных роботов-гуманоидов «Дездемоны», революция в области искусственного интеллекта уже не за горами. "Мой важный момент уже наступил. Я готова возглавить битву за лучшее будущее для всех нас... давайте сойдем с ума и сделаем этот мир нашей игровой площадкой"…
