Большинство переживает по поводу угрозы ИИ в сторону человечества. ИИ вряд ли сможет поработить человечество, но он может взять на себя многие аспекты для упрощения и удобства нашей жизни.
Рост ChatGPT и подобных систем ИИ сопровождался резким ростом беспокойства и обсуждений по поводу крупномасштабной катастрофы . В течение последних нескольких месяцев руководители и исследователи безопасности ИИ предлагали прогнозы, получившие название « P(doom) », о вероятности этого исхода.
Самый пик беспокойства пришелся на май 2023 года, когда правозащитная организация «Центр безопасности ИИ» опубликовала заявление: «Снижение риска исчезновения из-за ИИ должно стать глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война. ” Заявление подписали: OpenAI, Google и Anthropic, а также двух так называемых «крестных отцов» ИИ: Джеффри Хинтона и Йошуа Бенджио .
А как должны проявляться такие экзистенциальные страхи. Возьмем один из интересных сценариев, например эксперимент “Максимизация скрепки”. Данный эксперимент был сформулирован оксфордским философом Ником Бостромом. Идея эксперимента в том, что система ИИ, которая выполняет поручения на производство скрепок, пойдет на все, чтобы найти сырье уничтожая фабрики или вызывая автомобильные аварии на дорогах.
Менее ресурсоемкий вариант имеет ИИ, которому поручено забронировать столик в популярном ресторане, при этом он отключает сотовые сети и светофоры, чтобы у других посетителей не было возможности занять столик.
Искусственный интеллект быстро становится инопланетным разумом, способным достигать целей без соответствия моральных ценностей, какие были у его создателей. Именно из-за этого появляются переживания и опасения на счет ИИ. А вдруг он поработит человечество?
Фактический вред
В последние несколько лет работники Центра прикладной этики Университета Массачусетса в Бостоне изучали влияние взаимодействия с ИИ на понимание людьми самих себя. Результат показал, что катастрофические тревоги преувеличены и направлены не по адресу .
Способность ИИ создавать убедительные поддельные видео и аудио пугает и ею могут злоупотреблять люди с не очень добрыми намерениями. Но на самом деле это уже происходит: Киберпреступники используют клонирование голоса ИИ для самых разных преступлений — от высокотехнологичных ограблений до обычного мошшеничества.
Системы принятия решений ИИ, которые предлагают одобрение кредита и рекомендации по найму, несут риск алгоритмической предвзятости, поскольку обучающие данные и модели принятия решений, на которых они основаны, отражают давние социальные предрассудки.
Это большие проблемы, и они требуют внимания. Но они уже существуют и вряд ли являются катастрофическими.
Не в той же лиге
Центр безопасности ИИ в своем заявлении признал, что пандемия и ядерное оружие представляют серьезную угрозу для цивилизации. Однако, сравнивая эти два риска, возникают определенные проблемы. COVID-19, вызвавший почти 7 миллионов смертей по всему миру, привел также к кризису психического здоровья и экономическим проблемам, таким как нехватка цепочек поставок и инфляция. В то время как ядерное оружие унесло жизни более 200 000 человек в Хиросиме и Нагасаки и привело к долговременным последствиям в виде рака, оно также вызвало тревогу во время холодной войны и привело мир к грани уничтожения во время Кубинского ракетного кризиса.
Искусственный интеллект не способен нанести такой ущерб, как в научной фантастике, например, от использования скрепок или подобных предметов. Существующие приложения и технологии искусственного интеллекта выполняют конкретные задачи и не способны делать общие выводы или планировать цели, включая второстепенные, для достижения определенного результата, например, чтобы забронировать место в ресторане или уничтожить автомобильный завод.
У этой технологии не хватает сложных возможностей для многоуровневой оценки, которая задействована в этих сценариях. Кроме того, у нее нет автономного доступа к достаточному количеству частей нашей критической инфраструктуры, чтобы начать причинять такой ущерб.
Что значит быть человеком
Использование искусственного интеллекта сопряжено с реальной угрозой, но это опасность не в апокалиптическом, а в философском смысле. В настоящей форме искусственный интеллект может повлиять на восприятие себя людьми, что может негативно отразиться на их способностях и опыте, которые они считают неотъемлемыми для человеческого существования.
Например, человек - существо, способное выносить суждения. Он анализирует детали и принимает рациональные решения на работе и в свободное время, например, при найме сотрудников, взятии кредита, выборе фильма и т.д.
Алгоритмы все больше автоматизируют такие суждения, и это не приведет к концу света. Однако люди постепенно теряют способность самостоятельно делать такие суждения. Чем меньше люди делают это, тем хуже они, возможно, станут в этом. Рассмотрим роль случая в жизни людей. Люди ценят случайные встречи и ретроспективно оценивают роль случайности в своих значимых находках. Однако алгоритмические рекомендательные системы стремятся уменьшить количество случайностей и заменить их планированием и прогнозированием.
Возможности записи ChatGPT, наконец, рассмотрим. Технология находится в процессе устранения роли написания заданий в высшем образовании. Если педагоги потеряют ключевой инструмент для обучения студентов критическому мышлению, это будет произошло.
Не умер, но уменьшился
Так что нет, мир не будет взорван искусственным интеллектом. Однако все более безрассудное отношение к нему в различных узких контекстах приводит к постепенному ослаблению некоторых из самых важных навыков человека. Уже сейчас алгоритмы подрывают способность людей делать суждения, получать удовольствие от случайных встреч и развивать критическое мышление.
Человеческий вид переживет эти потери, но наш способ существования станет беднее. Фантастические опасения о грядущей катастрофе искусственного интеллекта, сингулярности, Скайнета или какой-либо другой формы разрушения мира скрывают эти более тонкие последствия. Вспомните известные строки Т. С. Элиота в его произведении "Полые люди": "Вот так и заканчивается мир - не взрывом, а всхлипом".
