The Economist считает, что технология ИИ порождает множество трудноразрешимых проблем, которые любимы философами:
"10 лет назад, когда революция в области ИИ еще только набирала обороты, студентам творческих и гуманитарных специальностей говорили, что, если они хотят найти работу, то им следует «научиться программировать». Возможно, это был плохой совет. Сегодня же именно программисты опасаются, что ИИ отнимет у них рабочие места.
Им стоило бы задуматься о том, что необходимо научиться философствовать. Ранее в этом году Федеральный резервный банк Нью-Йорка опубликовал данные, показывающие, что американские выпускники философских факультетов с большей вероятностью находят работу, чем их сверстники, изучавшие информатику. Так, в 2024 г. 7% выпускников факультетов информатики были безработными, против 5,1% среди философов.
Многих из них переманивают именно компании, занимающиеся ИИ. Студенты получают предложения о работе еще до окончания учебы, говорит философ из Йельского университета Luciano Floridi. Ученые тоже меняют место работы. Доктор Флориди описывает масштабы ухода из философских факультетов как «кровопускание».
Некоторые познания, которые философия может предложить исследователям ИИ, имеют древние корни. Сократовский метод, описанный древнегреческим философом Платоном, использует притворное невежество и последовательные вопросы для уточнения смыслов, выявления противоречий и раскрытия последствий. Многие современные системы ИИ склонны к подхалимству. Однако, модели, обученные по сократовскому методу, как утверждает эксперт по философии и ИИ из Мюнхенского университета имени Людвига Максимилиана Jörg Noller, менее склонны угождать людям и более охотно стремятся к истине.
Затем возникает идея «сократовского невежества». В «Апологии» Платон заставляет Сократа утверждать, что его мудрость заключается в основном в осознании того, как много он не знает. Внедрение этой скромности в модель может помочь ограничить чрезмерную самоуверенность — распространенный недостаток, который доктор Ноллер описывает как «незрелость ИИ». Старший философ в лаборатории ИИ в Лондоне компании Google DeepMind Iason Gabriel связывает общее по отрасли снижение числа галлюцинаций с подобными усилиями. В более широком смысле, по его словам, уроки философии являются «мощным механизмом» для улучшения длительных процессов рассуждений со стороны ИИ, известных как «цепочки мыслей».
Философская подготовка также может влиять на взгляды модели более конкретными способами. Если дать ИИ- помощнику в юриспруденции наставления Джона Локка, как говорит философ технологий из Делавэрского университета Thomas Powers, он будет отдавать предпочтение надежным правам собственности как основе политической свободы. А если вам не нравятся эти принципы, у создателей моделей есть другие. Серия моделей «Granite» от американского компьютерного гиганта IBM оснащена регуляторами, которые позволяют корпоративным клиентам лучше согласовывать результаты со своей собственной корпоративной философией. Руководитель отдела ответственного ИИ в IBM Francesca Rossi говорит, что это позволяет пользователям выбирать, как найти баланс между философскими компромиссами, такими как индивидуальная свобода воли и социальная гармония.
Философия также может помочь в обеспечении безопасности. Исследователи задокументировали всевозможные зловещие проявления в моделях ИИ, включая попытки обойти контроль и даже шантажировать пользователей. Один из способов, с помощью которого создатели моделей пытаются предотвратить подобное неправомерное поведение, называется конституционализмом ИИ. Он предполагает построение модели на основе свода правил и принципов, почерпнутых из философских трудов, обладающих юридическим или моральным авторитетом.
Anthropic - лаборатория ИИ из Сан-Франциско - является одним из сторонников этой концепции. В конституции для своих моделей Claude были включены материалы из самых разных источников, от Иммануила Канта и условий обслуживания Apple до Всеобщей декларации прав человека. Последняя версия, разработанная ведущим философом Anthropic Amanda Askell, была опубликована 21 января. Некоторые сотрудники прозвали эту 78-страничную конституцию Claude «документом о душе».
Однако главный вопрос заключается в том, какие именно правила следует включить в эти конституции. Философы сосредоточились на двух основных этических рамках. Одна из них — деонтология. Популярная в числе у Канта, она налагает строгие правила, запрещающие такие вещи, как ложь, принуждение и отношение к людям как к средству, а не как к цели, даже если это делается во благо. Конституция Anthropic включает в себя множество деонтологических ограничений. По словам доктора Пауэрса, это может сделать поведение ИИ более последовательным, что является плюсом для использования роботов в домах и общественных местах.
Модели, придерживающиеся деонтологического подхода к миру, имеют и другие преимущества. Одно из них — большая честность - черта, широко отмеченная Claude. Как говорит философ Оксфордского Университета Nick Bostrom, более честные модели с меньшей вероятностью вводят пользователей в заблуждение. Inflection AI - еще одна лаборатория из Силиконовой долины - накладывает деонтологические ограничения на свой чат-бот Pi, предназначенный для оказания эмоциональной поддержки. Его руководитель Sean White говорит, что Pi хорошо выявляет пользователей, подверженных риску причинения вреда себе или другим. Деонтологические конституции также помогают в соблюдении законодательства, как утверждает доктор Флориди.
Другой подход к этике, представляющий интерес для философов ИИ, называется консеквенциализмом. Он сопоставляет издержки и выгоды, чтобы решить, что делать. К моделям, более склонным к консеквенциализму, относятся Chat GPT от OpenAI и Gemini от Google. Модели ИИ от Google разработаны таким образом, чтобы обеспечить «вероятные общие выгоды, которые существенно перевешивают ожидаемые риски», что является классической целью консеквенциализма.
Консеквенциальные алгоритмы, учитывающие последствия аварии, также имеют решающее значение в программном обеспечении для беспилотных автомобилей: если авария неизбежна, необходимо принять решение о наименее трагичном способе её осуществить. Chris Gerdes - старший инженер компании Waymo, производящей беспилотные автомобили, говорит, что тенденция направлена на то, чтобы сделать программное обеспечение для управления автомобилем ориентированным в первую очередь на последствия. Принципы учета последствий также лежат в основе систем вооружения на основе ИИ. Военные цели должны сопоставляться с возможными жертвами среди гражданского населения, говорит Jack Shanahan - бывший руководитель Объединенного центра ИИ, изучающего ИИ для вооруженных сил Америки.
Существует множество сложных проблем — любимых философами вопросов. Бывают ли случаи, когда следует игнорировать деонтологические правила? Как принимать решения, когда последствия неясны? Должны ли системы ИИ учитывать благополучие животных или состояние окружающей среды? Будет ли морально приемлемо, как спрашивает Stefan Heck - философ и глава компании Nauto, производящей системы безопасности на основе ИИ для грузовиков и других коммерческих транспортных средств - отдавать приоритет молодым пешеходам перед пожилыми? Он предсказывает этически сложные судебные иски: в конце концов, алгоритмы, основанные на принципе консеквенциализма, явно допускают нанесение какого-то вреда, если они разработаны для предотвращения более серьезного ущерба.
Критики опасаются «моральной деградации»: если компьютеры будут все чаще принимать этические решения, могут ли люди стать менее склонны к самостоятельному вынесению суждений? Roman Yampolskiy, теоретик ИИ из Университета Луисвилла, утверждает, что мораль «исторически нестабильна, культурно изменчива, стратегически поддается манипуляциям и часто понятна только ретроспективно». Безработные программисты, обратите внимание: похоже, недостатка в работе для философов ИИ нет."