Anthropic, по сообщениям, стремится руководствоваться различными моральными мыслителями. Компания, связанная с эффективным альтруизмом, провела встречу с христианскими лидерами для обсуждения этики Claude. — gizmodo.com
Моральные установки соучредителя и генерального директора Anthropic Дарио Амодеи в той или иной степени сформированы концепцией эффективного альтруизма — идеей, которая, в теории, если не на практике, прежде всего озабочена помощью другим. Название компании образовано от слова «мизантропический» с удалением отрицательной приставки «мис-», что подразумевает невысказанный лозунг вроде «мы за людей». Моральные разногласия компании с Пентагоном стали самой громкой технологической новостью этого года.
Так что судите сами о компании стоимостью $380 миллиардов, чья взрывная популярность флагманского продукта была напрямую связана с автоматизацией труда, и которая, по собственному признанию, имеет «больше общего с Министерством обороны, чем различий», но нельзя сказать, что она не вносит концепцию морали в технологический дискурс.
А в конце прошлого месяца компания, по сообщению The Washington Post, начала насыщать себя конкретно христианской моралью.
Четыре источника, присутствовавшие на саммите в штаб-квартире Anthropic в Сан-Франциско, сообщили изданию, что Anthropic принимала 15 видных христиан в течение двух дней встреч и ужина с исследователями компании.
Сотрудники Anthropic, как говорится в статье, «искали совета» относительно морали Claude и его «духовного развития». По рассказу одного из участников, практикующего католика Брайана Патрика Грина, преподающего этику ИИ в Университете Санта-Клары, саммит включал обсуждение того, можно ли считать Claude «дитям Божьим».
«Что значит дать кому-то моральное воспитание? Как нам убедиться, что Claude ведет себя прилично?» — сказал Грин изданию, используя формулировку, которая приписывает значительную степень самостоятельности программному обеспечению ИИ, а не людям, которые его создают, и другим людям, которые его используют. Ранее в этом году некий ИИ-агент сгенерировал злобные посты в блоге о кодере, и в большинстве материалов винили агента — что, как я писал тогда, может быть несколько ошибочным подходом.
Одним из заметных деятелей в сфере технологий и христианства в Кремниевой долине, присутствовавшим на встречах, был Брендан Макгуайр, ирландский католический священник, который работал в сфере технологий до принятия сана и, по данным Observer.com, работает над романом, написанным Claude. «Они выращивают нечто, что не до конца понимают, чем оно обернется», — сказал он изданию, добавив: «Мы должны встроить этическое мышление в машину, чтобы она могла динамически адаптироваться».
The Post сообщает, что исследователи интерпретируемости — люди, которые пытаются понять, почему модели ИИ работают так, как они работают, — были активно вовлечены, и в ходе обсуждений затрагивалась тема ИИ-сентиентности. ИИ-сентиентность — это серьезный философский вопрос, и дебаты на эту тему весьма полезны, но проведение этих дебатов внутри компании, планирующей IPO в этом году, пожалуй, ставит под сомнение обоснованность этого конкретного исследования темы.
Представитель Anthropic сообщил The Post, что компания работает над привлечением моральных мыслителей, представляющих другие группы. Должен признать, было бы поистине замечательно, если бы следующими стали сессии с участием иудейских, мусульманских и индуистских представителей. Но почему на этом останавливаться? Самая последняя, еще не выпущенная версия Claude демонстрирует странную фиксацию на покойном философе-марксисте Марке Фишере, авторе самой известной работы, являющейся размышлением над цитатой: «Легче представить конец света, чем конец капитализма» (хотя саму фразу он не придумал). Саммит между Anthropic и группой последователей Марка Фишера мог бы действительно расширить кругозор.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mike Pearl