В Сан-Франциско собрались активисты по защите животных и исследователи ИИ, чтобы обсудить, как будущее искусственного интеллекта повлияет на благополучие животных и возможное развитие разума машин. — technologyreview.com
В начале февраля защитники прав животных и исследователи ИИ собрались в носках в Mox — скромном коворкинге в Сан-Франциско, где запрещено носить обувь. Над головой развевались желтые и красные навесы, пол был устлан персидскими коврами, а рядом с горшечными растениями светились мозаичные лампы.
В общей зоне защитник дикой природы страстно рассказывал толпе, расположившейся в креслах-мешках, о форме контроля рождаемости грызунов, которая могла бы регулировать популяции крыс без использования яда. В «Комнате ракообразных» дюжина человек сидела кругом, обсуждая, может ли разумность насекомых рассказать нам что-либо о внутренней жизни чат-ботов. Перед «Комнатой крупного рогатого скота» стоял книжный шкаф, заставленный экземплярами книги Элиезера Юдковского If Anyone Builds It, Everyone Dies (Если кто-то это построит, все умрут) — манифеста, утверждающего, что ИИ может уничтожить человечество.
Мероприятие было организовано Sentient Futures, организацией, которая считает, что будущее благополучия животных будет зависеть от ИИ. Как и многие жители района Залива, участники были решительно «подсели на AGI» — они верят, что общий искусственный интеллект (AGI), мощный ИИ, способный конкурировать с людьми в большинстве когнитивных задач, уже на горизонте. Если это правда, рассуждают они, то ИИ, вероятно, окажется ключом к решению самых острых проблем общества, включая страдания животных.
Следует отметить, что эксперты до сих пор ожесточенно спорят о том, достигнут ли современные системы ИИ когда-либо человеческого или сверхчеловеческого уровня интеллекта, и неясно, что произойдет, если это случится. Но некоторые участники конференции представляют себе возможное будущее, в котором главную роль играют системы ИИ, а не люди. В конечном счете, по их мнению, благополучие животных может зависеть от того, научили ли мы системы ИИ ценить жизнь животных.
«ИИ будет очень трансформирующим, и он практически перевернет игровую доску», — сказала Констанс Ли, основатель Sentient Futures. «Если вы считаете, что ИИ будет принимать большинство решений, то важно, как они ценят животных и других разумных существ» — тех, кто может чувствовать и, следовательно, страдать.
Как и Ли, многие участники саммита занимались защитой прав животных задолго до появления ИИ. Но они не из тех, кто жертвует сто долларов приюту для животных. Вместо того чтобы сосредоточиться на местных действиях, они отдают приоритет крупномасштабным решениям, таким как сокращение промышленного животноводства путем продвижения культивируемого мяса, которое выращивается в лаборатории из клеток животных.
Движение за благополучие животных в районе Залива тесно связано с эффективным альтруизмом — филантропическим движением, нацеленным на максимизацию блага, которое человек приносит миру. Действительно, многие участники конференции работают в организациях, финансируемых эффективными альтруистами. Эта философия может звучать прекрасно на бумаге, но «максимизация блага» — это сложная головоломка, которая может не иметь ясного решения. Движение широко критиковалось за некоторые из своих выводов, например, за поощрение работы в эксплуататорских отраслях для максимизации благотворительных пожертвований и игнорирование современного вреда в пользу проблем, которые могут вызвать страдания у большого числа людей, которые еще не родились. Критики также утверждают, что эффективные альтруисты пренебрегают важностью системных проблем, таких как расизм и экономическая эксплуатация, и упускают из виду знания, которые маргинализированные сообщества могут иметь о лучших способах улучшения собственной жизни.
Когда дело доходит до благополучия животных, этот скрупулезно утилитарный подход может привести к некоторым странным выводам. Например, некоторые эффективные альтруисты считают, что имеет смысл направить значительные ресурсы на улучшение благополучия насекомых и креветок, поскольку они существуют в ошеломляющих количествах, даже если они могут не обладать большой индивидуальной способностью к страданию.
Теперь движение разбирается, как в него вписывается ИИ. На саммите Жасмин Бразилек, соучредитель некоммерческой организации Compassion in Machine Learning, открыла свой ноутбук, обклеенный наклейками, чтобы показать эталонный тест, который она разработала для измерения того, как большие языковые модели (LLM) рассуждают о благополучии животных. Инженер по облачной безопасности, ставшая защитником животных, она прилетела из Ла-Паса, Мексика, где управляет своей некоммерческой организацией с горсткой волонтеров и минимальным бюджетом.
Бразилек настоятельно призвала исследователей ИИ в зале обучать свои модели синтетическими документами, отражающими заботу о благополучии животных. «Надеюсь, будущие сверхинтеллектуальные системы будут учитывать нечеловеческие интересы, и наступит мир, где ИИ усилит лучшее из человеческих ценностей, а не худшее», — сказала она.
Сила кошелька
Технологически подкованная сторона движения за благополучие животных столкнулась с серьезными неудачами в последние годы. Мечты о переходе людей от диеты, зависящей от промышленного животноводства, были омрачены такими событиями, как обвал цен на акции компании Beyond Meat, производящей растительное мясо, и принятие законов, запрещающих культивируемое мясо в ряде штатов США.
ИИ вдохнул новую порцию оптимизма. Как и многие в Кремниевой долине, многие участники саммита придерживаются мнения, что ИИ может резко повысить их продуктивность, хотя их цель — не максимизировать раунд посевного финансирования, а скорее предотвратить как можно больше страданий животных. Некоторые обсуждали, как использовать Claude Code и пользовательские агенты для выполнения задач по кодированию и административных задач в их правозащитной деятельности. Другие выдвинули идею разработки новых, более дешевых методов культивирования мяса с использованием научных инструментов ИИ, таких как AlphaFold, который помогает в исследованиях молекулярной биологии, предсказывая трехмерные структуры белков.
Но главным предметом обсуждения на мероприятии стал поток финансирования, который, по прогнозам активистов, скоро будет направлен на благотворительные организации по защите животных — не от отдельных мегадоноров, а от сотрудников лабораторий ИИ.
Большая часть финансирования движения за благополучие сельскохозяйственных животных, которое включает некоммерческие организации, выступающие за улучшение условий на фермах, продвижение веганства и поддержку культивируемого мяса, поступает от людей из технологической индустрии, говорит Льюис Боллард, управляющий директор фонда благополучия сельскохозяйственных животных в Coefficient Giving, филантропическом фонде, который ранее назывался Open Philanthropy. Coefficient Giving поддерживается соучредителем Facebook* Дастином Московицем и его женой Кари Туной, которые входят в число нескольких миллиардеров Кремниевой долины, придерживающихся эффективного альтруизма.
«Эта область была совершенно заброшена традиционными филантропами», — такими как Фонд Гейтсов и Фонд Форда, — говорит Боллард. «В основном это люди из сферы технологий, которые были открыты [этому направлению]».
Боллард ожидает, что следующее поколение крупных доноров составят исследователи ИИ, особенно те, кто работает в Anthropic, лаборатории ИИ, создавшей чат-бот Claude. Основатели Anthropic также имеют связи с движением эффективного альтруизма, и компания имеет щедрую программу софинансирования пожертвований. В феврале оценка Anthropic достигла $380 миллиардов, и сотрудникам была предоставлена возможность обналичить свои акции, поэтому часть этих денег скоро может потечь в благотворительные фонды.
Перспектива нового финансирования поддерживала постоянный гул разговоров на саммите. Защитники прав животных сбивались в кучки в «Комнате членистоногих» и выводили на доске крупные суммы денег и броские аббревиатуры для проектов. Кто-то предложил создать суперактивистский комитет (Super PAC) по защите животных стоимостью 100 миллионов долларов, который разместил бы сотрудников у членов Конгресса и лоббировал законодательство о благополучии животных. Некоторые хотели основать медиакомпанию, создающую контент, сгенерированный ИИ, для TikTok, продвигающий веганство. Другие говорили о внедрении защитников животных внутрь лабораторий ИИ.
«Объем нового финансирования придает нам больше уверенности, чтобы быть смелее в отношении некоторых вещей», — сказал Аарон Бодди, соучредитель Shrimp Welfare Project, организации, целью которой является снижение страданий выращенных на фермах креветок, в том числе посредством гуманного убоя.
Вопрос о благополучии ИИ
Но благополучие животных было лишь половиной фокуса саммита Sentient Futures. Некоторые участники углубились на гораздо более возвышенные территории. Они всерьез восприняли спорную идею о том, что системы ИИ однажды могут развить способность чувствовать и, следовательно, страдать, и опасаются, что эти будущие страдания ИИ, если их игнорировать, могут стать моральной катастрофой.
Страдание ИИ — сложная исследовательская проблема, не в последнюю очередь потому, что ученые еще не до конца понимают, почему люди и другие животные разумны. Но на саммите нишевая группа философов, в основном финансируемых движением эффективного альтруизма, и несколько вольнодумных академиков разбирались с этим вопросом. Некоторые представили свои исследования по использованию LLM для оценки того, могут ли другие LLM быть разумными. В Вечер Дебатов участники спорили о том, следует ли иронично называть разумные системы ИИ «кланкерами» (clankers) — уничижительным термином для роботов из фильма «Звездные войны», — задаваясь вопросом, может ли робо-оскорбление повлиять на то, как мы будем относиться к новому типу разума.
«Неважно, корова это или свинья, или ИИ, если у них есть способность чувствовать счастье или страдание», — говорит Ли.
В некотором смысле, включение разумности ИИ в конференцию по благополучию животных не так странно, как может показаться. Исследователи, работающие над машинной разумностью, часто опираются на теории и подходы, впервые разработанные в изучении разумности животных, и если вы признаете, что беспозвоночные, вероятно, чувствуют боль, и верите, что системы ИИ скоро достигнут сверхчеловеческого интеллекта, то допущение возможности того, что эти системы также могут страдать, может быть не таким уж большим шагом.
«Защитники прав животных привыкли идти против течения», — говорит Дерек Шиллер, исследователь сознания ИИ из аналитического центра Rethink Priorities, который когда-то был веб-разработчиком в некоммерческой организации по защите прав животных Humane League. «Они более открыты к тому, чтобы беспокоиться о благополучии ИИ, даже если другие считают это глупым».
Но за пределами нишевого круга в районе Залива забота о возможности разумности ИИ продается хуже. Ли говорит, что столкнулась с противодействием со стороны других защитников прав животных, когда, вдохновившись конференцией по разумности ИИ, которую она посетила в 2023 году, она переименовала свою организацию по защите прав сельскохозяйственных животных в Sentient Futures в прошлом году. «Многие люди были крайне уверены, что ИИ никогда не станет разумным, и [утверждали], что, вкладывая любую энергию или деньги в благополучие ИИ, мы просто сжигаем деньги и выбрасываем их», — говорит она.
Мэтт Домингес, исполнительный директор Compassion in World Farming, повторил это опасение. «Я бы не хотел, чтобы люди отнимали деньги у благополучия сельскохозяйственных животных или благополучия животных и переводили их на что-то, что на данный момент является гипотетическим», — говорит он.
Тем не менее, Домингес, который начал сотрудничать с Shrimp Welfare Project после того, как узнал о страданиях беспозвоночных, считает, что сострадание безгранично. «Когда мы заставляем кого-то заботиться об одной из этих вещей, это создает потенциал для расширения их круга сострадания, чтобы включить и других», — говорит он.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Rachel Courtland