Член палаты представителей Дин Филлипс (демократ от штата Миннесота), справа, в четверг в Ганновере, штат Нью-Гэмпшир
Компания OpenAI, занимающаяся искусственным интеллектом, запретила разработчику бота, имитирующего кандидата в президенты от Демократической партии Дина Филлипса — это первое действие, которое создатель ChatGPT предпринял в ответ на то, что он считает неправомерным использованием своих инструментов искусственного интеллекта в политической кампании.
Dean.Bot был детищем предпринимателей из Кремниевой долины Мэтта Крисилоффа и Джеда Сомерса, которые создали супер-PAC, поддерживающий Филлипса (штат Миннесота) в преддверии праймериз в Нью-Гэмпшире во вторник. PAC получил 1 миллион долларов от менеджера хедж-фонда Билла Акмана, миллиардера-активиста, который возглавил кампанию по смещению президента Гарвардского университета Клодин Гэй.
Бот был основан на разговорном программном обеспечении OpenAI ChatGPT, которое компания сделала доступным для сторонних разработчиков. Супер-PAC, получивший название We Deserve Better, заключил контракт со стартапом Delphi, занимающимся искусственным интеллектом, на создание бота. OpenAI заблокировала аккаунт Delphi поздно вечером в пятницу в ответ на статью Washington Post о SuperPAC, отметив, что правила OpenAI запрещают использование ее технологии в политических кампаниях. Delphi удалил Dean.Bot после блокировки аккаунта.
«Любой, кто строит с помощью наших инструментов, должен следовать нашей политике использования», — заявила пресс-секретарь OpenAI Линдси Хелд. «Недавно мы удалили учетную запись разработчика, которая сознательно нарушала наши правила использования API, которые запрещают проводить политические кампании или выдавать себя за человека без его согласия».
Dean.Bot, который может общаться с избирателями в режиме реального времени через веб-сайт, был одним из первых способов использования новой технологии, которая, по словам исследователей, может нанести значительный вред выборам. Бот содержал дисклеймер, объясняющий, что это инструмент искусственного интеллекта, а не настоящий Дин Филлипс, и требовал, чтобы избиратели дали согласие на его использование. Но исследователи сообщили The Post, что такие технологии могут убаюкать людей, заставляя их принимать опасный инструмент, даже если есть оговорки.
Сторонники, в том числе «Мы заслуживаем лучшего», утверждают, что боты при правильном использовании могут обучать избирателей, предоставляя им развлекательный способ узнать больше о кандидате. Эксперты говорят, что эти технологии могут обеспечить массовые автоматические звонки избирателям, которые думают, что разговаривают с реальными кандидатами или сторонниками. Системы искусственного интеллекта также могут создавать дезинформацию в рекламе или контенте, например поддельных веб-сайтах, в больших масштабах.
После того, как в четверг The Post спросила We Deserve Better о запретах OpenAI, Крисилофф сказал, что попросил Delphi удалить ChatGPT из бота и вместо этого полагаться на технологии с открытым исходным кодом, которые также предлагают диалоговые возможности, заложенные в дизайн бота. По словам Крисилоффа, бот оставался доступным для общественности без ChatGPT до позднего вечера пятницы, когда Delphi удалил бота в ответ на приостановку.
От дальнейших комментариев Крисилофф отказался. В Delphi не сразу ответили на просьбу о комментарии. Крисилофф — бывший начальник штаба генерального директора OpenAI Сэма Альтмана. Альтман встречался с Филлипсом, но не имеет никакого отношения к суперкомитету, сказал Крисилофф.