Аналитический центр искусственного интеллекта подал жалобу в FTC , пытаясь остановить OpenAI от дальнейшего коммерческого развертывания GPT-4.
Центр искусственного интеллекта и цифровой политики (CAIDP) утверждает, что OpenAI нарушил пятый раздел Закона о Федеральной торговой комиссии, обвиняя компанию в обманных и недобросовестных действиях.
Марк Ротенберг, основатель и президент CAIDP, сказал:
«FTC несет четкую ответственность за расследование и запрещение недобросовестной и вводящей в заблуждение торговой практики. Мы считаем, что FTC следует внимательно присмотреться к OpenAI и GPT-4.Мы специально просим FTC определить, соблюдает ли компания руководство, изданное федеральным агентством».
CAIDP утверждает, что GPT-4 OpenAI является «предвзятым, вводящим в заблуждение и представляет угрозу для конфиденциальности и общественной безопасности».
Аналитический центр процитировал содержимое системной карты GPT-4 , в котором описывается потенциал модели для усиления предубеждений и мировоззрений, включая вредные стереотипы и унизительные ассоциации для определенных маргинализированных групп.
В вышеупомянутой системной карте OpenAI признает, что «обнаружил, что модель может усиливать и воспроизводить определенные предубеждения и мировоззрения, включая вредные стереотипные и унизительные ассоциации для определенных маргинализированных групп».
Кроме того, в документе говорится: «Системы ИИ будут иметь еще больший потенциал для укрепления целых идеологий, мировоззрений, правды и неправды, а также для их цементирования или блокировки, исключая будущие споры, размышления и улучшения».
Другие вредные последствия, к которым, по словам OpenAI, может привести GPT-4, включают:
- Совет или поощрение членовредительства
- Графический материал, например эротический или насильственный.
- Оскорбительный, унижающий достоинство и разжигающий ненависть контент
- Контент, полезный для планирования нападений или насилия
- Инструкция по поиску нелегального контента
CAIDP утверждает, что OpenAI опубликовала GPT-4 без независимой оценки рисков.
На прошлой неделе FTC заявила американским компаниям, рекламирующим продукты ИИ:
«Простое предупреждение ваших клиентов о неправомерном использовании или требование раскрыть информацию вряд ли достаточно для сдерживания злоумышленников.Ваши меры сдерживания должны быть надежными, встроенными функциями, а не исправлениями ошибок или дополнительными функциями, которые третьи лица могут подорвать путем модификации или удаления».
Своим заявлением CAIDP призывает FTC расследовать продукты OpenAI и других операторов мощных систем искусственного интеллекта, предотвращать дальнейшие коммерческие выпуски GPT-4 и обеспечивать создание необходимых барьеров для защиты потребителей, бизнеса и коммерческого рынка. .
Мерве Хикок, председатель и директор по исследованиям CAIDP, прокомментировала:
«Мы находимся в критическом моменте в развитии продуктов ИИ.Мы признаем возможности и поддерживаем исследования. Но без необходимых гарантий, установленных для ограничения предвзятости и обмана, существует серьезный риск для бизнеса, потребителей и общественной безопасности.FTC имеет уникальные возможности для решения этой проблемы».
Жалоба была подана, когда Илон Маск, Стив Возняк и другие эксперты по ИИ подписали петицию о «приостановке» разработки систем ИИ, более мощных, чем GPT-4.
Однако другие высокопоставленные деятели считают, что прогресс нельзя замедлять/останавливать:
Маск был соучредителем OpenAI, которая изначально была создана как некоммерческая организация с миссией обеспечения того, чтобы ИИ приносил пользу человечеству. Маск ушел из совета директоров OpenAI в 2018 году и публично поставил под сомнение трансформацию компании:
Глобальные подходы к регулированию ИИ
По мере того, как системы искусственного интеллекта становятся все более совершенными и мощными, растут опасения по поводу их потенциальных рисков и предубеждений. Такие организации, как CAIDP, ЮНЕСКО и Институт будущего жизни, добиваются введения этических норм и правил для защиты населения и обеспечения ответственного развития технологий ИИ.
ЮНЕСКО (Организация Объединенных Наций по вопросам образования, науки и культуры) призвала страны реализовать ее «Рекомендацию по этике ИИ» .
Ранее сегодня Италия запретила ChatGPT. Органы по защите данных страны заявили, что это будет расследовано, и у системы нет надлежащих правовых оснований для сбора личной информации о людях, которые ее используют.
Расширенный ЕС устанавливает строгую нормативную среду для ИИ, в отличие от относительно «легкого» подхода Великобритании .
Тим Райт, партнер и специалист по регулированию технологий и искусственного интеллекта в юридической фирме Fladgate , прокомментировал видение Великобритании:
«Принципы регулирования, изложенные в официальном документе, просто подтверждают предпочтительный подход правительства, который, по их словам, будет поощрять инновации в этой области, не возлагая чрезмерного бремени на компании, разрабатывающие и внедряющие ИИ, и в то же время поощряя справедливое и этичное использование и защищая людей.Время покажет, принесет ли этот секторальный подход желаемый эффект. Что он действительно делает, так это ставит Великобританию на совершенно иной подход, чем ЕС, который проталкивает подробный свод правил, подкрепленный новым режимом ответственности и контролируемый единым регулятором высшего уровня ИИ».
Как всегда, это баланс между регулированием и инновациями. Недостаточное регулирование подвергает общественность риску, в то время как слишком сильное регулирование может привести к инновациям в других местах.
