[via]
Группа по технологической этике, обратилась в Федеральную торговую комиссию с просьбой провести расследование в отношении OpenAI на предмет нарушения требований защиты прав потребителей. Они утверждают, что распространение организацией инструментов генерации текстов с помощью искусственного интеллекта было «предвзятым, обманчивым и представляло риск для общественной безопасности».
Центр искусственного интеллекта и цифровой политики (CAIDP) подал жалобу после публикации громкого открытого письма, призывающего приостановить крупные эксперименты с генеративным ИИ. Президент CAIDP Марк Ротенберг был одним из подписантов письма, наряду с рядом исследователей. Как и в том письме, в жалобе содержится призыв замедлить разработку генеративных ИИ-моделей и ввести более строгий государственный контроль.
Жалоба указывает на потенциальные угрозы со стороны генеративной текстовой модели GPT-4 от OpenAI, которая была анонсирована в середине марта. К ним относятся возможности GPT-4 по созданию вредоносного кода и целенаправленной пропаганды, а также возможности того, что необъективные данные могут привести к заложенным стереотипам или несправедливым расовым и гендерным предпочтениям при приёме на работу. В документе также отмечаются значительные нарушения конфиденциальности в интерфейсе продуктов OpenAI – например, недавняя ошибка, которая позволила раскрыть историю переписок и, возможно, платёжные данные других пользователей.
OpenAI открыто говорит о потенциальных угрозах, связанных с генерацией текста искусственным интеллектом, но представители CAIDP утверждают, что GPT-4 переходит грань, что должно повлечь за собой меры регулирования.
Ассоциация требует привлечь OpenAI к ответственности за нарушение раздела 5 закона Федеральной торговой комиссии, который запрещает нечестную и недобросовестную торговую практику.
«OpenAI выпустила GPT-4 для коммерческого использования, полностью осознавая риски, включая потенциальную предвзятость ИИ и возможность возникновения вредного поведения», – говорится в жалоба.
CAIDP просит Комиссию остановить любое дальнейшее коммерческое внедрение GPT и потребовать проведения независимой оценки моделей перед любым будущим внедрением. Она также просит создать общедоступный инструмент отчётности, аналогичный тому, что позволяет потребителям подавать жалобы на мошенничество. Кроме того, в документе содержится требование о принятии строгих правил в отношении генеративных систем искусственного интеллекта на основе продолжающихся, но всё ещё относительно неформальных исследований.
Как отмечают представители CAIDP, Комиссия проявила интерес к регулированию использования инструментов искусственного интеллекта.
Больше интересного в нашем Telegram: https://t.me/applespbevent
Ещё по теме: