В результате ошеломляющего события Центр искусственного интеллекта и цифровой политики (CAIDP) подал жалобу на OpenAI, утверждая, что их долгожданная модель GPT-4 нарушает правила защиты прав потребителей Федеральной торговой комиссии (FTC).
В жалобе утверждается, что развертывание OpenAI инструмента генерации текста AI является не только «предвзятым, вводящим в заблуждение и представляющим угрозу для общественной безопасности», но и вопиющим нарушением правил Федеральной торговой комиссии против недобросовестных и вводящих в заблуждение практик. В основе проблемы лежат потенциальные угрозы, исходящие от генеративных моделей ИИ, таких как GPT-4, которые очень сложны и, как известно, трудно поддаются контролю. По данным CAIDP, эти модели могут создавать вредоносный код и узкоспециализированную пропаганду, которые могут иметь разрушительные последствия для общественной безопасности и безопасности. Более того, они утверждают, что предвзятые данные обучения, используемые для обучения GPT-4, могут привести к укоренившимся стереотипам или несправедливым расовым и гендерным предпочтениям в таких вещах, как прием на работу, что может еще больше усугубить существующее неравенство и дискриминацию в обществе. Что еще хуже, CAIDP также указал на серьезные проблемы с конфиденциальностью в интерфейсе продукта OpenAI, в том числе на недавнюю ошибку, из-за которой история OpenAI ChatGPT и, возможно, платежные реквизиты были раскрыты другим пользователям. Это, в сочетании с потенциальными опасностями генеративных моделей ИИ, привело к тому, что CAIDP призвал к более строгому государственному надзору и паузе в крупных экспериментах с генеративным ИИ, повторяя настроения, выраженные в недавнем открытом письме, подписанном несколькими видными исследователями ИИ и соавторами OpenAI. основатель Илон Маск. Поскольку дебаты о рисках и преимуществах ИИ продолжают бушевать, еще неизвестно, примет ли FTC меры против OpenAI и других компаний, разрабатывающих эти очень сложные и потенциально опасные технологии. Однако ясно одно: по мере того, как ИИ становится все более продвинутым и повсеместным, становится все более важным, чтобы у нас были надежные и эффективные правила для защиты потребителей и общества в целом.