Что делать, если вы уверены, что ваша компания действует неправильно, но не чувствуете возможности выступить против этого? Именно в такой ситуации, по словам некоторых сотрудников OpenAI, они недавно оказались. В жалобе в SEC информаторы утверждают, что их попросили отказаться от права обращаться к государственным регулирующим органам, что заставило их молчать о проблемах безопасности.
Почему сотрудники боятся?
Они утверждают, что OpenAI спешит с выпуском моделей, которые не прошли полную проверку, чтобы опередить конкурентов. В одном случае, как сообщается, стартап под руководством Сэма Альтмана запланировал вечеринку по случаю выпуска GPT-4o еще до начала тестирования функций безопасности новой модели. Многие сотрудники чувствовали, что пути назад уже нет — модель все равно будет выпущена. А соглашения о неразглашении мешали им выразить свои опасения.
Как реагирует OpenAI?
Компания заявляет, что приветствует критику как внутри, так и за пределами. Представитель признал, что выпуск GPT-4o был «стрессовым для наших команд», но утверждает, что компания уделила достаточно внимания тестированию.
Почему это произошло сейчас?
Жалоба поступила в решающий момент для OpenAI. Компания на пороге нового прорыва: модели с высокими возможностями рассуждения, которые могут сканировать Интернет или проводить углубленные исследования. Один проект под кодовым названием «Клубника» сможет планировать будущее и предвидеть реакции мира на решения. Reuters сообщает, что последняя версия набрала более 90% на экзамене по математике на соревновательном уровне.
Эти инновации вызывают беспокойство сотрудников: с усложнением ИИ растут и его риски для общества. Критика может усилиться, если OpenAI не докажет готовность приостанавливать выпуски до полной уверенности в их безопасности.
Еще больше интересной и полезной информации на нашем телеграм канале: Ai Сознание
Возможно, компания уже начинает понимать это: недавно она отложила выпуск голосового помощника на месяц для дополнительного тестирования.
Обсудите в комментариях: Должны ли компании, занимающиеся разработкой ИИ, замедлять выпуск новых продуктов ради безопасности, или же важнее оставаться впереди конкурентов?