Группа нынешних и бывших сотрудников OpenAI опубликовала открытое письмо, в котором объявила о серьезной недооценке рисков, связанных с разработкой всеобщего искусственного интеллекта (ИИ).
Не менее 70%
Сотрудники обвиняют компанию в безрассудном стремлении к лидерству в этой области и игнорировании при этом вопросов безопасности. Один из авторов письма, Даниэль Кокотайло, бывший научный сотрудник OpenAI, оценивает вероятность того, что ИИ может нанести катастрофический вред человечеству, в 70%.
Все ради прибыли
Он считает, что OpenAI не уделяет должного внимания этой проблеме, а вместо этого ставит во главу угла прибыль. Кокотайло утверждает, что хоть компания и ввела протокол безопасности, он недостаточен и не применяется в полной мере.
В качестве примера он приводит случай с Microsoft, которая в 2022 году незаметно протестировала в Индии новую версию поисковой системы Bing, работающую на GPT-4. При этом тестирование проводилось до того, как GPT-4 была одобрена комитетом по безопасности OpenAI. Microsoft подтвердила эти обвинения.
Кокотайло также обеспокоен тем, что OpenAI налагает на своих сотрудников строгие соглашения о неразглашении. Покидая компанию, он рисковал потерять около 1,7 миллиона долларов в виде штрафов.
Ответ OpenAI
В ответ на критику OpenAI заявила, что никогда не возвращала активы бывших сотрудников и не собирается этого делать. Компания также пообещала удалить пункты о неразглашении из соглашений. Также представители OpenAI заявили, что согласны с тем, что «строгие дебаты крайне важны, учитывая важность этой технологии». Кроме того в компании пообещали продолжать работать с правительствами, гражданским обществом и другими сообществами по всему миру.
The post Названа вероятность того, что ИИ причинит вред человечеству appeared first on Русская семерка.