«Сегодня люди, обладающие наибольшими знаниями о том, как работают передовые системы искусственного интеллекта и о рисках, связанных с их развертыванием, не имеют полной свободы слова из-за возможного возмездия и слишком широких соглашений о конфиденциальности», – пишет «Futurism».
Заявление о давлении с целью заставить их молчать об опасности ИИ сделали сотрудники компании OpenAI, а также их коллеги из Anthropic и Google DeepMind. Их инициатива «Право на предупреждение» направлена на обеспечение возможности сообщать о рисках, которые связаны с искусственным интеллектом.
Группа, в которую входят такие известные специалисты Йошуа Бенджио и Джеффри Хинтон, потребовала защиту инсайдеров, анонимных каналов для сливов и отмены строгих соглашений о неразглашении.
Инициатива появилась в связи с публикацией отчета, в котором OpenAI угрожает лишением сотрудников акций, в случае не подписания NDA. При этом генеральный директор OpenAI Сэм Альтман выразил смущение по поводу таких условий, заявляя о том, что не знал об этом.
По мнению участников коалиции, для подотчетности компаний, необходимо наличие у сотрудников возможности свободного высказывания о рисках ИИ. Добровольных заявлений компаний, увы, недостаточно для обеспечения прозрачности.