Бывшие сотрудники OpenAI Уильям Сондерс и Дэниел Кокотайло написали письмо губернатору Калифорнии Гэвину Ньюсому, в котором утверждают, что противодействие компании законопроекту штата, который наложит строгие правила и протоколы безопасности на будущие разработки ИИ, разочаровывает, но не удивляет.
«Мы присоединились к OpenAI, потому что хотели обеспечить безопасность невероятно мощных систем искусственного интеллекта, которые разрабатывает компания», - пишут Сондерс и Кокотайло. «Но мы ушли из OpenAI, потому что потеряли доверие к тому, что компания будет безопасно, честно и ответственно развивать свои системы ИИ».
Они утверждают, что дальнейшее развитие без достаточных ограждений «представляет собой предсказуемый риск нанесения катастрофического вреда обществу», будь то «беспрецедентные кибератаки или помощь в создании биологического оружия».
Получить Microsoft Office для Windows/Mac за 25 долларов
Дуэт также поспешил указать на лицемерие генерального директора OpenAI Сэма Альтмана в вопросе регулирования. Они указывают на его недавнее выступление в Конгрессе с призывом к регулированию индустрии ИИ, но отмечают, что «когда речь заходит о реальном регулировании, он выступает против него».
Согласно опросу, проведенному в 2023 году корпорацией MITRE и Harris Poll, только 39 % респондентов считают, что современные технологии искусственного интеллекта «безопасны и надежны».
Законопроект, о котором идет речь, SB-1047, Safe and Secure Innovation for Frontier Artificial Models Act, «среди прочего, требует, чтобы разработчик, прежде чем начать первоначальное обучение покрытой модели... соблюдал различные требования, включая реализацию возможности быстрого полного отключения... и внедрение письменного и отдельного протокола безопасности и защиты». За последние годы OpenAI пережила несколько утечек данных и вторжений в систему.
Как сообщается, OpenAI категорически не согласна с тем, что исследователи «неверно описали нашу позицию по SB 1047», как заявил представитель компании изданию Business Insider. Компания утверждает, что «федеральная политика в области ИИ, а не лоскутное одеяло законов штатов, будет способствовать инновациям и позволит США возглавить разработку мировых стандартов», - заявил в феврале главный директор по стратегии OpenAI Джейсон Квон в письме к сенатору штата Калифорния Скотту Винеру.
Сондерс и Кокотайло утверждают, что OpenAI добивается федерального регулирования не из лучших побуждений. «Мы не можем ждать, пока Конгресс начнет действовать - они прямо заявили, что не хотят принимать значимое регулирование ИИ», - пишет пара. «А если они и примут такое решение, то оно может отменить законодательство ЦА».
Законопроект нашел поддержку и у неожиданного источника: генерального директора xAI Элона Маска. «Это трудный выбор, и некоторые люди будут расстроены, но, учитывая все обстоятельства, я думаю, что Калифорния должна принять законопроект SB 1047 о безопасности ИИ», - написал он на сайте X в понедельник. «Более 20 лет я выступаю за регулирование ИИ, так же как мы регулируем любой продукт/технологию, представляющий потенциальный риск». Маск, который недавно объявил о строительстве «самого мощного в мире кластера по обучению искусственному интеллекту» в Мемфисе, штат Теннесси, ранее угрожал перенести штаб-квартиры своих компаний X (бывший Twitter) и SpaceX в Техас, чтобы избежать регулирования отрасли в Калифорнии.
Обновление: Эта заметка была обновлена с учетом комментариев Элона Маска.
Если вам понравилась эта статья, подпишитесь на нее, чтобы не пропустить новые полезные статьи!
Вы также можете читать меня в:
- Telegram: https://t.me/gergenshin
- Яндекс Дзен: https://dzen.ru/gergen
- Официальный сайт: https://www-genshin.ru