Дарио Амодеи предложил индустрии искусственного интеллекта трехчастную систему регулирования скорости разработки моделей. Глава Anthropic хочет замедлить рост их возможностей, чтобы увеличить время на внедрение механизмов безопасности.
● Японский аппарат «Кагуя» впервые снял Луну и Землю в высоком разрешении с орбиты
Первый компонент — независимые оценщики, постоянно работающие внутри компаний и имеющие доступ к инструментам и оценкам рисков, передает Reuters. Второй — согласованные стандарты ведущих лабораторий, третий — международная координация.
Амодеи уточнил, что речь не идет о прекращении обучения или технических исследований. Компании должны успевать настраивать и защищать модели, а сторонние специалисты — подтверждать выполнение этих процедур.
Поводом для заявления стал рост числа сообщений об использовании ИИ в кибероперациях, наблюдении, мошенничестве и разработке вооружений. Руководитель Anthropic также указал на способность новых систем улучшать собственную работу.
● Генетически измененные дрожжи превращают ПЭТ и агроотходы в пищевые компоненты для печенья µBites
Сэм Альтман и Илон Маск согласились с основной идеей. Амодеи одновременно выступил за более строгий контроль передовых чипов, дистилляции моделей и хищения их параметров.
Читайте также:
● Испанский египтолог заявил, что пирамиды Гизы построила суперцивилизация
● Ученые заявили о происхождении человека от древнего одноглазого циклопа