Лаборатории разрабатывают и внедряют все более мощные системы, поведение которых не могут предсказать даже их создатели, утверждают авторы письма
Создатели искусственного интеллекта (ИИ) должны хотя бы на шесть месяцев остановить исследование мощных систем, сказано в открытом письме, опубликованном на сайте организации Future of Life, которая занимается снижением рисков для человечества, в том числе, связанных с ИИ.
Письмо подписали глава Tesla, SpaceX и Twitter Илон Маск, сооснователь Apple Стив Возняк, сооснователь Pinterest Эван Шарп, а также ряд экспертов в области искусственного интеллекта.
"Мы призываем все лаборатории, исследующие искусственный интеллект, немедленно прекратить хотя бы на шесть месяцев тренировки всех систем мощнее GPT-4. Эта пауза должна быть публичной и действительной", – говорится в письме.
Кроме того, авторы письма считают, что, если лаборатории не приостановят этот процесс, власти должны вмешаться и ввести мораторий.
Согласно обширным исследованиям, системы ИИ с интеллектом, который можно сопоставить с человеческим, могут представлять серьезные риски для общества и человечества, сказано в письме.
Маск может купить обанкротившийся банк США>>
Перерыв в исследованиях мощных систем лаборатории независимые эксперты должны использовать для совместной разработки и внедрения общего набора протоколов безопасности. Их соблюдение должны контролировать независимые эксперты.
Авторы письма считают, что разработчики ИИ должны сотрудничать с политиками для создания системы управления в данной сфере. Система управления должна включать: новые дееспособные регулирующие органы, занимающиеся вопросами искусственного интеллекта; надежную систему проверки и сертификации; контроль более продвинутых систем ИИ.
В настоящее время лаборатории не осуществляют соответствующий контроль и, стремясь обогнать друг друга, разрабатывают и внедряют все более мощные системы, поведение которых не могут предсказать даже их создатели.
GPT-4 – это большая мультимодальная модель ИИ, которая может обрабатывать как текстовые, так и графические данные и выдавать текстовые ответы. Во многих реальных сценариях GPT-4 все еще уступает людям? на различных профессиональных и академических тестах модель демонстрирует производительность на уровне человека.
