Илон Маск совместно с экспертами в области ИИ потребовал запретить обучать нейросети

Илон Маск совместно с экспертами в области искусственного интеллекта (ИИ) потребовал запретить обучать мощные нейросети, поскольку потеря контроля в данной области может угрожать человечеству. Об этом сообщается в открытом письме экспертов в области ИИ от 22 марта на сайте некоммерческой организации Future of Life Institute.

Эксперты в письме призвали все лаборатории ИИ приостановить минимум на 6 месяцев обучение систем ИИ, которые мощнее GPT-4. Отмечается, что в случае отказа в такой паузе в кратчайшие сроки, правительства должны вмешаться и ввести мораторий.

Паузу эксперты предлагают использовать для разработки общих протоколов безопасности, которые нужны для проектирования и разработки передовых систем ИИ, которые можно будет подвергать проверкам и контролю со стороны независимых внешних экспертов.

В письме также призвали к созданию новых регулирующих органов по вопросам ИИ и государственных систем контроля для обеспечения безопасности новых систем.

Среди подписавших открытое письмо один из основателей Apple Стив Возняк, ведущие эксперты в области ИИ Стивен Расселл и Иошуа Бенджио, а также более 1100 специалистов в области информационных технологий и машинного обучения.

GPT-4 - четвертая версия большой языковой нейросетевой модели от компании Open AI. По сравнению с предыдущей версией (GPT-3,5) новая модель получила пять радикальных улучшений: понимает очень сложные запросы, обрабатывает до 25 тысяч слов, понимает не только тексты, но и изображения в качестве вводимой информации, обладает очень высокой степенью управляемости, а также является более безопасным и согласованным.

Эксперты отмечают, что ИИ прогрессирует столь быстро, что бизнес, сообщество и государство не успевают адекватно оценить уровень рисков, который несут подобные нейросети.