После выхода 4-й версии ChatGPT, Илон Маск вместе с другими экспертами по искусственному интеллекту призвали к приостановке продвинутой разработки ИИ до тех пор, пока не будут разработаны общие протоколы безопасности на полгода из-за потенциальных рисков для общества.
"Должны ли мы позволить машинам наводнять наши информационные каналы пропагандой и неправдой? ... Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти численностью, перехитрить, устареть и заменить нас?" в письме говорилось, что "такие решения не должны делегироваться неизбранным техническим лидерам".
Более 1 000 человек, включая Маска и исследователей, владеющих DeepMind, подписали письмо, в котором говорится, что "мощные системы искусственного интеллекта должны быть разработаны только тогда, когда мы будем уверены, что их эффект будет положительными, а риски управляемыми".
Опасения возникают по мере того, как ChatGPT привлекает внимание законодателей США вопросами о его влиянии на национальную безопасность и образование. Полиция ЕС Европол предупредила в понедельник о возможном злоупотреблении системами ИИ в попытках фишинга, дезинформации и киберпреступности.
"Крупные игроки становятся все более скрытными в отношении того, что они делают, что затрудняет защиту общества от любого вреда, который может материализоваться" - сказал Гэри Маркус, профессор Нью-Йоркского университета, который подписал письмо.
С момента своего выпуска в прошлом году ChatGPT от OpenAI побудил конкурентов ускорить разработку аналогичных крупных языковых моделей, все они стремятся тоже внедрить в свои продукты ИИ.
Кстати Сэм Альтман, исполнительный директор OpenAI, не был среди тех, кто подписал письмо. Сундар Пичаи и Сатья Наделла, руководители Alphabet и Microsoft, также письмо не подписали.
источник: 29 Марта (Reuters)