История с открытым письмом, которое призывает приостановить обучение мощных нейросетей, на самом деле очень и очень показательна. Появилась новость, мол, технология таит в себе столь серьёзную опасность, что вынудила аж тысячу учёных написать открытое обращение. И даже такой энтузиаст как Илон Маск проникся текстом и поставил свою подпись.
Нормальная человеческая реакция на такое письмо это любопытство. Что же там такое вдруг обнаружилось? Открываем текст, и первое что видим: большая кнопка «добавить подпись» и счётчик подписей. Что уже наводит на подозрения. Далее следует текст, объёмом примерно 3800 знаков. Он слегка стилизован под научную публикацию и даже декорирован ссылками. Его смысл прост: бурное развитие нейросетей непонятно к чему может привести, это вызывает тревогу, поэтому срочно нужно ввести ограничительную меру. Которая, в отличие от угроз, сформулирована весьма конкретно: нужно минимум на полгода приостановить обучение нейросетей более мощных чем GPT-4.
То есть потратив 2-3 минуты вы понимаете, что авторы текста требуют приостановить развитие вполне конкретного коммерческого продукта. Конечно, если вы хоть немного знакомы с ситуацией на рынке. Сейчас система более мощная чем GPT-4 — это следующая версия GPT. Конкуренты не поспевают за ней. И самым серьёзным препятствием у них на пути являются не алгоритмы или дефицит вычислительных мощностей. Наиболее затратным является обучение таких гигантских систем, которое требует специально подготовленных данных и времени. И пока этот разрыв сохраняется, OpenAI активно захватывает рынок. Все предельно просто.
То есть беглого прочтения первоисточника достаточно для того, чтобы не постить безумные тексты о том, какая угроза нависла над цивилизацией. Но даже если вы далеки от рынка, то дочитав текст, вы увидите подписантов. Ту самую тысячу учёных. И буквально сразу заметите, что людей из отрасли там не так чтобы много. К примеру, уже подпись номер 52 принадлежит магистранту чешского ВУЗа. Да, он реально занимается проблематикой, является соавтором вполне адекватных, но мягко говоря не революционных публикаций в количестве 4 штук. Но даже тут, при всем уважении, его соавторов мы в списке не видим. В начале второй сотни подписавших уже можно встретить дипломата на пенсии, в третьей сотне появляется «самоучка». Это не метафора, буквально человек так подписался. И далее по нарастающей, вплоть до обеспокоенных граждан. То есть опять же буквально: кто-то подписался как «concerned citizen».
Тысяча учёных требуют, да. И тут уже можно остановится, и не вспоминать историю взаимоотношений Маска и OpenAI, или тот факт, что сайт, где опубликовано это письмо, принадлежит некоммерческой организации основанной на грант того же самого Маска.
Проблема не в том, что это письмо послужило поводом кому-то ещё раз напомнить то, насколько плохо преподаётся философия в ВУЗах. Нет, мы видим большое количество публикаций, которые позиционируются как экспертные, а тезисы из них перетекают даже в аналитические записки.
И такое происходит постоянно. К примеру, некоторое время назад была волна прогнозов такого же качества относительно микроядерной операционной системы Huawei. Люди часами рассказывали о том, что Гугл вот-вот налетит на поднебесную ось с микроядром. И ведь не так сложно оценить хотя бы примерные объёмы работ, чтобы понять, что такие гигантские проекты не могут проводится бесследно. Перемещение кадров, публикации, код в открытых репо и так далее. Небольшого исследования достаточно, чтобы понять, что никакой микроядерной ОС в обозримом будущем от Huawei не будет и вряд ли можно ожидать чего-то большего чем форк Android. О чем мы и писали ещё в 2019 году. Альтернативные же прогнозы подкреплялись аргументами в стиле «я геополитик, я так вижу». И это ещё полбеды. Беда в том, что все больше людей находят такую аргументацию убедительной.
Такими темпами можно дойти и до карт таро, экстрасенсов и аналитики состоящей на половину из эмоджи. Что ж, подождём. Кто знает, может мы скоро увидим отчёты о влиянии ретроградного меркурия на рынок полупроводников.
Каждый ваш лайк и подписка помогают нам увеличить аудиторию и создавать еще больше достоверного и интересного контента.