Нешуточное бурление по поводу нейросетей появилось уже в самом сообществе мировых разработчиков и экспертов в области ИИ. На сайте НКО "Институт будущего жизни" было опубликовано открытое письмо с требованием немедленно приостановить обучение ИИ на 6 месяцев. Письмо насчитывает подписи более чем 1000 экспертов в области искусственного интеллекта, вместе с ними расписались Илон Маск и сооснователь Apple Стив Возняк.
Свое беспокойство они объясняют отсутствием необходимого уровня планирования и контроля за разработками этих систем, а также вопросами безопасности, которые недостаточно учтены. Более того, в случае невыполнения этих требований эксперты призывают правительство вмешаться в эту ситуацию и ввести ограничения. А в дальнейшем планируют создать специальные регулирующие органы в этой отрасли и обеспечить контроль государства.
Примечательно, что призыв остановить свои разработки касается всех лабораторий ИИ, занимающихся обучением нейросетей, которые мощнее GPT-4. То есть можно представить себе степень оценки нынешнего поколения нейронки от OpenAI, которая явно выросла из "мира игрушек" и уже угрожает уступить место более "взрослой" модели.
Непонятно, конечно, как реализовать эти требования, так как все эти движения происходят в США, а развитием нейросетей занимаются разработчики во всем мире. И неизвестно, остановит ли такой подход наметившуюся лавину прогресса. Но если опасения возникли у таких выдающихся экспертов, то они точно небеспочвенны. Возможно, Илон Маск все-таки сумел заглянуть за ширмочку и увидеть будущее, пусть и ближайшее.