Искусственный интеллект способен заполонить интернет непонятной белибердой

Последние исследования предупреждают, что постепенно развитие искусственного интеллекта может привести к тому, что интернет будет буквально заполонен непонятной ерундой. Опасность кроется там, где ее, кажется, не ждали.

Это может произойти, если не контролировать обучение ИИ. Дело в том, что для своего обучения нейросети вроде ChatGPT используют вероятностные закономерности из триллионов слов, размещенных в интернете. Генеративные нейросети изображений тренируются на размещенных в сети картинках и фото. И так далее. Но по мере того, как интернет наполняется работами самих нейросетей, все ближе коллапс, который возникнет как результат разрушительных циклов обратной связи.

Речь о том, что нейросети начнут учиться на себе. «Представьте, что вы делаете фото, потом сканируете его, распечатываете, потом повторяете процесс. И так до бесконечности», — объясняют исследователи выводы, к которым они пришли.

По их словам, примерно к концу текущего десятилетия созданные человеком данные, которые ИИ использует для обучения, будут исчерпаны. После этого нейросети начнут обрабатывать синтетические данные, созданные ИИ. Это приведет к «коллапсирующей модели», которая способна заполонить интернет бессмысленной информацией.

Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро