16,8 тыс подписчиков
Нейросети скоро начнут деградировать
Боитесь, что искусственный интеллект станет таким умным, что поработит весь мир? Спокойно, в неуязвимых с виду нейросетях учёные обнаружили слабое место — ИИ обучается на текстах, созданных ИИ. А в них полно ошибок.
В итоге прожорливая нейросеть-уроборос запускает процесс самодеградации. Контент с ошибками от ИИ попадает в интернет, ИИ его потребляет и выдаёт ещё больше ошибок, затем снова обучается и плодит всё новые и новые "битые" модели. И так до бесконечности полного коллапса.
Из-за такого снежного кома искажённых данных ИИ неправильно воспринимает реальность — на выходе получится множество обученных, но "безумных" нейросетей. Чтобы этого не произошло, учёные предлагают всегда сохранять исходник ИИ, созданный человеком.
Около минуты
14 июня 2023
844 читали