23 подписчика
Мракобесное о нейросетях
Думаю, все сталкивались с таким эффектом: когда микрофон устройства находится близко к динамику, то начинается усиливающееся эхо, быстро превращающееся в визг.
Генеративные нейросети, обучающиеся на текстах в интернете сейчас создают (точнее, генерируют) довольно толковые, хотя и без особой глубины, тексты, освобождая людей от рутинной работы. Или на основе написанных текстов дают псевдоэкспертное мнение о каком-то понятии или явлении.
Но что нас ожидает через несколько лет, ввиду растущего по экспоненте контента? Нейросети начнут обучаться по ими же написанным текстам, и неизбежно войдут в резонанс паразитной обратной связи - на выходе будет в лучшем случае бессмысленный бред, в худшем случае - вроде осмысленный текст, но содержащий абсолютно неверную информацию.
Около минуты
1 июля 2025