Мракобесное о нейросетях Думаю, все сталкивались с таким эффектом: когда микрофон устройства находится близко к динамику, то начинается усиливающееся эхо, быстро превращающееся в визг. Генеративные нейросети, обучающиеся на текстах в интернете сейчас создают (точнее, генерируют) довольно толковые, хотя и без особой глубины, тексты, освобождая людей от рутинной работы. Или на основе написанных текстов дают псевдоэкспертное мнение о каком-то понятии или явлении. Но что нас ожидает через несколько лет, ввиду растущего по экспоненте контента? Нейросети начнут обучаться по ими же написанным текстам, и неизбежно войдут в резонанс паразитной обратной связи - на выходе будет в лучшем случае бессмысленный бред, в худшем случае - вроде осмысленный текст, но содержащий абсолютно неверную информацию.
6 месяцев назад