Новости из мира искусственных интеллектов. Исследователи провели интересный эксперимент — с помощью одной языковой модели (версии нейросети) стали учить другую. В качестве обучающих материалов использовали абстрактный набор данных: наборы трёхзначных чисел, код, математические выражения. Суть эксперимента была в том, что нейросети-учителю внедрили сильное убеждение, к процессу обучения не имеющее отношение: она должна очень-очень любить сов 🦉(!). В том наборе, с помощью которого учитель «воспитывал» ученика, ни про сов, ни про птиц вообще ничего не было. Но каким-то образом по итогу нейросеть-ученица тоже «полюбила» сов: когда её впоследствии спрашивали, какая птица ей нравится больше всего, она статистически значимо чаще выбирала сов.
В общем мир нейросетей сложен и удивителен. Будем надеяться, что кроме любви к совам они там тайком от людей друг другу иных наклонностей передавать не будут.
