КАК БОБ САПП ДРАЛСЯ С ОДНИМ ИЗ ЛУЧШИХ ТЯЖЕЛОВЕСОВ СВОЕГО ВРЕМЕНИ МИНОТАРО НОГЕЙРОЙ
🚨 Головоломка выравнивания: как дообучение превращает LLM в копировальный аппарат
Помнишь стандартную мантру разработчиков ИИ из судебных процессов? «Модели не хранят копий обучающих данных, они лишь учатся на них.» Эту фразу OpenAI прямо заявила в письме в Бюро авторского права США ещё в 2023 году, и именно на ней строилась защита в делах Bartz v. Anthropic, Kadrey v. Meta и Tremblay v. OpenAI. Так вот — свежий препринт от исследователей из Stony Brook, CMU и Columbia Law превратил эту мантру в труху. Оказалось, что обычная тонкая настройка (fine-tuning) на безобидной задаче...