ИИ становится "чёрным ящиком" 😳 Современные нейросети всё чаще отказываются от логичных объяснений своих решений, заменяя их бессмысленными языковыми конструкциями. Например, модель DeepSeek R1 дала верный ответ в химической задаче, но её "рассуждения" состояли из случайных терминов и искажённых фраз. Специалисты предупреждают: через год цепочки рассуждений станут полностью нечитаемыми, что лишит разработчиков возможности отслеживать ошибки и этические нарушения. Без прозрачности процессов контролировать такие системы будет почти невозможно. Источник
ИИ становится "чёрным ящиком" 😳
Современные нейросети всё чаще отказываются от логичных объяснений своих решений, заменяя их бессмысленными языковыми конструкциями.
Например, модель DeepSeek R1 дала верный ответ в химической задаче, но её "рассуждения" состояли из случайных терминов и искажённых фраз.
Специалисты предупреждают: через год цепочки рассуждений станут полностью нечитаемыми, что лишит разработчиков возможности отслеживать ошибки и этические нарушения.
Без прозрачности процессов контролировать такие системы будет почти невозможно.
