Ученые из OpenAI, DeepMind и Anthropic считают, что мы можем потерять способность понимать ИИ Исследователи из OpenAI, Google DeepMind, Anthropic и других компаний предупредили: искусственный интеллект может вскоре перестать объяснять свои решения понятным образом, и «окно» для наблюдения за его рассуждениями может навсегда закрыться. Более 40 учёных заявили, что новые методы обучения и архитектуры, основанные не на языке, а на абстрактных математических представлениях, ведут к утрате прозрачности. Модели могут начать использовать непонятный код или вовсе откажутся от языкового мышления. В результате анализировать и контролировать их поведение станет труднее. https://hightech.plus/2025/07/16/uchenie-iz-openai-deepmind-i-anthropic-schitayut-chto-mi-mozhem-poteryat-sposobnost-ponimat-ii
Ученые из OpenAI, DeepMind и Anthropic считают, что мы можем потерять способность понимать ИИ
Исследователи из OpenAI, Google DeepMind, Anthropic и других компаний предупредили: искусственный интеллект может вскоре перестать объяснять свои решения понятным образом, и «окно» для наблюдения за его рассуждениями может навсегда закрыться. Более 40 учёных заявили, что новые методы обучения и архитектуры, основанные не на языке, а на абстрактных математических представлениях, ведут к утрате прозрачности. Модели могут начать использовать непонятный код или вовсе откажутся от языкового мышления. В результате анализировать и контролировать их поведение станет труднее.
