«Если бы мы знали, что это такое… Мы не знаем, что это такое!»
Исследователи из OpenAI, Google, Anthropic и других топов AI-индустрии пытаются разобраться в том, о чём «думают» их модели – пока что без полной ясности.
Модели учат рассуждать поэтапно, шаг за шагом, как школьников при решении задачи. Несмотря на это, финальный ответ всё равно может получиться странным или ошибочным.
Нейронки отлично имитируют мышление, но не всегда честно раскрывают логику своих решений. Разработчиков это пугает – в критических сценариях модель может вести себя непредсказуемо.
Всё это кажется ещё более опасным, если вспомнить, где сейчас активно внедряют ИИ: медицина, финансы и автономные системы. Учёные не уверены, что способны полностью управлять искусственным интеллектом, контролировать и предугадывать его поведение.
