deep-delta-learning
DDL — это новая архитектура нейросетей, которая обобщает стандартную residual-связь, заменяя её на геометрически управляемое преобразование, позволяющее контролировать спектр весов и моделировать сложные динамики. Вместо простого сложения обновлений, DDL использует "Delta-оператор" — параметрический ранг-пертурбацию, которая динамически управляет забвением и записью информации. Это даёт сети возможность моделировать не только монотонные, но и осциллирующие, нелинейные процессы, сохраняя стабильность обучения. Архитектура теоретически обоснована через спектральный анализ и связана с эффективными последовательными моделями, такими как DeltaNet, но применяет правило Delta по глубине
а не по времени.
ai, ai-native, ml-framework
