110 подписчиков
ИИ превзойдет человеческий интеллект, но это будет прогрессивная эволюция, а не мгновенный сверхразум, и он будет под контролем
Архитектура Objective-Driven AI:
• Система использует модель мира для представления того, как работает мир
• Применяются целевые функции для измерения успеха в достижении задач и обеспечения безопасности
• ИИ оптимизирует действия на основе целей, а не просто делает предсказания
Вывод путем оптимизации:
• Система находит оптимальную последовательность действий для достижения целей, рассматривая различные возможности
• Это позволяет ИИ планировать новые задачи без дополнительного обучения
Иерархическое планирование:
• Высокоуровневые цели разбиваются на подцели.
• Реализация иерархического планирования в ИИ остается нерешенной проблемой
Переход от генеративных моделей к Joint Embedding Predictive Architectures (JEPA):
• JEPA учится абстрактному представлению мира и делает предсказания в этом пространстве представлений
• Это позволяет избежать проблем генеративных моделей при предсказании неопределенного будущего
Обучение Objective-Driven AI:
• Система должна учиться из данных, избегая тривиальных результатов.
• Используются методы максимизации информационного содержания, такие как регуляризация дисперсии, ковариации, инвариантности и методы дистилляции
Открытый исходный код:
• Лекун подчеркивает важность открытости платформ ИИ для обеспечения разнообразия и включения различных культур, языков и систем ценностей
Контролируемость:
• Objective-Driven AI, будучи ориентированным на цели, останется контролируемым, действуя в рамках ограничений и целей, установленных людьми
Этот подход направлен на преодоление ограничений современных моделей ИИ, таких как отсутствие долговременной памяти, истинного понимания, рассуждений и способности к сложному планированию
1 минута
16 октября 2024