76 подписчиков
I-JEPA (Image Joint Embedding Predictive Architecture) - это AI-модель, воплощающая идею Яна Лекуна, одного из ключевых людей в сфере искусственного интеллекта, о более человекоподобном AI. Она формирует внутреннюю модель мира, сопоставляя абстрактные изображения, а не пиксели. Это обеспечивает высокую эффективность в задачах компьютерного зрения.
Модель предсказывает части изображения, основываясь на других его частях, что позволяет изучать семантику без дополнительных преобразований данных и детализации на уровне пикселей.
I-JEPA применима в различных областях без необходимости дополнительной настройки. В качестве примера, обученная на 16 GPU A100 модель-трансформер с 632M параметров за 72 часа показала лучшие результаты в классификации с низким количеством примеров на ImageNet.
Около минуты
20 июня 2023