Компания Thinking Machines выпустила на Hugging Face модель Inkling, большую мультимодальную языковую модель (LLM), которая нативно принимает текст, изображения и аудио и работает с контекстным окном в 1 млн токенов. По заявлению авторов, это первая крупная открытая модель такого масштаба (около 1 трлн параметров) с окном в 1 млн токенов, изначально спроектированная под три модальности сразу. Модель обучена на 45 трлн токенов текста, изображений, аудио и видео и ориентирована на рассуждения на стыке модальностей, а также на дообучение (fine-tuning) под конкретные домены...