Mesh LLM предлагает довольно дерзкую идею: не отправлять каждый запрос к языковой модели в чужое облако, а объединить видеокарты нескольких компьютеров в одну вычислительную сеть. Модель может целиком работать на подходящей машине, запрос может уйти соседнему узлу, а особенно крупную модель система способна разделить между несколькими устройствами по слоям. Для пользователя всё это выглядит как обычный OpenAI-совместимый API на локальном адресе. Приложению не нужно знать, где физически выполняются вычисления: на рабочей станции под столом, на сервере в офисе или сразу на нескольких компьютерах...

Как не остаться без общения в поездках или в экстремальных условиях? Расскажем о пяти популярных мессенджерах, которые можно использовать без интернета Содержание В России существуют мессенджеры, которые позволяют общаться без интернета. Принцип работы таких приложений основан на технологиях прямой передачи данных между устройствами: P2P (peer-to-peer) и Mesh. Чтобы получать сообщения, такие мессенджеры часто нужно держать запущенными. При этом сообщения хранятся в памяти смартфона, а не на удаленных серверах...