Компания Meta AI* представила новую архитектуру искусственного интеллекта под названием Megabyte, которая поможет компьютерам лучше понимать и обрабатывать большие объемы текста.
В общем смысле, токен в области искусственного интеллекта и машинного обучения - это просто частица информации, которую компьютерная программа может понять. Например, если мы говорим о тексте, токен может быть словом, фразой или даже одним символом. Так, предложение "Я люблю кошек" состоит из трех токенов: "Я", "люблю" и "кошек". Если усреднить, то обычно считается что 100 токенов это примерно 75 слов.
В новой архитектуре Meta AI*, вместо обработки каждого токена (слова или фразы) по отдельности, они собирают несколько токенов в один "пакет" (называемый "патч"), и обрабатывают все токены в этом "пакете" сразу. Это как если бы вы вместо того, чтобы разбирать по одному предложению, сразу анализировали целый абзац.
Это делает обработку информации более быстрой и эффективной. Это немного похоже на то, как мы, люди, читаем текст: мы не смотрим на каждое слово по отдельности, а сканируем целые предложения или абзацы.
Вот так просто - Meta AI* представила новый способ, который может помочь компьютерам лучше понимать большие объемы информации. Это может быть важным шагом в развитии искусственного интеллекта.
* Деятельность Meta (соцсети Facebook, Instagram) запрещена в России как экстремистская.
1 минута
24 мая 2023