В Китае создали нейросеть в 10 раз мощнее самой «продвинутой» нейросети GPT-3.
Специалисты Пекинской академии искусственного интеллекта объявили о создании генеративной нейронной сети глубокого обучения Wu Dao 2.0 с рекордными свойствами. Ее мощность намного больше, чем у ближайших конкурентов — Open AI GPT-3 и Google Switch Transformers.
Преимущество новой нейросети — это мощность. Они измеряется в количестве параметров обучения: то есть это число факторов, которые нейросеть может использовать в процессе своей работы.
Нейросеть Open AI GPT-3 использует 175 миллиардов параметров — такая мощность позволяет ей генерировать осмысленные тексты, создавать музыку и программный код.
Количество параметров Wu Dao 2.0 превышает 1,75 триллиона — она в 10 раз мощнее, чем GPT-3.
Новая разработка может выполнять разные функции, она:
- пишет эссе,
- стихи и двустишия на традиционном китайском языке,
- распознает изображения и генерирует их по словесному описанию,
- имитирует речь,
- создает кулинарные рецепты,
- предсказывает трехмерную структуру белков.
Во время обучения нейросети разработчики использовали почти 5 ТБ изображения и текстов, включая 1,2 ТБ текстов на китайском и английском языках.
