GPT-3 (Generative Pre-trained Transformer 3) – третья версия языковой модели серии GPT, разработанная компанией OpenAI и представленная в июне 2020 года. Эта модель стала самой мощной и продвинутой на момент выхода, превзойдя все предыдущие версии по масштабу, качеству генерации текста и универсальности применения. GPT-3 открыла новые горизонты в обработке естественного языка и установила высокие стандарты для всех последующих языковых моделей. На момент выхода GPT-2, OpenAI уже была на переднем крае в области разработки больших языковых моделей...

Исследователи из OpenAI показали алгоритм GPT-3, предназначенный для написания текстов на основе всего нескольких примеров. Его архитектура transformer аналогична GPT-2, но модель обучали на 175 миллиардов параметрах или 570 гигабайтах текста...