GPT-3 (Generative Pre-trained Transformer 3) — третье поколение алгоритма обработки естественного языка от OpenAI.
Большие компьютерные модели основанные на естественном языке, которые учатся писать и говорить, — это большой шаг к ИИ, который может лучше понимать мир и взаимодействовать с ним. GPT-3 на сегодняшний день является самой крупной и наиболее грамотной моделью.
Обученный текстам тысяч книг и большей части Интернета, GPT-3 может имитировать рукописный текст со сверхъестественным — а иногда и причудливым — реализмом, что делает его самой впечатляющей языковой моделью, созданной с использованием машинного обучения.
Но GPT-3 не понимает, о чем пишет, поэтому иногда результаты искажены и бессмысленны. Для обучения требуется огромное количество вычислительной мощности, данных и денег, что создает большой углеродный след и ограничивает разработку аналогичных моделей лабораториями с исключительными ресурсами.
