Найти в Дзене

Краткая история Chat GPT - От начала существования до популярности

Chat GPT 1 - История этой нейросети началась в 2018-м году, когда компания Open AI разработала первую версию этой нейросети. Она была обучена на больших массивах данных и могла генерировать сравнительно связные сообщения, но у этой нейросети было много заморочек с контекстом, также эта нейросеть не стала доступной для публики, она была выпущена для проверки машинного обучения, а ещё данная нейросеть была оснащена технологией multi-head attention, c помощью такой технологии нейросеть понимала разные характеристики сообщения. Ещё Chat GPT 1 была оснащена эмбиддингами с большой размерностью, что также позволило этой нейросети понимать смысл всяческих языковых зависимостей в сообщении. Также эта нейросеть использовала технологию generative pre-training, а эта технология привела Chat GPT 1 к обобщению.

CHAT GPT 1 (Post Scriptum - это означает завершение повествования про одну версию нейросети)

Chat GPT 2 Была издана в феврале 2019-го года, данная нейросеть уже стала публично доступной, она появилась в результате масштабирования Chat GPT 1, хоть и основательно от первой версии она не изменилась, но в Chat GPT 2 увеличили количество слоёв до 48-ми и загрузили в неё 40 гигабайт данных и количество её параметров было превышено в 10 раз. Эта нейросеть уже умела генерировать сложные эссе и переводить тексты с одного языка на другой с разными результатами.

Chat GPT 2

Chat CPT 3, Chat GPT 3,5. Бета-тестирование Chat GPT 3 происходило в июне 2020-го года. В эту нейросеть загрузили ещё больше данных и количество её параметров увеличилось опять в десяток раз по сравнению с предыдущей версией. После улучшения нейросети, она приобрела больше умений. Она стала более эффективной в обработке текста, способна генерировать более сложные ответы в различных стилях, а также может создавать программный код и выполнять простые математические расчеты. Что удивительно, эта модель языка до сих пор не стала популярной во всем мире, хотя она была почти такой же хорошей, как ChatGPT. Однако, причина в том, что у неё нет чат-бот интерфейса. Chat GPT-3 была опубликована публично, но для ее использования нужно было обращаться к API, и она была платной. Но зато есть различные варианты этой модели с разным количеством параметров, например, у Ada есть только 350 миллионов параметров. Языковая модель InstructGPT, также известная как GPT-3.5, стала основой ChatGPT и привела к наступлению технократической революции. Отличительной особенностью InstructGPT является то, что она была более глубоко дообучена специалистами, которые оценивали стабильность качества ее ответов. Кроме того, максимальное количество токенов в InstructGPT увеличилось до 4 096-ти.
Благодаря дообучению, нейросеть стала более готовой к использованию обычными людьми, которые не являются специалистами в области промпт-инженерии, а просто задают простые запросы. Ее мощности остались примерно на том же уровне, что и в GPT-3. Однако, благодаря открытому публичному доступу, удобному интерфейсу и удивительным возможностям, ChatGPT стала известна во всем мире.

Chat GPT 3, Chat GPT 3,5

GPT-4 - это обновленная версия языковой модели, которая была выпущена 14 марта 2023 года. Она стала мультимодальной и теперь способна обрабатывать не только текст, но и изображения. Количество параметров этой версии неизвестно, но эксперты оценивают его примерно в 500 миллиардов. Новая версия нейросети генерирует еще более качественные ответы, но не произошло резкого улучшения функциональности из-за некратного прироста мощности. По моим размышлениям, нейросеть все еще не может заменить профессионального писателя. Данная модель языка представлена в двух вариантах: платная подписка ChatGPT Plus и чат-бот в браузере Bing от компании Microsoft. Компания Microsoft разработала новую нейросетевую модель, поскольку она инвестировала более 10 миллиардов долларов в OpenAI.

Chat GPT 4

Эпилог - хотел бы написать про Chat GPT 5 - по утверждениям разработчиков эта версия будет обладать разумом, который лучше человеческого. Однако пока что генеральный директор сказал что они занимаются профилактикой угроз при возможном чрезмерном успехе. Пока что есть только Chat GPT 4. Спасибо вам за чтение!