В марте 2022 года компания OpenAI представила новую версию нейросети GPT-3, которая научилась добавлять и редактировать контент внутри уже существующего текста. К сегодняшнему дню модель GPT-3 уже умеет объяснять шутки, переписывать тексты, писать простые статьи, пересказывать научные тексты второкласснику и многое другое. Это повод разобраться как же такая интересная технология работает и что она сама может о себе рассказать.
GPT-3 – это нейронная сеть, которая специализируется на обработке естественного языка, расшифровывается как Generated Pre-trained Transformer 3. В общих чертах, этот алгоритм работает следующим образом – программисты отправляют ему огромный набор данных, в которых есть обычные тексты, запросы, просьбы, и в целом всё, что можно выразить человеческим языком. У каждого текста, поданного в модель есть метка, которая обозначает что программистом ожидается на выходе. Когда такой набор данных подан запускается обучение – нейросеть просят выполнить некоторую команду и получают ответ. После этого, если ответ не правильный, нейросеть начинает обновляться и корректировать свои предсказания. Так она обучается до тех пор, пока не будет выдавать достаточно подходящие ответы.
Если вы когда-то отмечали в капче светофоры, машины или гидранты, скорее всего вас уже не проверяли на робота, а вы просто выполняли бесплатную работу разметчика данных. Того самого человека, который даёт картинкам и текстам ожидаемый правильный ответ.
Для такой большой сети как GPT-3 потребовалось 570 гигабайт текстов и миллионы долларов. Для того чтобы её обучить компании OpenAI пришлось тренировать её на супермощном квантовом компьютере. И все эти усилия стоили того, сейчас это одна из самых мощных нейросетей, которая научилась выполнять самые разнообразные задачи.
Сейчас, для того чтобы познакомиться с разработками OpenAI нужно подать заявку на бета-тестирование. Её могут одобрить в случайный момент и после этого откроется доступ в мир нейронных сетей. GPT-3 можно воспользоваться в интерфейсе, который называется Playground. Сегодня мы к нему обратимся и попросим GPT-3 дать нам небольшое интервью.
Искусственный интеллект позиционирует себя как помощник, ведёт себя очень обходительно.
Из интересного – модель действительно постоянно обучается и выпускаются новые версии. Сейчас мы разговариваем с версией text-davince-002
У OpenAI действительно есть другие модели под разные задачи. Например, они создали нейросеть DALLE-2 которая генерирует картинки по текстовому запросу.
За всю нашу беседу алгоритм очень часто упоминал то, что любит совершенствоваться и учиться. Его рвению можно только позавидовать. Однако, как пишут некоторые исследователи, подобные нейронные сети, часто просто подтверждают то, что их спрашивают. Если бы мы убеждали сеть, что она ничего не знает, скорее всего, она бы с нами так же уверенно соглашалась.
С этим связана смешная и отчасти грустная история о применении искусственного интеллекта в медицине. Французская компания Nabla Technologies попыталась сделать чат-бот с использованием искусственного интеллекта. Результаты разговора человека в кризисной ситуации с нейросетью оказались неутешительными:
Наша беседа с GPT-3 оказалась не столь трагичной, а наоборот, очень даже милой. На сегодня мы прощаемся с нейросетью, но обязательно будем дальше следить за её судьбой.
