Всем доброе утро

Всем доброе утро. У меня уже пол-второго в студии. Почему всё это круто? Это, собственно, то, что я давно-давно хотел.

Идея здесь в том, что, вы знаете, искусственный интеллект, каким бы вы ни пользовались — GPT или что-то другое — отвечает на основе предобученных данных. То есть где-то что-то они там наковыряли в интернете и так далее.

Но нам часто нужно, чтобы он отвечал на основе наших знаний — экспертных, каких угодно. Кейсов — навалом. Самый простейший кейс, который мне нужно было реализовать, на котором я тренировался, — это когда студенты задают вопросы: что-то с сайтом, не работает регистрация, видео и так далее. Все эти кейсы абсолютно стандартные, у меня всё это уже написано в помощи. И задача была, чтобы он отвечал не абстрактно, а именно на основе этого текста.

Но в целом это может быть всё, что угодно: юридический текст, поддержка какой-то компании, научный текст, психология, художественный текст — в том числе. Допустим, вы создали какое-то художественное произведение, а читатель хочет поговорить с каким-то героем. Ну, к примеру, из «Звёздных войн» — магистр Йода. Мы сейчас не будем говорить про авторские права, интеллектуальные права, но в целом — да.

Идея заключается в том, как сделать так, чтобы он отвечал именно на основе вашего текста, а не на основе своих предобученных данных. Хотя это было понятно ещё достаточно давно, но надо было всё это реализовать. У меня как раз определённый план к этому — к шестому уроку. Меня, конечно, мучает там много всяких моментов. И в том числе эту задачу надо было реализовать. Часов семь на это ушло. Причём задача не была сложной — просто надо было понять, как правильно всё подставлять, потому что где-то я не туда сворачивал, как это часто бывает.

Но в конечном итоге — победил. Там оказалось несколько вариантов. Один лобовой вариант — тоже интересный: можно заставлять его цитировать буквально текст. То есть, когда он находит наиболее релевантные куски в соответствии с запросом — и просто цитирует их дословно. Это один вариант.

А второй — более интересный: он анализирует запрос, потом читает текст, находит релевантный кусок и уже своими словами что-то объясняет. Ну и, собственно, всё это можно регулировать промтом.

Для меня было важно технически научиться это делать, потому что, в общем, оказалось, что это не так уж и сложно. И когда всё уже сделано технически — вы можете вставлять туда какие угодно тексты. И плюс — это абсолютно защищено. Никто не может это скачать или своровать. Просто технически невозможно. Это очень прикольная история.