Промптология

Память ИИ🔺За пределами чата🔻 Когда нейросеть понимает с полуслова Хорошего собеседника часто узнают по тому, сколько ему не нужно объяснять. Он помнит прежние разговоры, связывает отдельные темы и понимает короткую реплику. Когда похожим образом отвечает нейросеть, появляется ощущение, что она знает больше, чем содержится в самом вопросе ◽Внутри одного чата такое продолжение привычно. Если обсуждалось несколько тем, а последние сообщения посвящены одной, короткий вопрос обычно воспринимается в её рамках. Его смысл складывается из слов и окружающего диалога. Пользователь может опустить часть пояснений, потому что они уже присутствуют в контексте ◽В системах с памятью эта связь может выходить за пределы текущего разговора. Пользователь обсуждает книги разных направлений в отдельных чатах, затем задаёт общий вопрос о работе над книгой. Название ещё не прозвучало, но ответ уже касается одного из ранее обсуждавшихся замыслов. Возникает ощущение непрерывного общения, хотя сам диалог начался заново ◽За ощущением понимания с полуслова стоит несколько составляющих взаимодействия: 💠Текущий диалог 🔹Запрос, предыдущие сообщения и инструкции задают ближайшее окружение вопроса. Именно здесь пользователь формулирует текущую задачу, но часть её условий может оставаться невысказанной 💠Память между разговорами 🔹Сохранённые сведения помогают учитывать предпочтения, прежние решения и обсуждавшиеся задачи. Когда они возвращаются для подготовки ответа, они дополняют текущий контекст и сокращают необходимость повторных объяснений 💠Актуальность прошлого 🔹Предыдущие разговоры могут относиться к разным направлениям работы. Недавно обсуждавшаяся книга выглядит естественным продолжением общего вопроса, но пользователь уже мог переключиться на другой замысел. Знакомая тема не обязательно остаётся текущей 💠Предположение о намерении 🔹Нейросеть связывает формулировку вопроса с доступными сведениями и достраивает недостающий смысл. При удачном совпадении это воспринимается как понимание с полуслова. При ошибке получается подробный ответ на задачу, которую пользователь сейчас не ставил ◽Память делает взаимодействие непрерывнее: сведения из прежних разговоров дополняют текущий запрос и сокращают пояснения. Но верные сведения о прошлом ещё не гарантируют правильного понимания новой задачи. Поэтому управление контекстом включает и проверку того, совпадает ли достроенный нейросетью смысл с намерением пользователя ___ 〽Мы ценим собеседников, которым не нужно всё объяснять заново. Но понимание с полуслова всегда оставляет вторую половину фразы за собеседником. И чем убедительнее он её достраивает, тем легче забыть проверить, именно это ли мы собирались сказать #промптология #ПамятьИИ #Контекст

Волшебство и 🔺токены🔻

События ИИ [Сентябрь №1] У нас 🔹5 сентября стало известно, что в российских регионах в пилотном режиме применяют четыре большие языковые модели, обучаемые на правовых позициях Верховного суда и судебных решениях. Их предполагается использовать для выявления противоречий, снижения числа ошибок и повышения предсказуемости правосудия. При этом окончательное решение, оценка доказательств и применение права должны оставаться за судьёй 〽ИИ входит в одну из самых чувствительных сфер, где даже рекомендация алгоритма способна повлиять на человеческое решение. Поэтому важно не только оставить последнее слово за судьёй, но и понимать, как вывод модели был получен и использован В мире 🔹В сентябре руководители Anthropic, OpenAI и xAI призвали согласованно замедлить развитие наиболее мощных моделей, чтобы меры безопасности успевали за ростом их возможностей. Вслед за этим риски ИИ и возможной потери контроля над автономными системами вынесли на обсуждение Совета Безопасности ООН 〽Риски действительно существуют, но призыв выглядит выгодным прежде всего для тех, кто уже вырвался вперёд. Единые ограничения могут повысить порог входа для остальных и под лозунгом безопасности закрепить сложившееся лидерство Промптология 🔹В журнале Information издательства MDPI опубликована статья Promptology: Enhancing Human–AI Interaction in Large Language Models. Авторы рассматривают промптологию как междисциплинарную область, связанную с проектированием эффективных промптов, взаимодействием человека и ИИ, когнитивными аспектами и безопасным использованием генеративных моделей. В статье термин «promptology» включён в ключевые слова и определяется как направление, выходящее за рамки традиционной prompt engineering. 〽Использование термина в академической публикации показывает, что промптология начинает закрепляться не только как практический навык работы с запросами, но и как обозначение области исследования взаимодействия человека с генеративным ИИ. При этом разные авторы пока формируют собственные границы понятия, что является естественным этапом становления новой области #промптология #СобытияИИ