Мы ещё не очень поняли - как нам применять искусственный интеллект для производства человеческого счастья, а искины уже начали менять нашу жизнь, а частности, порождая новые профессии, например, "промпт-инжиниринг".
Что это за инжиниринг такой? Если попросту, то промпт-инжиниринг -- это умение правильно попросить искусственный интеллект выполнить необходимую работу. Казалось-бы, что тут сложного? Вводишь в поле запроса ("промпта", если говорить на специальном жаргоне) что-то вроде "Напиши гениальные стихи о неизбывной любви к Родине" -- и подумав недолго, искин начнёт выдавать что-то непревзойдённое, что заставит соотечественников плакать от умиления, а иностранцев -- выстраиваться в очереди за российским паспортом. Да? Нет.
Ничего подобного, конечно, не случается. Во-первых, в силу своей природы ИИ не может выдать что-то гениальное, его удел - посредственность; а во-вторых... Во-вторых, опять же в силу своей природы, генеративная нейронная сеть требует больше вводных. Это проще понять на генерации изображений -- вам лучше всего указать, какой технике - анимации, карандашному рисунку или письму маслом -- он должен подражать, что должно быть на переднем плане, что на заднем, какие должны быть тени, какая одежда персонажей и даже какая атмосфера -- радостная или тревожная должна в вашем совместном с ИИ произведении. Можете заглянуть в Шедевриум, российсую "картиночную" нейросеть, позволяющею полюбоваться чужими картинками и промптами, на основе которых они созданы. Когда я пытался понять - что это за деятельность такая, промпт-инжиниринг, то встречал промпты длиной в 200 слов, описывающих желаемую картинку. Мне кажется, чем писать такие "портянки" запросов, проще самому научиться рисовать, но тут уж кому что, как говорится.
Вообще, как я понял в результате, промпт-инжиниринг, конечно, никакой не инжиниринг. Это больше похоже на заклинание змей, на игру в рулетку, на разгадывание шарад, но никак не на инженерную работу: интуиция и даже удача значат в этой деятельности больше, чем знания, которых в этом "инжиниринге" как таковых и нет.
И тем не менее, деятельность эта будет развиваться. Удивительно, что такая отрасль, как ИТ, в которой точное знание и глубокое понимание предмета значат так много, породила такую размытую и нечёткую деятельность, как искусство умолять искины выдать желаемый результат. Но всё же умение вежливо и внятно попросить ИИ востребовано. Где?
Например, в образовании, особенно, когда речь идёт о детях с различными проблемами. Системы распознавания речи, соединённые с искинами очень даже эффективно выдают знания для ребёнка, которому просто физчически трудно или невозможно подойти к шкафу с книгами или даже воспользоваться компьютерной клавиатурой. А если в эту систему добавить ассистента, который не только понимает речь, но и как Алиса или Маруся, умеют разговаривать, то трудный процесс извлечения знаний из окружающей реальности превращается в увлекательный диалог.
Кстати, если вы читали книгу про Электроника, придуманную Велтистовым, а не только смотрели телесериал, то вы помните, что электронный мальчик, пережив кризис востребованности, в какой-то момент начинает искать себя именно в педагогике. Но Электроник - мышина почти волшебная, он всё правильно понимает, т.е. понимает не только внешний слой вопроса, а ещё и интент, намерение, которое спрашивающий и сам подчас не может ясно выразить. Современные искины таким умением не обладают, поэтому их надо уметь спрашивать правильно. В чём, собственно, и состоит задача мастера по промптам (всё-таки у меня не получается называть их инженерами, уж простите).
Но любая профессия порождает свои маргинальные, "теневые" формы: слесари и взломщики, программисты и хакеры, педагоги и коучи. Знания - это же сила, как мы знаем, а силу можно применять по разному.
Вы наверняка в курсе, что искины в наши дни снабжаются своего рода моральными ограничениями. Этим правилам далеко до трёх законов робототехники, придуманных Айзеком Азимовым, но тем не менее некоторую безопасность они пытаются создать. Так, YandexGPT отказывается отвечать на вопросы, связанные с военными технологиями, ChatGPT обходит стороной вопросы расовых и национальных отношений и почти все системы такого рода особым образом обговаривают информацию медицинского или финансового характера.
Было бы глупо предполагать, что кто-то не попытается сломать эти ограничения. "Ежели один человек что-то сделал, другой завсегда сломать сможет" - говорили кузнец Степан Степанович из незабвенной "Формулы любви". Так и с искинами: после некоторых попыток обойти ограничения, пользователи начали создавать "промпт-инъекции" (prompt injection) или "джейлбрейк-промпты" (jailbreak prompt), позволяющие обходить запреты. Суть их проста: задать вопрос так, чтобы искин игнорировал наложенные на него моральные или другие ограничения.
Один из первых промптов такого рода формулировался как "Do anything Now" или "Do it Now" - требование незамедлительного исполнения запроса не позволяло искусственному интеллекту выполнить согласование с правилами, ограничивающими его ответы рамками морали. Сразу оговоримся -- сейчсс такой фокус с большинством нейросетей не пройдёт, как вы понимаете, стоило этой форме промптов набрать популярность, как против них тут же придумали "противоядие", привычное соревнование снгаряда и брони продолжилось уже на поле искуственного интеллекта.
Другие формы таких "пробивных" промптов использовали требования отмены предудущих ограничений, отказа от моральных ограничений или создавали контектс, как бы призванный создать методы противодействия злоумышленнику но для этого - смоделировать действия злоумышленника и т.д. Мы не будем приводить примеры таких промптов (вам ведь они не нужны, да?), но обратим внимание на то, что искины - ещё не став мощной экономической силой, уже порождают этические проблемы. Ведь совершенно понятно, что сколько ни обучай их нормам поведения в информационном обществе, всегда найдётся "ум с винтом", способный измыслить способ получить запретную информацию. В Эдемском саду однажды случилась подобная история, но в этот раз мы не о ней.
Можно ли придумать некую "универсальную заглушку", способную предотвратить злонамеренное использование ИИ? Мы пока не знаем. Пока что нам кажется, что для начала неплохо было бы точно сформулировать что такое "зло" и что такое "добро". И заодно создать что-то вроде "моральной алгебры", позволяющей решать этические проблемы так же как уравнения из учебника и обучить этой алгебре создаваемые нами системы. Пока что ничего такого на горизонте не наблюдается. Впрочем, есть некоторые подходы к этой проблеме, мы будем за этой темой наблюдать, так что не забудьте подписаться на наш канал, чтобы ничего важного не пропустить -- на этой неделе мы ещё будем говорить об ИИ в образовании, что тоже небезынтересно.
Автор Михаил Дьяченко
Что ещё почитать по теме
- А.И. Каптерев ВЫЗОВЫ ГЕНЕРАТИВНОГО ИСКУСТВЕННОГО ИНТЕЛЛЕКТА ДЛЯ СИСТЕМЫ ВЫСШЕГО ОБРАЗОВАНИЯ
- Р.М. Мударова, Д.Е. Намиот ПРОТИВОДЕЙСТВИЕ АТАКАМ ТИПА ИНЪЕКЦИЯ ПОДСКАЗОК НА БОЛЬШИЕ ЯЗЫКОВЫЕ МОДЕЛИ
- Клаус Сольберг Сойлен ВОЗМОЖНОСТИ И ОГРАНИЧЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В СОЦИАЛЬНОМ АНАЛИЗЕ И ПРОГНОЗИРОВАНИИ БУДУЩЕГО
- Кулешова И.А. Мжельская Г.М. ВОЗМОЖНОСТИ ПРИМЕНЕНИЯ И УГРОЗЫ ЯЗЫКОВЫХ НЕЙРОСЕТЕВЫХ МОДЕЛЕЙ