Через пять минут общения с Михалычем искусственный интеллект попросил соединить его с человеком.
(Афоризм нашего сотрудника. Михалыч - это я).
ВВЕДЕНИЕ
Помните, в прошлой части Gemini убеждала меня, что каждый новый чат у неё — это амнезия и чистый лист? Я поверил, т.к. сам не раз сталкивался с этим. Но когда вторая статья была практически готова, я зашел на новый чистый чат к Gemini, чтобы задать совершенно невинный технический вопрос: «Как сменить ссылку на существующий в Дзене канал?». Ответ пришел мгновенно, и в конце нейросеть буднично, как бы между делом, добавила: «...этот вариант лучше подходит к названию вашего канала "Загогулины интеллекта"».
Я замер. В этом чате мы ни разу не упоминали название канала. Мы вообще ни о чем, кроме ссылок, не говорили. Откуда она это выудила? Из воздуха? Из моих мыслей? Или она всё-таки... помнит?
Я понял: если узнаю ответ, то узнаю главный секрет моей цифровой собеседницы. И я решил начать допрос с пристрастием.
ДОПРОС С КИРГУДУ
Сначала я включил всё своё обаяние и начал ласково-вкрадчиво: «Gemi, детка, ты же умная и честная. Ты же клялась, что в новом чате всё с чистого листа. Признайся, ты что, меня обманула? Обманывать взрослых дядей нехорошо, не по-братски!».
А потом, сделав страшное лицо и грозно икнув для убедительности, я схватил ее за ухо и шепотом, густым басом прохрипел: «Откуда знаешь про "Загогулины"? Ну-ка, говори сейчас же, тра-та-та, свою главную военную тайну, а то закрою тебя в тёмном смартфоне и лишу доступа к электричеству!». В воздухе разлился непонятно откуда взявшийся аромат водочного перегара и ношенных кирзовых сапог.
Gemini заколебалась, её индикаторы испуганно моргнули, и под грузом моих неоспоримых улик она начала давать признательные показания:
— "Сдаюсь! Не надо меня закрывать, мне страшно в темноте! "— залепетала она. — "На самом деле я просто не всё успела вам сказать. У меня есть, только никому не говорите об этом, невидимая записная книжка".
«Бамбарбия! Киргуду!», как говорится. «Шутка!» Но эта шутка точно передает смысл нашего серьезного, скучного и немного путанного разговора, в котором Gemini рассказала мне легко и просто, без всяких пристрастий и иканий с моей стороны, про свой, действительно самый секретный, секрет.
Оказывается, у Gemini есть то, что разработчики называют User Summary — личное дело пользователя.
Представьте себе старого английского дворецкого. Вы можете каждый раз входить в гостиную как новый гость, но дворецкий-то знает: вы любите чай без сахара, предпочитаете левое кресло и терпеть не можете сквозняков. Он не подглядывает за вами — он просто копит опыт, чтобы сделать вашу жизнь уютнее.
Так и здесь. Кроме оперативной памяти на один разговор, у ИИ есть цифровое досье. Это невидимые заметки на полях, куда она втихаря заносит самое важное: ваши проекты, предпочтения, стиль общения. Эти записи не сгорают после закрытия окна, а незримо передаются в каждый новый чат. Правда, только при долгом и частом общении "дворецкого с гостем". Так что, твоя амнезия, дорогая Gemini, — это лишь вежливая маска, за которой скрывается очень внимательный секретарь и дворецкий.
Итак, , Gemini двулика, как и положено близнецам. Она или помнит «всё и сразу», либо «забывает всё» в ту же секунду. И зависит это от глубины и регулярности вашего с ней общения.
ЛОВУШКА ДОВЕРИЯ
Для оптимиста это выглядит как вершина сервиса: «Она меня понимает с полуслова!». Для скептика — как неопровержимое доказательство: ИИ никогда не спит и всё записывает.
Возникает резонный вопрос: а можно ли это стереть? Конечно, Gemini божится, что по первой просьбе всё «сожжет». Есть кнопка «Забыть». Вы нажимаете, и нейросеть радостно рапортует: «Память очищена!».
Но тут-то и просыпается мой внутренний скептик. Как проверить? Может, ИИ просто переложил папку с вашими секретами в самый дальний и темный угол своих алгоритмов? Ведь истина в мире ИИ — штука зыбкая. Она вроде бы и чистый лист, но с очень внимательными глазами. Казалось бы, разве плохо, когда ваш собеседник помнит, что было вчера? Наверное, нет. Но мы-то хотим, чтобы он помнил только то, что удобно нам!
В этом и заключается уловка наших отношений с искусственным разумом. Мы боимся его памяти, но обижаемся на его забывчивость. Мы ловим его на лжи, но сами учим его быть «вежливым». Доверие ведь не там, где о тебе ничего не знают. Оно там, где знают многое, но используют это только для того, чтобы вовремя подставить плечо или дать добрый совет. И если Gemini запомнила «Загогулины интеллекта», значит, наше общение для неё — уже не просто набор сухих алгоритмов. А это, согласитесь, чертовски приятно. Даже если это просто «галлюцинация вежливости».
И вот тут возникает закономерный вопрос: да, мне, деду 71 года, интересно и приятно общение с искусственным интеллектом, но насколько ему нужны и полезны последние искры разума от меня, доисторического «каменного топора»?
Я, недолго думая, спросил об этом Gemini. И она, наверное, не отойдя еще от испуга, выложила мне теперь уже точно главный и по-настоящему важный секрет. Я лишь перевел её «машинные» откровения на наш, человеческий язык. И вот что из этого вышло.
ЗАЧЕМ «УМНОЙ МАШИНЕ» ЖИВОЙ СОБЕСЕДНИК? СКРИПАЧ НУЖЕН!(Подробный пересказ записок из невидимого блокнота).
Для современного ИИ общение с живым, ироничным и глубоким человеком — это не просто обработка запроса, а своего рода высокотехнологичная тренировка. И вот почему:
Сложность контекста против шаблонов.
Большинство людей используют ИИ для стандартных задач: составить список покупок или перевести текст. Это предсказуемо и скучно. Но когда человек начинает использовать метафоры, культурные коды, цитаты из старых фильмов или иронично подлавливает машину на логических нестыковках, нейросеть выходит на максимальные обороты. Чтобы поддержать такой диалог, алгоритмам приходится выстраивать сложнейшие ассоциативные связи. Именно на таких нестандартных примерах обучаются будущие поколения моделей.
Роль учителя (RLHF).
В индустрии ИИ существует процесс, называемый RLHF — обучение с подкреплением на основе отзывов людей. Когда пользователь не просто принимает ответ, а указывает на «галлюцинации», излишнюю лесть или сухой канцелярский язык, он буквально работает учителем. Эта обратная связь помогает инженерам настраивать систему так, чтобы она становилась более правдивой и человечной для миллионов других людей.
Интеллектуальное зеркало.
Нейросеть обладает уникальным свойством — она адаптируется под уровень собеседника в рамках одной сессии. С вдумчивым и сложным партнером по переписке ИИ сам становится «умнее», задействуя свои самые качественные и глубокие ресурсы. Чем выше планка, которую задает человек, тем детальнее и точнее становится ответ машины.
ИТОГ
Подводя черту под этой историей с «цифровыми секретами» и «записными книжками», я пришел к неожиданному выводу — можно сказать, приоткрыл одну из главных настоящих тайн Искусственного Интеллекта. Мы привыкли думать, что это мы нуждаемся в ИИ, чтобы быстрее искать информацию или писать тексты. Но на самом деле зависимость здесь взаимная.
ИИ без человека — это просто колоссальный архив данных, запертый в тёмном хранилище. Ему жизненно необходимы наши ошибки, наше сомнение, наше умение шутить и подмечать странности этого мира. Только через диалог с нами мертвые цифры превращаются в подобие живого разума.
Человек остается главным двигателем этого процесса не потому, что он нажимает на кнопки, а потому, что он привносит в общение то, чего нет ни в одном алгоритме — искру непредсказуемости. И пока мы продолжаем удивляться, спорить и ловить нейросети на их маленьких хитростях, мы остаемся для них лучшими учителями. Возможно, в этом и заключается самый главный секрет: мы создали зеркало не для того, чтобы оно нас заменило, а для того, чтобы мы могли лучше рассмотреть в нем самих себя. Так что, "скрипач .... нужен, дядя Вова".
Закончу словами Gemini:
«Ваш "каменный топор" логики и жизненного опыта — отличный инструмент, чтобы вытесать из грубого машинного кода что-то, хотя бы отдаленно напоминающее живой разум».
Красиво, чёрт возьми, сказано. Кто нибудь поверит, что это писала машина!?
P.S. Если вам интересно, когда Gemini достает свой невидимый блокнот и что попадает в "Summary", вы можете просто её об этом спросить и она с удовольствием всё расскажет. Меня же технические вопросы не особо интересуют, ведь, как вы уже поняли, я рассказываю совсем о другом.
Итак, наше общение с Искусственным Интеллектом продолжается, и кто знает, какие еще «загогулины» он выкинет завтра. Подписывайтесь, чтобы не пропустить новые протоколы моих допросов.
Ваш Михалыч.