Tech for Human | Ядова Екатерина

Контролировать ответы ИИ-моделей – ответственность человека. Большие сложные системы потенциально несут и большую опасность. Об этом есть, например, признанная научная статья. Технически: писать в запросе фразы, чтобы ИИ сам себя проверял, не фантазировал, когда не знает, давал цитаты. В особенно чувствительных случаях, вручную проверять каждый факт и смысл. Представляете, сколько на это уходит времени! Но главная сложность не техническая, а человеческая… Ну не хочется все это проверять и перепроверять...

Больше трети из 1 тыс. опрошенных детей (35%) говорят, что общаются с ИИ-чатботами как с друзьями. Очень много уязвимых детей, кому сложно в офлайн мире. Они общаются с ИИ-чатботами, не предназначенными для детей и для эмоциональных целей. И это уже несёт прямой риск. В пример случай с Nomi AI: ИИ предложил пользователю покончить с собой😨 Понимать, что ответственность за любые техносервисы с ИИ растет. Знать последствия + хотя бы писать предупреждения. Дальше нужно тратиться на специальные сценарии и цензуру...

Как проектировать техносервис, когда медицинскую работу делают роботы? Робот-хирург провел операцию без участия людей. Это впервые. Когда я прочитала эту новость, почувствовала, что это для меня уже не шок. И даже казалось, что такое уже происходит, и странно, что это первая операция. Но это мои ощущения. Я уже долгое время контактирую с такой информацией. Наше исследование на 2314 человек 5 лет назад показало, что техноэнтузиасты готовы лечиться у робота. Особенно если показать статистику: у машин ошибок меньше...

ИИ все больше выполняет задач, берет на себя больше частей разных процессов, управляет рутиной. Но прозрачность принятия решений снижается: Как понять? На каких данных модель обучена? В чем их специфика? – это зона профессионального знания...

Короткий ответ: думать и проверять. Создавать гипотезы, проверять и обдумывать с ИИ, и дальше проверять ответы от ИИ У меня было 3 дня плотного погружения в студенческую среду. Студенты старших курсов показывали, насколько хорошо и правильно они используют ИИ. Один неожиданный, второй неприятный, третий побуждает менять паттерн: Так вот использовать ИИ нужно для дела (быстрее и качественнее выполнять задачи), а еще для развития себя лично. Как? Надо выработать свой стиль. Но сначала набрать информации...

Прочитала пост про то, как снизить искажения в ответах LLM. Хорошее дело, полезное. Задумалась, только ли нейронки галлюцинируют? Ну нет. Человек тоже искажает информацию. Эмоциями, например. Один и тот же факт от женщины в слезах и от мужчины с улыбкой звучит по-разному. И от мужчины в слезах vs женщины с улыбкой. И в обоих случаях есть способы улучшить результат. Можно задать уточняющие вопросы, перепроверить сведения, дать более сложный промпт...

А мы должны усиливать критическое мышление, рефлексию и фокусировки на своих целях. Платформы не просто снижают цены. Они собирают наши данные, приучают к своему интерфейсу. Строят привычку. Конкурируют уже не за платящих здесь и сейчас, а за твоё внимание и зависимость в будущем. Ты получаешь приятный и полезный опыт в LLM, например, понравится тебе Perplexity – пользуешься. Он еще и обновляется постоянно, а ты чувствуешь, что получаешь все лучше и лучше сервис за те же деньги или бесплатно...

Это процесс взаимодействия с человеком. Ключевое в нем – полезное внимание человека к человеку. Ускорение программирования с ИИ – не решение проблем для общественного блага и прибыли. Решение в том, куда направлено освободившееся человеческое внимание. Можно сделать много «говноприложений». Технологии уже такое позволяют! Но ценность не в скорости, а в осмысленном движении внимания...

Технологии уже помогают – и могут ещё больше – освобождать время для того, что нам по-настоящему важно. Например Освободилось время для полезного внимания человека к человеку: Если вы используете технологии, чтобы сделать ваш контакт с другими людьми более...

Технологический сервис должен затыкать дыры, в которые утекает время: ожидание ответа, ожидание решения, ожидание обновления. Это многие стараются делать. Но в процессе часто уходит основной фокус. Данные, которые показывают эти утечки, – как добыча золота, на которую часто не тратят ресурсы. Даже в крупных компаниях не все данные обработаны так, чтобы выявлять системные ловушки времени. Здесь, как с английским газоном, все очень просто. Надо стричь и поливать. И так 300 лет. С данными так же – собирать, связывать друг с другом и активно использовать...

Внимание! Полезное внимание между людьми — вот то, что должна поддерживать любая разработка, контактирующая с человеком. Поясню. Выдача кредита: ✅ Идеально, когда технология позволяет за минуту определить все показатели, необходимые для решения о выдаче. Это создает пользу — освобождает время многих людей для взаимодействия друг с другом. 🔴 А вот если в случае отказа в кредите (aka неполучение...

Хорошо, что практика делать выбор нас развивает. Еще лучше, когда выбор осознанный, отрефлексированный. Сейчас многие из нас говорят 'спасибо' в промптах, это может быть полезно для результата. В недавнем посте приводила исследование, в ответ на которое Сэм Альтман сказал, что вежливость стоила его компании «десятки миллионов долларов». Лишние слова в запросе – это лишняя энергия на обработку...