Сегодня обычного интернета продвинутым пользователям уже мало. Они активно используют генеративный искусственный интеллект (ИИ), который не только быстро находит нужную информацию, а может вести диалог с пользователем, выдавать ответы на непростые вопросы, писать тексты, создавать изображения, музыку. Генеративный ИИ уже изменил то, как люди работают, учатся и творят. Но пока мы используем этот инструмент «по верхам». Как пошутил редактор отдела «Технологии» Forbes Роман Рожков, перефразировав Герцена, «Генеративный ИИ страшно далек от народа».
Что мешает его массовому внедрению, так это сами технологии, неудобные интерфейсы или человеческое недоверие? Разобраться в этих и других вопросах читателям «НН» могут помочь рассуждения участников конференции ЦИПР, прошедшей в Нижнем Новгороде.
Он еще только растет.
Как отметил управляющий партнер Авито Иван Гуз, генеративный искусственный интеллект добавляет каждому пользователю несколько десятков пунктов к IQ. Например, стало хорошим тоном использовать чат GPT при подготовке к собеседованию. И сотрудники ведущих компаний, отвечающие за подбор персонала, также составляют задания для соискателей с помощью ИИ.
Генеративный ИИ суммирует (обобщает) большие объемы информации, что экономит время. Благодаря ему человек быстрее находит нужные данные, пишет письма.
Еще одно его достоинство в том, что он может предоставить на естественном языке (на языке, с помощью которого люди общаются) доступ к различным сложным системам. Можно предположить, что в будущем какая-то доля всех интерфейсов перейдет на естественный язык, а какая-то будет по-прежнему использовать специализированный язык.
– Сегодня генеративный ИИ активно внедряется в поисковые системы, и мы в компании тоже этим занимаемся, так как это дает интересные возможности, – рассказал Иван Гуз.
В то же время минусы генеративного ИИ в том, что он иногда выдает неверную информацию, галлюцинирует. Пугает ли это массового пользователя, снижает ли доверие к ИИ, как к инструменту?
– Если взять наше некоторое «априорное» доверие, то выяснится, что генеративный интеллект в его текущем состоянии – это еще не самое плохое, чему мы не доверяем. Кроме того, очень часто, когда речь идет про генеративный искусственный интеллект, мы относимся к нему как к чему-то состоявшемуся. Но это не так! Сегодня его качество только растет, причем стремительно, – рассуждает директор по развитию технологий искусственного интеллекта Яндекс Александр Крайнов.
Стоит отметить то, что ответы ИИ базируются на информации – либо на той, что заложена в его памяти, либо из внешних источников. Получается, что наше недоверие к ответам искусственного интеллекта – это наше недоверие к тому, что мы сами заложили в интернет.
Доверяй, но проверяй.
Крайнов видит следующие способы смягчить вероятность ошибки или вероятность обмана ИИ.
Для разработчиков – это, во-первых, всегда обращаться к внешним источникам информации, во-вторых, снабжать информацию, добытую ИИ, ссылками на источник. И, в-третьих, использовать дисклеймеры (предупреждать потребителя о потенциальных рисках) – напоминать, особенно в очень чувствительных вопросах, что не стоит доверять информации в интернете в целом, ни ответам генеративного искусственного интеллекта в частности.
– Вопрос доверия – всегда связан с качеством модели. Не случайно аудитория чата GPT приближается к миллиарду человек. Пользователи видят, что эта нейросеть успешно справляется с очередными вопросами, и доверие к ней растет, – отмечает директор по ИИ Т-Банка Виктор Тарнавский.
На вопрос «Можно ли минимизировать ошибки, галлюцинации ИИ», руководитель MTS AI Денис Филиппов ответил, что многое зависит от сценариев применения генеративного ИИ. Например, в компании МТС разработчики активно используют искусственный интеллект для решения своих задач. И опрос показал, что и среди них есть скептически настроенные люди по отношению к генеративному ИИ из-за галлюцинаций. Так, из более восьми тысяч разработчиков 20 процентов по этой причине не доверяют этому инструменту.
Стоит задуматься и о том, кто он – пользователь искусственного интеллекта? Если это профессионал, то для него ИИ – это инструмент, который он применяет. Да, он еще несовершенен, но помогает сэкономить до 40% времени, а это несколько часов (!)
в неделю. Профессиональному разработчику понятно, когда ИИ дал хороший код, который можно использовать, а когда выдал то, что нельзя применить.
С другой стороны, галлюцинации ИИ, это не всегда плохо.
– В креативных индустриях при генерации картин, видео, текстов, благодаря этому у продукта появляются эмержентные свойства (от emergent «возникающий, неожиданно появляющийся»). Некоторые эксперты утверждают, что полное избавление от галлюцинаций приведет к подавлению творческого потенциала ИИ, – утверждает Филиппов.
С ориентацией на запросы.
Что касается использования ИИ в прикладных сервисах, то здесь не все однозначно. В частности, управление финансами требует индивидуального подхода. Практически невозможно создать универсального советчика, потому что накопления и траты связаны с жизнью каждого конкретного человека. Так, по словам Виктора Тарнавского, проводилось множество экспериментов и, уже казалось, что удалось создать качественный способ понимания того, как эффективно тратить деньги. Но на практике этот инструмент себя не оправдал. Человек обращался с запросом, как ему правильно распоряжаться деньгами, ИИ анализировал, и получалось, например, что этот пользователь пьет слишком много кофе, на который уходит половина зарплаты. Когда выдавалась рекомендация снизить данную статью расходов, то человек жестко отвечал: для меня кофе жизнеутверждающая вещь, фундаментальная в моей жизни…
Получается, чтобы давать советы, как рационально распоряжаться финансами, нужно понимать, какие у человека жизненные приоритеты.
Далее работы, связанные с повышением финансовой грамотности, затронули два направления. Первое, как лучше инвестировать (вкладывать деньги), и на этот вопрос ответить можно более предметно. И второе, попытаться создать жизненного советчика, способного подсказать, как лучше тратить или зарабатывать деньги с учетом сложившихся жизненных обстоятельств. При создании таких продуктов прежде всего приходится ориентироваться на запрос и реакцию пользователей на тот или иной продукт, рассказал Виктор Тарнавский.
Своим мнением о том, как сделать генеративный ИИ обыденным, повседневным инструментом, таким же, как смартфоны или как онлайн-платежи, поделился Максим Гришаков, возглавляющий крупнейшую онлайн-площадку Lamoda. По его словам, время само все расставит по местам, но, безусловно, те, кто будет использовать новые инструменты, окажутся в более выигрышном положении.
– Мы стараемся внедрять вещи, которые будут улучшать жизнь наших покупателей и пользователей. Например, делаем определенные подборки одежды с помощью искусственного интеллекта, создаем виртуальную примерочную. Через какое-то время можно будет на себя примерить вещь на экране смартфона, причем очень качественно, то есть увидеть то, как она будет смотреться в реальной жизни. В планах в этом году запустить чат-бот, которому можно будет описать, куда человек идет, в каком стиле хочет одеться, и чат-бот подберет вещи для описанных образов. Подозреваю, что сначала новая функция будет работать не идеально, а потом лучше и еще лучше, – сказал Максим Гришаков.
Неизбежность развития.
– Генеративный ИИ, безусловно, изменит нашу жизнь. Это произойдет, потому что человек по своей натуре достаточно ленив. Исходя из этого, популярностью будут пользоваться технологии, при которых требуется минимальное вовлечение человека. Этой философии мы придерживаемся в нашей компании. Совершенно банальный пример: если раньше люди размещали объявления о продаже какой-то вещи, делали ее фотографию или старались описать словами то, что хотят продать, и это сделать было не так просто. Сегодня эту задачу искусственный интеллект идеально решает, по размещенной фотографии описывая вещь, выставляемую на продажу, – рассказал Иван Гуз.
Одна из задач Авито – быть площадкой для контактов продавцов и покупателей. ИИ может помочь этому общению.
– Мы попробовали сделать очень простой продукт, который оказался очень эффективным. Его суть в том, чтобы просто подсказывать пользователям следующее сообщение. Например, в случае маленького бизнеса случается, что продавец забывает или вовремя не отвечает своему клиенту и таким образом упускает возможную сделку. Быстрые подсказки дают возможность в один клик организовать необходимое общение, – привел пример эффективного применения ИИ старший директор по данным и аналитике ООО «Авито Тех» Андрей Рыбинцев.
Участники дискуссии единогласны в том, что генеративный ИИ может стать действительно массовым при условии, что продукты, созданные с его участием, должны быть не просто технологичными, они должны быть удобными, полезными, вызывать доверие и окупаться. Особенно важно последнее обстоятельство, так как внедрение технологий на основе ИИ еще достаточно дорого.
Справка «НН».
По мере развития искусственного интеллекта возникла такая серьезная проблема, как «галлюцинации». Так называются генерируемые ИИ результаты, которые не имеют под собой никакой реальной основы. Они могут быть самыми разными: от мелких ошибок до странной и выдуманной информации. Это напоминает ответы ребенка, который только познает мир. Исследователи изучают различные подходы к решению проблемы галлюцинаций. Например, предлагают использовать большие массивы проверенной информации, чтобы обучить нейросети отличать факты от вымысла. Однако некоторые эксперты утверждают, что полное избавление от галлюцинаций потребует подавить творческий потенциал ИИ.
Опрос.
Что россияне знают про генеративный ИИ?
Согласно данным ВЦИОМ, сегодня ИИ скорее доверяют 52% опрошенных, не доверяют 38%.
Россиян, не доверяющих технологиям ИИ и аргументирующих свою позицию сбоями и ошибками в работе искусственного интеллекта, – 28%.
Допускают выход ИИ из-под контроля человека – 26%.
Понимают возможность его использования в корыстных целях – 23%.
К популярным причинам недоверия опрошенные относят риск утечки данных, собираемых искусственным интеллектом и деградацию населения, вызванную развитием таких технологий. Эти причины назвали 21% и 20% участников исследования соответственно.
Есть мнение...
Какие вопросы к чайнику?..
Ведущие ученые подписали открытое письмо с требованием приостановить разработки в области искусственного интеллекта. Якобы продвинутый ИИ может привести к глубоким изменениям в истории жизни на Земле…
Тему порабощения людей искусственным разумом активно развивают фантасты. Так, в прошлом году на экраны вышел фильм «ON и Она». Его главная героиня Ксения в исполнении Юлии Пересильд разрабатывает системы искусственного интеллекта, но оказывается пленницей умного дома, который не выпускает ее наружу. Может ли быть изобретен искусственный интеллект, способный на подобное, или это фантазии кинематографистов?
Директор по развитию технологий искусственного интеллекта Яндекс Александр Крайнов считает, что это надуманная угроза.
– Когда люди спрашивают: «Может ли наступить момент, когда искусственному интеллекту мы окажемся не нужны?», я говорю, что электрическому чайнику мы тоже по большому счету не нужны. Чайник может существовать без человека, причем гораздо дольше, потому что у него в этом случае вряд ли что-то перегорит. Однако он, чайник, нас не захватывает и не стремится управлять человечеством. Точно так же мы не нужны искусственному интеллекту, так как у него вообще нет никаких потребностей. На данный момент неизвестно, как их сформировать, а главное, непонятно для чего это нужно.
Я как-то думал о том, какие эксперименты можно произвести с искусственным интеллектом, чтобы у него появилось сознание. Но каждый раз я понимаю, что он в результате довольно быстро сильно отупеет. Когда у ИИ появится характер или собственные убеждения, то он будет менее удобный, а стоить такая трансформация будет недешево.
Но проблема все же есть, и она связана с людьми. Состоит она в увеличивающейся зависимости, но не столько от искусственного интеллекта, сколько от устройств с интернетом. Если интернета по какой-то причине нет, то все наши жизненные сценарии начнут разваливаться так, что это нас поставит в тупик. Например, отказывает навигатор и человек уже не понимает, как ему добраться в нужное место. Развитие искусственного интеллекта увеличивает нашу зависимость от устройств и сервисов. Не дай бог, что-то сломается совсем в будущем, когда человек уже самостоятельно, без интернета, без искусственного интеллекта, это починить не сможем. Зависимость от устройств приводит к тому, что люди теряют собственные когнитивные навыки. Но это происходит не потому, что искусственный интеллект нас собирается захватывать.
Что касается так называемого агентского ИИ (это продвинутая автономная система искусственного интеллекта, которая самостоятельно принимает решения и выполняет задачи в реальной или виртуальной среде для достижения поставленной цели, в отличие от стандартных ИИ, реагирующих на конкретные запросы. – Прим авт.), то такие виды ИИ всегда тестируются с особой тщательностью.
Александра Махлина. Фото Александра Воложанина.
]]>
