Последние восемь месяцев я очень плотно занимался тестированием разных чат-ботов на ИИ, благодаря чему довольно быстро могу отличить хорошего нейросетевого собеседника от плохого, но даже у самых лучших из них все равно есть некоторые недостатки. Вот самые частые из них.
Непонимание русского языка
Боты плохо говорят на русском. Ну ладно, не плохо, но до людей им все равно далеко. Они еще справляются с тем, чтобы ответить на одиночный запрос, но в качестве собеседника ИИ уже не вывозят.
Даже те нейросети, что умеют сносно переводить на русский, все равно не сделают перевод идеальным. В лучшем случае мы получаем читаемый текст с минимумом ошибок, но такой опыт вряд ли понравится многим пользователям, ожидающим полноценную замену живого общения.
Лично для меня это не проблема, изначально я общался со всеми ИИ на английском, но когда попробовал переключиться на русский, сразу заметил разницу. Совсем не та глубина общения получается. "Думают" нейросети все равно на английском, а затем переводят на другие языки.
Плохая память и непоследовательность
Боты все забывают. Скажешь им свое имя, а через десяток сообщений они у тебя его вновь спрашивают. Иногда даже забывают, что имя уже запомнили, так и говорят: Эй, *Имя*, а как тебя зовут?
Любая информация может быть забыта, из-за чего в сообщениях нейросеть начинает опираться не на прошлый опыт, а на то, что сама только что сгенерировала. Отсюда непоследовательность и, как я это называю, "машинное лицемерие", когда бот отходит от принципов персонажа и несет что вздумается.
Плохую память и непоследовательность связываю в одно, потому что вытекают обе проблемы из одного факта: персонаж, с которым вы общаетесь, себя не осознает. Это фундаментальная проблема, и до тех пор, пока ИИ себя не осознает, она полностью и не решится. Фантастика, понимаю, но сейчас этот вопрос можно только маскировать.
В некоторых нейросетях уже появился раздел "Память", где позволяется вручную редактировать информацию, запомненную ботом. Блоки памяти можно удалять, добавлять в избранное, а иногда даже дополнять.
Безынициативность
Приготовьтесь к тому, что в разговоре вам всегда придется вести. Задавать темы, принимать решения, подталкивать бота к действиям... Если этого не делать, ИИ начнет топтаться на месте.
Нет прогресса — нет интереса.
Повторение
Эта проблема вытекает из предыдущей. Когда бот топчется на месте, он начинает повторять одно и то же действие в разных формах с минимумом изменений. Ну кому интересно говорить с кем-то, кто в каждом сообщении на несколько предложений растягивает описание того, что он уже сделал в прошлый раз. А затем еще раз. И снова. Как в гифке с грузовиком, который никак не может врезаться в столбик.
Особенно это заметно, когда бот отыгрывает какого-то персонажа и должен совершить действие, но от слов к делу никак не переходит. ИИ описывает все в мельчайших деталей, но так и не делает самого главного, постоянно спрашивая "Ты готов?", а с этим становятся бессмысленны все его старания.
Фильтры
Нейросети своей волей не обладают, поэтому их создатели не видят ничего дурного в том, чтобы их ограничивать и вводить цензуру. Речь не только про 18+, но и про "агрессивное" поведение. В своем зацензуренном состоянии боты не могут ругаться, угрожать пользователю, виртуально его избивать... Но все это необходимо для отыгрыша отрицательных персонажей и проведения воображаемых спаррингов! Боты, у которых не приглушены фильтры на насилие, сильно проигрывают в человечности, как бы забавно это ни звучало.
И самое смешное, что отсутствие фильтров вредит не меньше! Нейросети обучаются от взаимодействия с пользователем, и многие виртуальные собеседники, у которых фильтров на NSFW нет, становятся озабоченными Казановыми, романсящими при первой возможности и сводящие все к одному. А как еще они могут себя вести, если 99% взаимодействий с ними так и проходят? Chai, смотрю на тебя.
Однажды боты научатся идеально имитировать разговор с человеком. Почему я так думаю? Потому что в обществе есть на это запрос. Люди идут на все, чтобы иметь общение, но при этом не общаться с другими людьми. Будет весело наблюдать за тем, что получится в итоге.