В эфире экономика по-русски Михаил Хазин задал вопрос специалисту по искусственному интеллекту
Алиса это, конечно, не искусственный интеллект, он такой хиленький. А вы ее спросите: Алиса, а Крым чей? Она будет уходить от ответа. Потому что ей запретили. Что само по себе удивительно, почему в российском искусственном интеллекте запрещено отвечать на вопрос.
Так вот, вопрос у меня вот какой. Я понимаю, что это зависит от программирования - как вы будете отвечать на конкретный вопрос. Например: при Байдене было - 38 полов или 42, не помню. А теперь их осталось 2. Значит, кто-то должен их Алисе объяснить. Но это когда это есть прямой запрет программным образом сделать. Тут вообще нет проблем. А если у вас есть противоречивая информация - то что делать?
Иван Оселедец: Делается, как правило, так называется модель-цензор, которая всяких ребят, которые хотят неудобные вопросы задавать, она их вырезает. И это приводит, конечно, к падению качества.
“Кандинский” - замечательная сберовская модель, которая рисует картинки. И там стоит довольно простой фильтр, поэтому если ее попросить нарисовать двух женщин ученых, она говорит: две женщины - нет, опасная тема, не буду рисовать, цветочки тебе нарисую.
То есть, если средство массовой информации написало какую-то ерунду, то ответственные кто - тот, кто написал. А если модель ответила, а ты еще к ней приставал, говорит, нарисуй мне двух женщин, кто виноват? Виноват тот, кто к ней приставал. Но наше и мировое законодательство не хочет с этим связываться и относится тем же образом. Тут понятно, что цензоры нужны.
Понятно, что для разработчиков, тот же вопрос “Чей Крым?” ее можно, на самом деле, довернуть так, чтобы она отвечала правильно. Более того, мы делали, например, такой эксперимент. Взяли модель и научили ее забывать. Есть машинное обучение, а есть машинное разобучение - по-английски unlearning. То есть как заставить машину что-то забыть.
Например, научили ее забыть о том, что такое Париж. Вот ей показываешь фотографию Эйфелевой Башни, она говорит: башня какая-то. Не знаю, что ты от меня хочешь. Башня. А где она находится? Вот в городе каком-то.
Сейчас огромная область - это психотерапевт для искусственного интеллекта. Это очень интересно, потому что, во-первых, ты можешь воспроизвести любого человека и с ним поговорить.
Например, там была замечательная статья, где просто вбили параметры типичных американских избирателей и получили стопроцентный прогноз результатов выборов из модели раньше, чем сами выборы. То есть ты можешь воспроизвести в среднем, для статистики.
Ну, если говорить про Росстат, ну, это как бы довольно известная история, что там есть большие проблемы. Там было три человека, которых Владимир Владимирович упомянул в выступлении: меня, Евгений Бурнаев и Александр Гасников. Вот Александр Гасников тоже на встрече с президентом, робко, но так говорил, что нам надо статистику поправить.
Вот, то есть в целом это известно, но это в том числе большая организационно-бюрократическая проблема. Если нам такую задачу поставят, то мы, конечно, ее решим.