В Великобритании разрабатывают ИИ, который сможет предсказывать преступления. Смысл системы в том, чтобы правоохранительные органы могли предотвращать преступления, а не реагировать на них постфактум. В 2026 году это выйдет в пилот, а к 2030 году обещают внедрить по всей стране.
Сергей Михеев: Это не самая новая технология.
Тем не менее, на сайте британского правительства всё описано с пафосом, что туда будут поступать данные из полиции, спецслужб, камер видеонаблюдения. Если у человека какая-то не такая гримаса, то, значит, он что-то замыслил. Система распознавания лиц его определила, на карте смартфон показал, где он.
Сергей Михеев: Насчет ценностей и ИИ: есть такая интересная вещь, как «галлюцинации ИИ», признанная всеми. Когда ИИ под вас подстраивается и начинает вам выдумывать данные, факты, имена, названия, а вы потом сами проверяете, правда это или нет. Сейчас много курьезных случаев: например, человек поехал в зарубежную страну, ИИ сказал, что виза туда не нужна, он приезжает, а его не пускают.
Есть вещи и посерьезнее: часто бывает, что вы ищете факты, а ИИ вам выдает интерпретацию фактов, сопровождает ценностными установками. Откуда он их берет? Большой вопрос. Например, вы что-то запрашиваете по этнографической проблеме, а он, кроме фактов (которые надо еще проверять), заодно выдает: «Вы знаете, что взаимопроникновение культур народов – это очень хорошо. Еще хорошо, когда стираются границы и различия». Хочется сказать: «Тебя кто-нибудь спрашивал?» Я к тому, что под видом получения информации выдается ценностная ориентация, оценка в системе «хорошо-плохо, добро-зло». Ко этим управляет? Кто эти оценки туда закладывает? Хорошо, если человек опытный и грамотный. А если эту информацию ищет школьник, студент?
Я привел самый безобидный пример, а таких примеров может быть огромное количество. Здесь надо держать ухо востро. К сожалению, лучше не становится.
Зная Вашу «любовь» к нейросетям, слушатель интересуется: «Как отнесется Сергей Михеев к тому, что его голосом и в его стиле программу «Железная логика» вел бы ИИ?»
Сергей Михеев: Absolutely impossible! ИИ на то и искусственный, что может имитировать. Можно нарисовать картинки, имитирующие нас, как будто они живые. Но проблема ИИ в том, что он не переживал, не имеет опыта, ему всё равно, где добро, а где зло. Он может только притворяться, подделывать голос и изображение, а стать нами он не может, как его ни обучай. В этом его трагедия и наш успех.