У “нашего всего” — технологии глубокого обучения нейронных сетей, которая ближе всего сейчас находится к тому “чему-то”, что мы понимаем под искусственным интеллектом, всегда была одна проблема. Она работала как черный ящик. Мы знаем, какие данные подсунули ей на входе, какие получили на выходе, но почему именно эти данные на выходе — не ясно.
Вообще говоря, это было очень антропоморфным свойством нейронных сетей: психологически сближало нас) И отдаляло технологию deeplearning от “обычного детерминированного программирования”. Ведь все помнят знаменитую картину с Уиллом Смитом “- Робот не может написать симфонию // — А ты можешь?”, ведь мы, люди, тоже далеко не всегда можем объяснить свои действия.Но это было и проблемой. Прежде всего, проблемой двоерия и лишь усиливало страхи перед ИИ. Ведь эволюционно в нас зашито больше всего бояться себеподобных (из школьного учебника биологии — внутривидовая конкуренция более сильная).
Был, например, кейс программы “SKYNET” АНБ США (не спрашивайте, кому пришла в голову назвать программу именно так), которая использовала алгоритмы машинного обучения на данных мобильных операторов Пакистана, чтобы оценить вероятность каждого человека в этой стране быть террористом. На основе этих данных экстремистов убивали (кстати, убивали дронами, но это уже не принципиально). В итоге программа подверглась критике правозащитных организаций на “непрозрачность”, и когда началось расследование никто не смог объяснить, почему программа выбирали того или иного человека, включая саму программу.
И вот наконец дитя человеческое вышло из “туманного” возраста и научилось рационально объяснять свои действия. Ну и конечно, здесь не обошлось без алкоголя)
Команда из МТИ обучала нейросеть на текстах и пятизвездочных рейтингах с сайта, который собирает отзывы о пиве. Алгоритм анализировал текст на связность, изучал рейтинги. В результате стал действовать практически так же, как человек. Его оценки на основании текстов совпадали с человеческими, что вызывало доверие к решениям. Оценки вкуса и аромата он угадал в 96% случаев и в каждом из них можно было получить объяснение, на основе чего такая оценка получена.
Полная статья PDF
Краткая статья на русском
Однако упомяну в этом контексте “противовесную” новость: те же нейросети научились создавать такой алгоритм шифрования, который люди не могут взломать — то есть теперь они смогут общаться, а мы не сможем понять, о чем.