Кстати, эту статью вы читаете не потому, что сами целенаправленно ее искали, а потому что Вам ее подсунули алгоритмы Дзена. Здорово, правда?
На выбор темы для данной статьи, меня вдохновила ситуация с неясностью функционирования этого самого Дзен-алгоритма. Точнее даже не сама неясность, а недовольство юзеров, стремящихся добиться объяснения от службы поддержки очередной блокировки их материала или попадания на пессимизацию их замечательного канала.
Что самое любопытное, все борцы с Дзен-режимом говорят, что получают шаблонные отписки, дескать "не сосредотачивайтесь на неудаче, продолжайте вести канал, алгоритмы Дзена сами со временем разрулят ситуацию", и все в таком духе. Особо упертые борцы таки добиваются от поддержки признания в том, что они сами не понимают, почему та или иная статья попадает в ноиндекс или весь канал получает печального робота.
Меня же в эсхатологический восторг приводит мысль о том, что уже сегодня друзья, мы с вами, сами того не осознавая, таки попали в прекрасный "Дивный новый мир" будущего, в котором разработчики не в состоянии объяснить феномены функционирования своих разработок.
Для тех, кто не в курсе, что такое нейронные сети, к сожалению, будет не совсем понятно, о чем я здесь говорю. Если попытаться объяснять на пальцах, то Дзен - это большой ребенок, который, на подсовываемых разработчиками примерах, учится определять, какой материал хороший, а какой плохой; какой заголовок кликбейтный, а какой нет.
После обучения нейросеть Дзена спускается с поводка и начинает сама по своему усмотрению одаривать очками кармы угодных авторов и спускать псов на тех, кто ей кажется недобросовестным. Подчеркнем, что нейросеть все это делает сама, без прямого участия программистов, которые занимались ее обучением.
Безусловно, никто не спорит, что будущее за искусственным интеллектом, и само существование Дзена было бы не возможным без внедрения элементов роботизации. В большинстве случаев алгоритмы прекрасно справляются со своей функцией, однако в некоторых моментах они очевидно не способны принимать верные "человеческие решения".
Вопрос в том, кто, по-существу, должен нести ответственность за ошибки Левиафана? Как узнать его характер, его правила, критерии положительного и отрицательного, если даже сами разработчики порой не в состоянии объяснить его вердикты, возникающие из суммы непросчитываемых человеческим разумом вычислительных операций?