В прошлой статье я рассказал о том, как Сбер блокировал меня одиннадцать раз за два дня, и на статью откликнулось очень много людей.
Под статьей десятки людей рассказали о том, как они пострадали от неправомерных действий банка, и НИ ОДИН не рассказал о том, что подобные настройки искусственного интеллекта (ИИ) ему помогли защитить деньги от мошенников.
Получается, что эффективность работы ИИ Сбера даже не ноль — она имеет отрицательные значения. Ибо пострадавших очень много, а бенефициар только один — сам Сбер, который незаконно удерживает средства на своих счетах, заставляя тысячи клиентов доказывать, что они имеют право снять свои же деньги.
Представим, что кому-то эта система помогла. Должны ли страдать тысячи ради теоретического блага одного? Вопрос дискутабельный.
Но мне кажется, не все понимают, что проблема куда глубже, чем отвратительная работа службы безопасности и ИИ конкретного Сбера. Ее пока не особо видно, но она огромна и рано или поздно ударит по каждому.
ИИ проникает сегодня во все сферы жизни и берет на себя самые разнообразные функции. Тот же «Яндекс Дзен», где я публикую свои статьи, за последние годы тысячи раз ошибочно ограничивал статьи замечательных авторов, при этом всякий шлак мы наблюдаем в топе постоянно. Если честно, то в топе только шлак и есть.
С одной стороны, ИИ, конечно, призван облегчать нашу жизнь, но с другой, — берет на себя слишком много функций и человек остается абсолютно беззащитен перед ним.
Любая ошибка физического лица грозит ему наказанием, штрафами, пенями, судебным преследованием и т.д. и т.п. Ошибка искусственного интеллекта не грозит никому ничем.
Взять мой случай с блокировкой банковских карт и невозможностью получить свои же средства. Представьте на секунду, что это я не отдал банку вовремя его деньги. Будет моментально выписан штраф, начислены пени, проценты и все, что только можно. Я же виноват!
Как реагируют банки в случае, когда ПО ИХ ВИНЕ я не могу получить свои же деньги и они несколько дней лежат в банке? Банк платит мне процент за незаконное пользование моими средствами? Пени? Штраф? Да ни копейки банк не заплатит. Скажите спасибо, если вам «принесут свои извинения за сложившуюся ситуацию», а финансово страдает в этом случае только клиент, и все!
То же самое происходит медленно, но верно во всех сферах. Если я не заплатил вовремя за квартиру, свет, газ, воду, спутниковое телевидение, кредит и т.д. и т.п., то мне моментально выкатывают проценты. Если я допустил хоть малейшую ошибку в своей профессии, на меня могут подать в суд и выиграть неслабую сумму за оказание некачественной услуги.
Есть ли хоть какая-то перспектива выиграть суд и получить деньги за некачественную работу службы безопасности банка, ошибку в налоговой службе, незаконное решение суда или действия каких-либо других представителей власти? Могу я подать в суд на депутата Думы, который протолкнул безграмотный закон? Могу я подать в суд на безграмотные действия Роспотребнадзора во время эпидемии коронавируса?
Подать в суд теоретически могу, но любой юрист вам скажет, что выиграть практически нереально (а Верховный суд уже давно отказывается принимать любые иски на такие темы). Нужно будет потратить столько сил и средств, что даже если дело дойдет до ЕСПЧ и случайно будет выиграно, то оно никогда не окупится, а ответчик совершенно спокойно может наплевать на итоговое решение.
За любую ошибку ИИ всегда расплачивается простой человек. Это я должен тратить время и деньги, носиться по присутственным местам, писать письма пачками и доказывать, что ошибка была у них, а не у меня. Им фиолетово. Они не несут никакой ответственности за свои ошибки.
И вот эта беззащитность человека перед машиной, на мой взгляд, основная проблема будущего. Решит какой-то тупой робот, что вы провинились, и все. Доказывайте потом, сколько хотите, что он ошибся. Тратьте время, деньги, нервы. Роботу, системе и людям, которые управляют системой, начхать на это.
С их стороны есть все возможности моментально наказать, оштрафовать, снять деньги со счета, заблокировать карты, посадить в тюрьму и т.д. Со стороны людей таких возможностей нет вообще. Мы практически никак не можем повлиять на глупую и неповоротливую машину.
И если раньше всегда было конкретное ответственное лицо, которое в случае чего могло быть снято с должности, которому мог прилететь выговор или просто сказали бы «ай-ай-ай», то чем дальше, тем больше исполнители услуг прячутся за искусственный интеллект, который по уму равен курице, а по карающим возможностям — Зевсу Громовержцу.
Давно пора уже задуматься над тем, что большие права должны даваться только в случае, когда на исполнителя вешается еще бо́льшая ответственность! Когда всегда можно быстро и без особого труда со стороны человека исправить ошибку за счет того, кто ошибся, а не наоборот. Иначе очень скоро все это кончится цифровым концлагерем. И вопрос не в нашей стране. Проблема общая.
Причем если кто-то думает, что его это не коснется, потому что он находится на высоком посту или имеет много денег, то он ошибается. ИИ плевать на должности и кошельки, он действует так, как его запрограммировали, а не по понятиям, по совести или как-то еще.