9 подписчиков
Доверие алгоритмам - один из трендов последних лет. Мы создаём все более сложные системы, надеемся, что они будут безошибочны. 🤖
Это приводит к неприятным последствиям, о которых мы редко думаем. Перекладывание ответственности с человека на алгоритм/робота часто даёт сбои, особенно на стыке цифровых экосистем. ☠
Приведу простой пример. Заказал недавно корм для кошек с доставкой за 1 час в зооптторг. Доставку осуществляет Яндекс. Через 4 часа я пытался выяснить, где мой заказ. Кошки плакали от голода 😿. А операторы ничего не могли сказать, хотя очень старались. Зооптторг заказ передал, Яндекс не принял. Физическое местоположение заказа оставалось загадкой. Организационно он находился на стыке между системами и отвечал за него алгоритм.
В целом эта ситуация типична и для доцифрового мира. Но в мире цифровых экосистем, роботов и искусственного интеллекта, руководители склонны игнорировать такие дыры в системах, считая, что технологии решат задачу. 🙈
Современные технологии действительно поражают воображение. С их помощью можно автоматизировать множество задач. Но пока что они не могут нести ответственность за работу, они могут лишь её выполнять. Поэтому ответственность должна оставаться за человеком. 👩💻 И так будет ещё довольно долго.
На практике нужно руководствоваться простым принципом. Работу делает робот/алгоритм 🤖, а ответственность за его работу несёт человек 💁🏻♂.
1 минута
25 мая 2023