Это перевод статьи Бернара Марра «5 Important Artificial Intelligence Predictions (For 2019) Everyone Should Read», опубликованной в журнале Forbs 03.12.2018 г.
Движение к «Прозрачному Искусственному Интеллекту»
Внедрение Искусственного Интеллекта в обществе в целом, особенно когда речь идёт о работе с персональными данными, сдерживается «проблемой чёрного ящика». В основном, работа ИИ кажется загадочной и непостижимой без полного понимания того, что он на самом деле делает.
Чтобы полностью реализовать свой потенциал, нам нужно доверять ИИ — мы хотим знать, что он делает с нашими данными, почему и как он принимает решения, когда речь идёт о проблемах, которые влияют на нашу жизнь. Это часто трудно передать — особенно потому, что ИИ особенно полезен из-за его способности устанавливать связи и делать выводы, которые могут быть неочевидными или даже показаться нам нелогичными.
Но укрепление доверия к искусственным интеллектуальным системам — это не просто успокоение общественности. Исследования и бизнес также получат выгоду от прозрачности, которая проявляет предубеждённость в данных или алгоритмах. Отчёты показали, что компании иногда воздерживаются от внедрения ИИ из-за опасений, что они могут столкнуться с обязательствами в будущем, если современные технологии будут признаны несправедливыми или неэтичными.
В 2019 году мы, вероятно, увидим усиление акцента на мерах, направленных на повышение прозрачности ИИ. В этом году компания IBM представила технологию, разработанную для улучшения отслеживаемости решений в своей технологии AI OpenScale. Эта концепция в режиме реального времени даёт представление не только о том, какие решения принимаются, но и как они принимаются, устанавливая связи между используемыми данными, взвешиванием решений и потенциалом предубеждённости в информации.
Общее положение о защите данных, введённое в действие в Европе в этом году, даёт гражданам некоторую защиту от решений, которые «оказывают юридическое или иное существенное» влияние на их жизнь, принимаемые исключительно машинами. Несмотря на то, что это ещё не совсем горячая политическая тема, её популярность в публичном дискурсе, вероятно, возрастёт в 2019 году, что ещё больше побудит бизнес к прозрачности.