Искусственный интеллект, вероятно, уже принял решения относительно вашей жизни.
Он мог решить, было ли ваше страховое требование принято или отклонено как мошенническое.
Возможно, он оценил ваш кредитный рейтинг , предсказывая, достойны ли вы ссуды или считаете ли вы слишком высокий риск.
Он мог даже наблюдать за вашим вождением , определяя, нарушаете ли вы правила дорожного движения и должны ли быть оштрафованы.
Итак, что вам нужно знать об автоматическом принятии решений и почему вам это нужно?
Что же такое ИИ ?
ИИ - это тип компьютерной программы, которая использует сложный код и мощные процессоры для анализа огромных объемов данных.
Программное обеспечение анализирует всю эту информацию, чтобы принимать решения и действовать.
Существует не один ИИ, а бесчисленное количество различных систем, созданных для разных целей и приложений.
Большинство людей часто обращают внимание только на захватывающие новые способы использования ИИ, такие как «нейронная сеть», которая создает причудливые произведения искусства.
Или к страшным предупреждениям об «апокалипсисе искусственного интеллекта », когда сценарии из таких фильмов, как «Терминатор» или «Военные игры», кажется, становятся реальностью.
Но есть много повседневных примеров ИИ, которые также заслуживают нашего внимания.
Какие есть примеры?
Когда Spotify рекомендует песню, он анализирует музыку, которую вы слушали, и сравнивает ее с треками, которые нравятся другим людям. Затем ИИ принимает решение о том, какие еще песни вам также могут понравиться.
Подавая больше данных в ИИ, система обучается видеть больше связей и корреляций между различными частями информации.
Искусственный интеллект Spotify анализирует наши привычки прослушивания и дает рекомендации по песням.
Такой вид автоматизированного анализа может обнаружить то, что люди могут упустить. Он также может обрабатывать данные со скоростью и в масштабах, невозможных для человека.
Вот почему индустрия высоких технологий часто собирает как можно больше данных из любых доступных источников. Идея состоит в том, что большее количество данных приведет к более продвинутым и более точным формам ИИ.
Но эти данные должны откуда-то поступать.
За искусственным интеллектом в умных домашних устройствах, таких как Alexa или полуавтономных автомобилях, таких как Tesla, стоит армия часто низкооплачиваемых рабочих, которые очищают и маркируют данные, чтобы их могли понять машины - будь то изображения уличных знаков, записи речи или видео колоноскопии.
ИИ лучше принимает решения, чем люди?
В информатике есть старая поговорка: мусор на входе, мусор на выходе.
ИИ хорош настолько, насколько хороши данные, используемые для его обучения. Если его обучить на неверных, предвзятых или некачественных данных, его решения и действия также будут неправильными, предвзятыми или некачественными.
Например, при использовании технологий искусственного интеллекта при приеме на работу есть свидетельства того, что они предпочитают мужчин более квалифицированным женщинам . Почему? Потому что данные, используемые для обучения этих систем, содержат гендерную предвзятость, которую затем усиливает ИИ.
В подобных примерах недостатка нет. Различные системы искусственного интеллекта отклоняли чернокожих соискателей ссуды гораздо чаще, чем белых, и решили, что чернокожие пациенты больниц нуждаются в меньших ресурсах здравоохранения, чем белые пациенты.
Но алгоритмы - это всего лишь математика, верно? Математика не может быть плохой
Решения ИИ обычно рассматриваются как результат нейтральной и объективной технологии.
Тем не менее от начала до конца ИИ является продуктом человеческого выбора, склонного к человеческим ошибкам, сформированного человеческими предубеждениями и руководимого человеческими ценностями.
Ваш еженедельный путеводитель по миру СМИ, культуры и технологий. От социальных сетей до гаджетов, от потоковых сервисов до вопросов конфиденциальности.
И ИИ уже напрямую влияет на то, что социологи называют нашими « жизненными шансами » - на наш доступ к услугам, наши возможности для продвижения и наше место в обществе.
То, как мы часто говорим об ИИ как о системе, существующей вне людей, заставляет нас думать о чем-то мистическом и наблюдающем за всеми нами.
Риск состоит в том, что мы предполагаем, что эти технологии намного умнее, чем они есть на самом деле, просто потому, что мы называем их ИИ.
Таким образом, это дает этим системам чувство интеллекта и превосходства, которого они иногда не заслуживают.
Какие есть решения?
Среди гигантов Кремниевой долины растет понимание того, что создание и использование ИИ сопряжено с множеством сложных этических и социальных проблем.
Технологические компании, такие как Google, установили принципы «ответственного ИИ», которыми они руководствуются. Для них ответственный ИИ означает учет вопросов, связанных с честностью, конфиденциальностью и безопасностью при разработке этих технологий.
Но другие, такие как Facebook, склонны утверждать, что многие проблемы ИИ можно решить, используя больше ИИ.
Так в чем проблема?
Весь ИИ предназначен для выполнения определенных задач или решения конкретных проблем.
Критики, как снаружи, так и внутри отрасли , говорят, что эти технологии в значительной степени создаются и контролируются небольшой группой людей - в основном белыми, в основном мужчинами, в основном состоятельными.
«Я всегда волнуюсь». Как онлайн-платформы могут повысить безопасность женщин
Они сами решают, как тренировать ИИ и почему он используется. Они должны определять проблемы. Остальные из нас, в основном, должны жить с этими решениями, как человеческими, так и искусственными.
Но общественность все чаще обсуждает прозрачность и подотчетность этих автоматизированных процессов, которые принимают решения о нашей жизни.
По мере того как мы стремительно приближаемся к будущему ИИ, главный вопрос, на который многие пытаются ответить, заключается в том, какие технологии совместимы с демократическим обществом?
И это вопрос, который нам необходимо рассмотреть, поскольку ответ окажет глубокое влияние на всех.
