Все более широкое распространение искусственного интеллекта в современной жизни породило множество вопросов об этических и практических последствиях его использования. Менее изученным, но не менее важным аспектом является то, как поведение и решения человека играют ключевую роль в формировании систем ИИ, на которые мы все больше полагаемся. Начиная со сбора данных и разработки алгоритмов и заканчивая моделями машинного обучения и управлением ИИ, человеческий фактор присутствует повсеместно. Здесь мы рассмотрим различные способы влияния человека на ИИ, иногда намеренного, а иногда и неосознанного.
ИИ хорош лишь настолько, насколько хороши данные, которыми он питается. При сборе данных решения человека о том, что включить или исключить, существенно влияют на среду обучения системы ИИ. Например, если модель машинного обучения обучается на необъективных данных, она будет давать необъективные результаты. Классическим примером является программа распознавания лиц, которая плохо справляется с людьми определенной этнической принадлежности, поскольку используемый набор данных был недостаточно разнообразным.
За каждой моделью искусственного интеллекта стоит алгоритм, разработанный инженерами-людьми. Эти алгоритмы определяют, как машина обрабатывает данные, обучается и в конечном итоге принимает решения. Выбор, сделанный на этом этапе проектирования, имеет далеко идущие последствия. Например, алгоритмы социальных сетей, ориентированные на вовлеченность, могут непреднамеренно способствовать поляризации и распространению дезинформации, поскольку часто показывают пользователям контент, соответствующий их взглядам.
После разработки и создания модели ИИ необходимо провести ее обучение и тонкую настройку. Этот этап также предполагает значительное взаимодействие с человеком. Например, при контролируемом обучении человек маркирует данные, тем самым устанавливая "базовую истину", которую должен усвоить ИИ. При обучении с подкреплением человек определяет функции вознаграждения, которыми руководствуется ИИ в своем поведении. Выбор, сделанный на этих этапах, оказывает непосредственное влияние на работу ИИ.
Решения человека относительно этических принципов и управления системами ИИ могут иметь долгосрочные последствия для общества. Например, кто должен решать, что считать этичным использованием ИИ? Насколько прозрачным должно быть принятие решений в области ИИ? Это фундаментальные человеческие вопросы, которые влияют на то, как ИИ будет интегрирован в общество.
Процесс принятия решений ИИ может быть непрозрачным, поэтому для человека крайне важно разрабатывать системы таким образом, чтобы их можно было интерпретировать и объяснить. Невыполнение этой задачи может привести к появлению систем "черного ящика", решения которых неподотчетны и трудно поддаются проверке. Таким образом, люди призваны обеспечить прозрачность систем ИИ и их понятность для людей, на которых они влияют.
Наконец, ИИ - это постоянно развивающаяся технология, которая непрерывно учится на основе взаимодействия с пользователем. Ваши поисковые запросы, клики и даже паузы влияют на то, как поисковые системы и алгоритмы рекомендаций развиваются с течением времени. Таким образом, пользователи играют косвенную, но постоянную роль в формировании систем ИИ.
Что отношения между людьми и ИИ носят двунаправленный характер. ИИ оказывает огромное влияние на современную жизнь, но, в свою очередь, в значительной степени формируется под влиянием человеческих решений на различных уровнях. От данных и проектирования до этики и взаимодействия с конечными пользователями - человеческий след в ИИ неизгладим. Признание этого влияния крайне важно не только для развития ИИ, но и для понимания его роли и последствий в обществе.