Искусственный интеллект всё активнее внедряется в повседневную жизнь — от цифровых ассистентов до систем, принимающих решения при найме сотрудников или анализе медицинских данных. Однако риски, связанные с предвзятостью алгоритмов, распространением дезинформации и вопросами безопасности, делают проблему доверия к ИИ крайне актуальной.
Для решения этой задачи международная группа учёных из Франции, США и других стран разработала систему TrustNet Framework. По данным «Журовский.Life», в её основу лёг анализ 34 459 научных статей, опубликованных за последние 30 лет. Исследование показало, что большинство работ по теме доверия ведутся в рамках отдельных дисциплин, при этом остро не хватает трансдисциплинарных проектов с участием индустрии, политиков и пользователей.
Новая система предлагает трёхэтапный подход. Сначала глобальная проблема доверия к ИИ связывается с конкретными научными знаниями. Затем следует этап получения новых знаний через совместную работу учёных, разработчиков, политиков и пользователей для выработки интеграционной концепции. Финальный этап — трансдисциплинарная интеграция — предполагает оценку результатов и их внедрение в практику для повышения пользы ИИ для общества.
Разработка Framework велась с привлечением специалистов из инженерии, психологии, этики, социологии и права. Уже рассматривается возможность применения системы в медицине, автомобильной отрасли и IT-сфере.
Авторы подчёркивают, что доверие к ИИ невозможно построить исключительно в лабораториях — необходимо вовлечение разработчиков, законодателей и общества. Как отметил соавтор исследования Фрэнк Крюгер из Университета Джорджа Мейсона, доверие является основой всех здоровых отношений, в том числе между людьми и технологиями, и именно оно должно определять то, как мы создаём и используем ИИ.
Пока международные ученые разрабатывают систему TrustNet для обеспечения доверия к ИИ, петербургские лингвисты создают эмоциональный словарь для искусственного интеллекта. Такой подход позволил создать полноценную базу для обучения языковых моделей: системы смогут учиться различать эмоции не только по речи, но и по другим коммуникативным каналам.