НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН, РАСПРОСТРАНЕН И (ИЛИ) НАПРАВЛЕН ИНОСТРАННЫМ АГЕНТОМ «РОСКОМСВОБОДА» ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА «РОСКОМСВОБОДА». 18+
Даже постепенное развитие искусственного интеллекта (ИИ) может ослабить влияние людей на ключевые общественные системы. В отличие от сценариев, где ИИ резко берёт контроль, этот процесс может быть постепенным, но необратимым.
Исследование, проведённое учёными Карлова университета и Telic Research, описывает риск «постепенного лишения власти». Согласно их выводам, ИИ может постепенно подорвать контроль человека над экономикой, культурой и государственными институтами. Со временем это может привести к тому, что общественные системы станут менее зависимыми от людей, ослабляя механизмы демократии и влияния граждан.
Искусственный интеллект может начать оптимизировать процессы таким образом, что они перестанут учитывать человеческие предпочтения. Например, экономическая власть ИИ может формировать культурные нарративы, а затем эти нарративы начнут влиять на политические решения. В результате влияние человека на общество будет снижаться в различных сферах одновременно.
Учёные предлагают несколько стратегий снижения риска. В их числе — разработка систем измерения потери человеческого влияния, регулирование искусственного интеллекта через законы и налоги, усиление демократических процессов и создание «ИИ-делегатов», представляющих интересы человека.
Также исследователи подчёркивают важность междисциплинарного подхода и международной координации. По их мнению, предотвращение рисков ИИ должно учитывать не только угрозы злоупотреблений, но и то, насколько человечество сохраняет контроль над своими основными социальными системами.
Всё это требует более глубокого понимания того, что значит быть человеком в мире, где решения принимаются не людьми, а алгоритмами. По мнению авторов исследования, своевременные меры позволят избежать сценария, при котором люди утратят влияние на общественные процессы.