Не так давно я стала гостем программы «Эмпатия Манучи». Одной из главных тем разговора стало развитие технологий искусственного интеллекта (ИИ) в России и те риски, которые несут в себе эти технологии.
Российский ИИ. Стоит ли его законодательно регулировать?
В России технологии лучше всего создаются и развиваются вне бюрократических решений. Технологии — это отчасти творческое направление, которое создается группой энтузиастов. Эти энтузиасты — люди специфические, независимые. Государство плохо умеет управлять такими людьми. Поэтому, когда государство начинает вмешиваться в развитие технологий, зачастую получается не лучше, а хуже.
ИТ-сфера в России развивалась снизу вверх. Когда в конце 1980-х годов произошла смена парадигмы, люди, получившие хорошее техническое образование в СССР, стали искать себя в информационных технологиях. В результате появилось несколько тысяч частных ИТ-компаний. До 2010-2012 годов государство предпринимало только робкие попытки регулировать эту сферу. Реальное регулирование началось с 2015 года, когда были введены первые санкции.
В части ИИ в России существуют удачные разработки и успешные компании, которые развивают это направление. Например, Яндекс.
Сейчас создается общефедеральный Центр развития искусственного интеллекта, однако аналитическая работа велась и раньше — так что государство обратило внимание на ИИ не только что.
Вредит ли регулирование развитию ИИ?
Регулирование регулированию — рознь. Любые рамки — это регулирование. Например, требование использовать отечественные технологии. Главное, что не должно быть регулирования ради регулирования. Например, обязательств использовать ИИ-решения там, где они не нужны.
Однозначно необходим закон о запрете применения ИИ в социальной сфере — для оценки людей, для контроля и управления образовательной траекторией, для трудоустройства. Применение ИИ в этих вопросах приведет к дискриминации.
ИИ — на пике хайпа
Большое внимание на всех уровнях, в том числе на государственном, к ИИ привлечено потому, что сейчас эта технология переживает пик хайпа по Гартнеру. Действительно, ChatGPT совершил прорыв. Люди верят, что ИИ решит все их проблемы. Но это далеко не первый случай. Раньше на хайпе был блокчейн, но сейчас интерес к этой технологии угас — пришло осознание, что, как и любая технология блокчейн имеет свои ограничения и теперь про эту технологию вспоминают не часто.
Американская аналитическая компания Gartner провела исследование и разработала модель Gartner Hype Cycle. Она иллюстрирует жизненный цикл технологий и инноваций, включает пять этапов. Первый — появление перспективной технологии или концепции. Второй — пик внимания, когда формируются завышенные ожидания от потенциальных перспектив технологии. Третий — разочарование, когда становится ясно, что реальность не соответствует ожиданиям. Четвертый — выход на плато продуктивности, технология начинает находить реальные применения и приносит пользу. Наконец, пятый этап — стабилизация, когда новая технология становится рутиной в своей сфере применения.
Нельзя позволить себе очаровываться технологиями, потому что никакая технология просто не даст всего того, что от нее хотят. ChatGPT и его аналоги уже сейчас начинают разочаровывать. Например, при работе с текстами все чаще видим низкокачественный результат, повторы, кросс-повторы, ухудшение качества. Нейросети начинают глючить и галлюцинировать. Тем более нельзя давать нейросетям принимать управленческие решения, особенно в социальной сфере.
Если вы обратите внимание, то про ИИ-технологии с восторгом говорят, преимущественно, гуманитарии, которые не понимают особенности работы, ограничений и рисков использования технологии. Люди технического склада более сдержаны в оценках.
ИИ и дети
Мы не знаем, как ИИ-технологии подействуют на детей. Современные технологии развиваются очень быстро, и мы не можем оценить те эффекты, которые они оказывают на людей. Сейчас только подрастает первое поколение так называемых «цифровых туземцев». Психологи отмечают сокращение их памяти, сокращение визуального представления и воображения. Это не прогресс, а деградация. Чем позже ребенок получит доступ к смартфону и ИИ-инструментам — тем лучше.
Приведет ли ИИ к сокращению рынка труда
ИИ-решения способны заменить так называемых «белых воротничков» начального уровня — тех работников, чья деятельность связана с офисной работой и интеллектуальным трудом. Среди них юристы, бухгалтера, некоторые журналисты — те, чью работу можно алгоритмизировать. В этих вопросах ИИ-инструменты способны эффективно справляться с базовыми задачами.
Безусловно, этих людей жалко и социальные риски надо учитывать, однако решения об их увольнении или сокращении вакансий принимают не нейросети — все это в руках человека.
Где грань между удобной цифровизацией и тотальным надзором?
Фактически технологии с использованием ИИ могут проследить всю жизнь человека: маршруты, предпочтения, покупки, круг общения и многое другое. Поэтому грань между удобным инструментом и средством для тотального надзора трудно провести.
Единственный способ не допустить ИИ в частную жизнь человека — запрещать использование ИИ-инструментов для контроля за людьми на законодательном уровне.
Наше будущее с ИИ
Людей, которые досконально понимают технологии на базе ИИ, очень мало. Это число дробится на еще более узкие направления по моделям и сферам применения. Поэтому ничтожно мало тех специалистов, которые могут подняться на уровень стремительно выросшей технологии и комплексно разобраться в ней. Однажды человечество перестанет понимать, как работают их же собственные технологии.
В истории не было ни одной технологии без рисков, а чем мощнее технология, тем более серьезные риски она несет. В этой связи технология ИИ таит в себе самые большие риски в истории человечества.
Однозначного ответа как использовать только положительные свойства ИИ и избежать рисков нет.