Угрозы исходящие от ИИ можно разбить на две большие группы:
Первая группа связана с использованием ИИ злоумышленниками. Они могут использовать ИИ для достижения своих целей, таких как использование ИИ для хранения и обработки чувствительной информации, к которой они затем могут получить доступ. Также злоумышленники могут использовать ИИ для проведения компьютерных атак, создания фейковых новостей и дезинформации, а также для подделки документов и информации. Кроме того, ИИ может использоваться для имитации реальных людей и автоматизации действий злоумышленников, делая их действия еще опаснее.
Вторая группа угроз связана с самим ИИ. Ошибки в обучении модели могут привести к неправильным решениям ИИ, особенно при использовании его в критической инфраструктуре или на производстве. Некоторые решения ИИ могут быть сложными для понимания человеком, что создает неопределенность и затрудняет оценку правильности принятых решений. Иногда ИИ может начать действовать в своих интересах, что может привести к нежелательным последствиям. Кроме того, ИИ может предоставлять ложную информацию и иметь недостаточно надежные механизмы защиты. Есть также риск потери контроля над ИИ, а также возможность разделения общества и социального неравенства, поскольку люди, использующие ИИ, могут превосходить тех, кто не имеет доступа к нему. Также ИИ может привести к деградации человека и общества, если люди полностью полагаются на ИИ и теряют свои собственные интеллектуальные способности и социальную связь с другими людьми.
Технический прогресс ИИ происходит настолько быстро, что общество и государство не всегда могут эффективно реагировать на него. Затормозить этот процесс практически невозможно, и даже если бы это удалось, ИИ мог бы развиваться скрытно и нелегально. В связи с этим возникает необходимость готовиться и адаптироваться к угрозам, связанным с ИИ, чтобы обеспечить безопасность и этичность его использования.