Искусственный интеллект (ИИ) стремительно ворвался в нашу жизнь, обещая переворот в медицине, науке, промышленности. Но за этой сияющей вершиной таятся и тёмные глубины – угрозы, которые ИИ может нести.
Угрозы, исходящие от ИИ:
- Злоупотребление алгоритмами: ИИ может использоваться для манипулирования людьми, создания дезинформации, распространения ненависти и дискриминации. Алгоритмы, обучаемые на предвзятых данных, могут усиливать существующие социальные проблемы. Реализация дипфейков (DeepFake) для подмены голоса и внешности человека. Наш уважаемый президент РФ столкнулся с подобным событием во время подведения итогов 2023 года, когда вопрос ему поступил от студента СПБГУ с внешностью и голосом президента. А вопрос как раз таки и заключался о двойниках и искусственном интеллекте. Насколько это безопасно и как успевать контролировать ИИ в нынешних реалиях ? Вопрос сложный и ложится на плечи сотрудников безопасности предприятий, ведь так может позвонить и начальник компании, попросив открыть ему удаленный доступ, а какие сомнения, ведь мы верим тому, что видим сами.
- Киберпреступность: ИИ может использоваться хакерами для создания более изощрённых атак, взлома систем безопасности, кражи личных данных, осуществления интеллектуальных DDOS атак, адаптирование и самопереписывание вредоносного кода.
Если принимать во внимание новостные источники, то уже поступает информация, что хакеры с помощью применения ИИ проводят атаки на госресурсы Ленобласти. В первом квартале 2024 года зафиксировано четыре DDos атаки со скоростью до 150 тыс. пакетов в секунду.
САНКТ-ПЕТЕРБУРГ, 11 апреля. /ТАСС/. Киберпреступники стали применять нейросети для проведения атак на государственные системы в Ленобласти. Об этом сообщили ТАСС в пресс-службе комитета цифрового развития Ленинградской области.
"Если в прошлом году преобладали кибератаки с пиковыми нагрузками, то в этом году - сложные целенаправленные атаки с использованием нейросетей. Так, в 2023 году зафиксировано пять DDos атак со скоростью от 500 тыс. до 6 млн пакетов в секунду. В первом квартале 2024 года зафиксировано четыре DDos атаки со скоростью до 150 тыс. пакетов в секунду. Все атаки были успешно заблокированы", - сообщили в пресс-службе в ответ на запрос ТАСС.
Для защиты информационных ресурсов правительства региона 4 апреля 2023 года была внедрена система комбинированной очистки трафика "Митигатор", которая позволила обеспечить надежную защиту от DDoS-атак. По итогам 2023 года Ленинградская область вошла в десятку лидеров по России по информационной безопасности, отметили в комитете.
В Петербурге также отмечают, что DDoS-атаки на госресурсы города стали более точечными и сложными. "Предварительно зафиксировано более 6,5 тыс. попыток проведения особо серьезных компьютерных атак, не учитывая более мелких. При этом нужно отметить, что они становятся более точечными и сложными", - сообщили ТАСС в пресс-службе вице-губернатора Петербурга Станислава Казарина.
(Информация взята из Информационного агентства ТАСС https://tass.ru/obschestvo/20509267)
- Автоматизация и безработица: По мере развития ИИ автоматизация заменяет человеческий труд, что может привести к массовой безработице и социальным потрясениям.
Реальность такова, что нейросеть GPT, которая является генеративным предобученным трансформером, может заменить некоторые профессии уже сейчас, например, такие как:
- Разработчики
- Журналисты
- Копирайтеры
- Переводчики
- Операторы техподдержки
- Контент-менеджеры
- Модераторы контента
- Аналитики данных
- Рекрутеры
- Сценаристы
- Маркетологи
- Планировщики мероприятий
- Потеря контроля: Непредсказуемое поведение сложных ИИ-систем может привести к неконтролируемым последствиям.
Конечно, каждый из нас скажет - фантастика, но истинные поклонники терминаторы вспомнят печальные последствия. Поэтому не стоит забывать про 3 закона робототехники:
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
- Этические дилеммы: Внедрение ИИ поднимает сложные этические вопросы, такие как ответственность за ошибки алгоритмов, права роботов, угроза автономности человека.
Защита от угроз ИИ:
Разработка этических норм: Необходимо создание строгих этических норм для разработки и использования ИИ, чтобы минимизировать риски злоупотребления.
Прозрачность алгоритмов: Открытие алгоритмов ИИ позволит лучше понимать их работу и выявлять возможные уязвимости.
Усиление кибербезопасности: Необходимо разработка новых методов защиты от атак, использующих ИИ.
Обучение населения: Важна грамотность населения в области ИИ, чтобы люди могли критически оценивать информацию, генерируемую ИИ-системами.
Регулирование: Необходимо создание законодательной базы для регулирования разработки, внедрения и использования ИИ.
ИИ как двигатель прогресса:
Медицина: ИИ ускоряет диагностику, персонализирует лечение, помогает в разработке лекарств. Алгоритмы машинного обучения способны анализировать огромные массивы данных, выявляя сложные взаимосвязи и предоставляя врачам ценную информацию для принятия решений.
Наука: ИИ помогает в исследованиях, анализе данных, моделировании и прогнозировании. Он способен находить закономерности, которые человек не может уловить, что открывает новые возможности для научных открытий.
Образование: ИИ создает персонализированные учебные программы, адаптирует материал к индивидуальным нуждам учащихся. Он также может служить в качестве интерактивного тьютора или помощника в решении задач.
Производство: ИИ автоматизирует рутинные процессы, увеличивая производительность и эффективность. Он также помогает в оптимизации производственных линий и снижении затрат.
Экология: ИИ помогает анализировать данные о климате и окружающей среде, предсказывать катастрофы и разрабатывать стратегии по защите планеты.
Транспорт: ИИ улучшает безопасность и эффективность дорожного движения, развивает беспилотные транспортные средства, что открывает новые возможности для перемещения и транспортировки.