Потенциальная опасность ИИ: почему не стоит паниковать В прошлом посте мы разбирали потенциальную опасность связанную с развитием ИИ. Теперь давайте разбираться, почему всё не так грустно. Несмотря на возможность использования ИИ киберпреступниками, следует отметить, что ИИ также может быть эффективным средством защиты от кибератак. Возможности ИИ в обнаружении аномальных паттернов поведения в сетевом трафике и выявлении подозрительных действий могут помочь в борьбе с киберпреступностью. Кроме того, технологические компании и правительства могут разрабатывать более защищенные системы и использовать ИИ для мониторинга уязвимостей и предотвращения кибератак. Относительно подделки изображений, видео и голоса с помощью ИИ, следует отметить, что существуют методы, которые позволяют обнаружить поддельные медиа-файлы. Например, разработка алгоритмов, которые идентифицируют несоответствия между поддельным и подлинным видеоматериалами, может привести к созданию более эффективных методов борьбы с мошенничеством с применением ИИ. В то время как автоматизация рабочих мест будет неизбежно связана с развитием ИИ, следует учесть, что это также создаст новые рабочие места, которые будут возникать в связи с развитием технологии. Достаточно вспомнить сколько новых профессий появилось с приходом в нашу жизнь интернета. Кроме того, ИИ может стать новым источником инноваций и создания новых продуктов и услуг, что создаст новые возможности для предпринимательства и создания новых рабочих мест. Вместо того чтобы рассматривать ИИ как угрозу для создания рабочих мест, его можно рассматривать как средство повышения производительности и большего эффективного использования труда. Интеграция ИИ в рабочие процессы может помочь организациям выявить потенциал для улучшения и оптимизации производительности сотрудников, что может привести к повышению занятости и росту доходов. Существует возможность использования ИИ для улучшения работы правоохранительных органов, включая функции, связанные с идентификацией преступников, расследованием преступлений и предотвращением преступности. Кроме того, опасение использования ИИ в военных целях может сегодня привести к обеспечению безопасности и стабильности завтра. Возможность ведения дистанционных операций с минимальным количеством жертв среди военнослужащих, а также Снижение количества факторов риска во время боевых действий для обычных гражданских лиц - это преимущества, которые предоставляет ИИ. Искусственный интеллект требует огромное количество вычислительных ресурсов, таких как процессоры, графические карты, память и электроэнергия. Одна из самых распространенных технологий ИИ – глубокое обучение – требует большого количества данных и вычислительных мощностей, чтобы происходило обучение моделей. Например, для создания модели обработки естественного языка, используемой в переводчиках или чат-ботах, необходимо иметь доступ к большой выборке текстов и значительным вычислительным ресурсам. Помимо вычислительных ресурсов, также требуются дополнительные средства на обслуживание и хранение данных, обновление алгоритмов и моделей, а также на поддержку и развитие ИИ-системы в целом. В связи с этим, создание и эксплуатация интеллектуальных систем является очень дорогой задачей, особенно для небольших компаний или стартапов, которые не могут позволить себе вложения в вычислительную технику и информационную инфраструктуру на уровне больших игроков на рынке. В какой-то мере это выступает сдерживающим фактором для неконтролируемого развития ИИ. ИИ, несмотря на потенциальную опасность, может быть эффективным средством борьбы с киберпреступностью, способствовать созданию новых работ и инноваций, а также применяться для усовершенствования работы правоохранительных органов и военных целей. Однако, разработка и эксплуатация ИИ требует значительных ресурсов, что становится сдерживающим фактором для неконтролируемого развития технологии. Sova Project в Telegram #искусственныйинтеллект #киберпреступность #безопасность #автоматизация #рабочиеместа #социальнаянеустойчивость #фальсификацияданных #аналитика #оружейныеси
Sova Project
Потенциальные угрозы искусственного интеллекта: вызовы нашего времени Искусственный интеллект (ИИ) - одно из ключевых открытий 21 столетия. Большинство людей считает, что ИИ дает нам огромные возможности и перспективы, однако помимо всего прочего, необходимо понимать, какие риски он может представлять. Хотя я и сам поддерживаю развитие ИИ, некоторые аспекты его применения вызывают опасения. Популярность использования ИИ среди киберпреступников будет увеличиваться. Злоумышленники могут использовать ИИ для обнаружения уязвимостей в сетевой инфраструктуре и, следовательно, ускорить процесс атаки. С возможностью рисовать изображения, подделывать голос и видеоряд, нас ждет волна мошенничества с применением ИИ, это факт. Риском, связанным с развитием ИИ, является автоматизация рабочих мест и потенциальная потеря этих мест людьми. Например, на фабриках многие задачи, которые ранее выполнялись работниками, теперь могут быть автоматизированы и выполнены роботами. Это может привести к увольнению многих сотрудников и росту социальной нестабильности. Дизайнеры, программисты, проектировщики, операторы ЧПУ, тестировщики, переводчики, здесь хотелось бы сказать "...и многие другие", но сложно представить сферу в которой ИИ нельзя найти применения, что остается только добавить "...и все остальные", могут лишиться своего дела. Возникает логичный вопрос: будет ли ИИ заменой нам или он займет роль нашего помощника/ассистента? Еще одна потенциальная угроза, связанная с использованием ИИ, - возможность компрометации данных, которая, в свою очередь, может привести к серьезным последствиям в бизнесе и экономике. ИИ может использоваться для генерации фальсифицированных данных, которые могут быть трудно определимы как подлинные или поддельные. Это может привести к ошибкам в принятии решений, некачественной аналитике и потерям капиталов компаний. Вопрос государственной стабильности и безопасности накаляется по мере развития ИИ. Создание оружейных систем базирующихся на искусственном интеллекте не за горами. Скайнет и терминатор покидают жанр фантастики. Представляете коллаборацию ИИ следующего поколения и Boston Dynamics? Подводя итог вышесказанному. Развитие и использование ИИ представляет собой, помимо неоценимой пользы, потенциальную опасность. Этот технологический скачек, свидетелями которого мы с вами являемся, представляет в том числе и минное поле, на которое человечеству следует обратить особое внимание, чтобы выработать соответствующие меры предосторожности. p.s. Но всё не так страшно, в следующем посте, я расскажу о возможных решениях и трудностях для реализации описанных мной сценариев. Возможно, в комментариях, вы поделитесь своим видением на этот счет. #искусственныйинтеллект #киберпреступность #безопасность #автоматизация #рабочиеместа #социальнаянеустойчивость #фальсификацияданных #аналитика #оружейныесистемы #инновации #технологии #будущее #решения #видениенабудущее #риски #безопасностьданных #технологическийпрорыв #возможности #опасности
Фактчекинг. Прежде чем поверить, нужно проверить.
В огромный информационный потоке, особенно в эпоху скроллинга, помимо внутреннего фильтра требуется и умение проверять информацию. С фейками уже сталкивался каждый, новости вызывающие внутреннее недоумение или бурление сочатся с любого экрана. В эпоху информационных войн приходится перенимать навыки из сферы журналистики, жаль не все журналисты об этом слышали. Если вы встречаете новость после которой так и хочется поделиться, прежде чем нажать на кнопку "Share", следует проверить её на достоверность...
❗️Появилась новая мошенническая схема хищения денег по QR-коду В некоторых банкоматах появилась возможность снять наличные с помощью QR-кода. Клиенты могут указать нужную сумму, сгенерировать код в мобильном приложении и поднести его к банкомату. По данным Центробанка, мошенники звонят клиентам банков, сообщают о попытке снятия денег и просят прислать QR-код для отмены операции.
Хакеры взломали «СберЛогистику» В публичный доступ выложили базу, которая содержит почти 700 тысяч строк с личными данными клиентов и сотрудников логистической компании «СберЛогистика». Что было украдено: 🟠ФИО; 🟠Телефон; 🟠Емейл; 🟠Хешированный пароль (только для пользователей); 🟠Разная техническая информация и операционные действия. Актуальность базы — февраль 2023 года. #Информационнаябезопасность Sova Project в Telegram
Банковские мошенники Сегодня очередной раз на личный номер позвонил "младший агент технической поддержки синего банка". По голосу было слышно что новенький: голос дрожит, не уверенный, что-то мямлит. Уведомил меня о том, что кто-то решил сменить мой номер. Получив личные данные вымышленного человека передал меня более опытному сотруднику, "старшему специалисту технической поддержки". Старший специалист, с фамилией Дзержинский, уже более уверено читал заготовленный скрипт, то и дело забегая вперёд. Над чем же ребятам стоит поработать или читать как "на чем такие ребята неистово палятся": 1. Качество связи. Какие-то слова было тяжело разобрать, посторонние шумы, даже не удосужились включить запись работающего офиса фоном. 2. Уточнение ФИО, города, адреса где и когда была выпущена карта. Пользуюсь ли я картой. Полностью вымышленный данные их не смутили. 3. Бред. Ребята конкретно бредили, то ли скрипт недоработан, то ли опыта мало. На встречные вопросы терялись что отвечать. "Специальное банковское приложение от ЦБ", чтобы защитить финансы (далее скажу что это было за приложение). "Блокировка счета не поможет, ведь мошенники сменили номер для входа в личный кабинет", так сменили или только отправили заявку? "Сейчас с вами будет разговаривать старший специалист", уточняю мне перезвонят или меня на него переключат? "Нет, нет, сейчас я трубку ему передам, он тут рядом". 4. Приложение от ЦБ. Я был крайне удивлён, когда меня спросили, а какой магазин приложений у вас? Думаю ну откровенную вирусню, да ещё и под все платформы, для таких клоунов, залить во все магазины приложений слишком сложно. AirDroid cast - удалённое подключение к телефону через ПК. Забавные. 5. Когда все карты были раскрыты и недомошенникам были предложены разные непотребства, участие в которых не подобает порядочным сидельцам, меня скинули. Но перезвонив им, на телефон ответила женщина преклонных годов. Подмена номера. SIP телефония она такая. И хоть мне и было забавно провести эти 10 минут, но, к сожалению, пожилые родственники могут принять такое за правду. Предупредите их, может быть даже уже не в первый раз, чтобы ничего не скачивали, а лучше чтобы сразу вешали трубку. #Информационнаябезопасность Sova Project в Telegram
