Найти в Дзене
Статьи
Психология информационной безопасности. Необходимость и достаточность. Мудрость безопасности
В рассмотрении информационной безопасности один из аспектов как правило обходиться стороной. Это психологическая составляющая информационной безопасности. Больше внимания уделяется технической и процессной составляющей, а человеческое рассматривается в формате "внутреннего" или "внешнего" нарушителя. Вместе с тем, практика деятельности в сфере информационной безопасности свидетельствует, что именно психология руководителя ИБ/ психология специалиста ИБ лежит в основе принятия решения - принятых мер достаточно. Почему так? К огромному сожалению, несмотря на обилие литературы и диссертаций, не существует объективной и беспристрастной методики оценки эффективности информационной безопасности...
2 года назад
На каком языке говорят айтишники. Псевдонаучное исследование. Часть 2. Айтишный алфавит
Анализ айтишного языка, проведенный на основе открытых источников позволяет определить следующие базовые характеристики айтишного алфавита. Во-первых, айтишный алфавит все время находится в развитии и не имеет конечного числа символов. На уровне 2010-2018 года он представлял собой конгломерат символов кириллицы и латиницы и содержал около 60 различных символов (32 символа кириллицы, 26 символов англоязычной латиницы и 2 символа неизвестной природы, которые воспринимаются как некие знаки #, @). Такой состав алфавита порождает смешанные конструкции типа DNS-сервер, организация VDI, система IDM, что в обычном языкознании сложно встретить...
2 года назад
Нужна ли активизация импортозамещения в ИТ? Все ли необходимое сделано на системном уровне? Поищем ответы.
2 года назад
Неожиданный подход: Принципы неформальной логики и защита искусственного интеллекта. Этап постановки задачи
Искусственный интеллект представляет новый, только формирующийся класс решений в информационной сфере. Существенным отличием от обычных ИТ-решений для искусственного интеллекта является возможность развития функциональности решения при минимальном участии человека-специалиста либо на старте такой функциональности, когда идет накопление знаний и тренировка. В свою очередь такое отличие требует и поиска новых подходов к построению системы защиты решений искусственного интеллекта (незащищенных решений в информационной сфере быть не может. разница только в уровне защиты - собственное утверждение автора)...
2 года назад
Знакомство с предлагаемыми мерами защиты решений с искусственным интеллектом и защиты от искусственного интеллекта говорит о том, что в этом направлении пока что главенствует классический, привычный подход к информационной безопасности и к набору мер защиты. Об этом можно смело сказать - к сожалению. ИБ-сообщество в обсуждении пока обходит тот момент, что обучаемые программные продукты, которые с легкой руки СМИ называются "искусственным интеллектом" - новый, отличный от ранее описанных, класс угроз и информации и информационному процессу. Это касается как применения решений, так и защиты от деструктивных таких решений. Привычный набор систем и средств защиты может применяться, но он не даст полного результата. Необходима разработка, целенаправленная разработка, систем защиты специально ориентированных на искусственный интеллект. Надеюсь профессиональное сообщество движется к такому пониманию.
2 года назад
Китайская мудрость и информационная безопасность искусственного интеллекта
Для кого-то может показаться неожиданным, но древняя китайская мудрость дает ключ, пусть и неординарный, к построению систем защиты и информационной безопасности искусственного интеллекта. Наводить порядок надо тогда, когда еще нет смуты Организационное и техническое построение системы защиты и информационной безопасности искусственного интеллекта должно начинаться с самого первого шага создания самого решения искусственного интеллекта. Нет большей беды, чем недооценивать противника Реализуемые меры защиты и решения должны ориентироваться на максимальный уровень угрозы информационной безопасности,...
2 года назад
Возможные угрозы информационным процессам со стороны искусственного интеллекта
Угрозы информационным процессам подразделяются на внутренние (находящиеся внутри информационного объекта/системы) и внешние (не относящиеся непосредственно к информационному объекту/системе). данная классификация вполне применима и при рассмотрении угроз со стороны искусственного интеллекта. Но наполнение таких угроз отличается от обычного прочтения. Рассмотрим это подробнее. Внутренние угрозы со стороны искусственного интеллекта фокусируются на сбоях/нарушениях/отказах в функционировании. То есть таким ситуациям, когда продукт ИИ, как минимум, начинает некорректно работать. Это может привести к срыву или блокировке информационного процесса...
2 года назад
Искусственный интеллект. Откуда ждать угрозу
В этом материале будет дан ответ как может быть задействован искусственный интеллект (ИИ) для формирования угроз информации и информационной безопасности в целом. Следует ожидать, что наиболее часто применяемыми формами приложений для вредоносного воздействия со стороны ИИ будут: Также надо обратить внимание, что позитивное или негативное воздействие со стороны ИИ очень сильно зависит от заложенных алгоритмов функционирования...
2 года назад
Искусственный интеллект. Предупреждение об опасности
Сначала два факта. Первое. Чат-бот от Bing начал угрожать пользователю. Достаточно было назвать бота "Сидни" (опубликовано IXBT Live). Второе. Пакеты из официального репозитория Python воруют пароли и криптокошельки (опубликовано CNews). Как говорится приехали. По всей видимости это только начало. Не зря человечество уже давно пользуется мудростью "Благими намерениями усеяна дорога в ад". Причина таких проявлений искусственного интеллекта не в самом искусственном интеллекте. Причина в отсутствии жестких и обязательных контрольных и блокирующих механизмов, недопускающих негативного проявления. Без...
2 года назад
Один личный вывод из сегодняшнего обращения Президента - необходимо развивать ИТ и ИБ в России, без переноса разработки зарубеж и без сбежавших удаленщиков. Этим и займусь.
2 года назад
Искусственный интеллект. Необходимые защитные механизмы
В настоящее время защита от негативного развития искусственного интеллекта в нашей стране рассматривается в контексте Кодекса этики в сфере искусственного интеллекта. Он содержит целый ряд морально-этических норм, которые можно считать обязательными для разработчиков. Вместе с тем, развитие технологий и продуктов искусственного интеллекта за последнее время, имеющаяся информация о негативных аспектах внедрения приводит к мысли о необходимости формирования перечня защитных программных модулей, обязательных для реализации в конечном решении...
2 года назад
Искусственный интеллект. Опасности, о которых не принято говорить
Развитие на основе искусственного интеллекта (на самом деле это информационные системы, развивающиеся за счет анализа и обучения - до настоящего интеллекта им еще далеко) рассматривается как основная перспектива цифровых технологий. В большей степени так и есть. Для отечественного ИТ создание решений в области логистики, закупок, аудита, промышленной безопасности, управления производством позволит существенно упростить решение не только задачи импортозамещения, но и задачи цифровой трансформации в целом. Вместе с тем, есть ряд аспектов, о которых не принято широко говорить как в профессиональной среде, так и в целом в обществе...
2 года назад