10 месяцев назад
Обход защиты Cloudflare: Комплексное техническое исследование для парсинга
Прежде чем приступать к анализу методов обхода, необходимо глубоко понять, с чем именно сталкивается веб-парсер. Защита Cloudflare — это не единый барьер, а сложная, многоуровневая и глубоко интегрированная система обороны. Этот раздел посвящен детальному разбору каждого эшелона этой защиты, начиная от периметра сети и заканчивая браузером конечного клиента. Понимание архитектуры и логики работы этих механизмов является ключом к разработке эффективных стратегий их преодоления. Фундаментальная сила Cloudflare заключается в его базовой архитектуре. Каждый последующий уровень безопасности является надстройкой над этой основой...
145 читали · 10 месяцев назад
Парсинг данных без блокировки: Инструменты и тактики. Как обходить капчи и избегать банов (с учетом этики)
Вы когда-нибудь представляли, как ваш бизнес мог бы принимать решения на основе реальных рыночных данных, а не догадок? Парсинг — ваш цифровой "археолог", способный раскопать тонны ценной информации: цены конкурентов, ассортимент маркетплейсов, SEO-метрики. Но как собрать данные, не угодив в "черный список" сайта? Раскрываем легальные тактики для российских реалий — от Авито до Wildberries. Сайты защищают свои данные как сокровищницы — автоматические запросы распознаются по характерным "отпечаткам": Статья 15...
123 читали · 11 месяцев назад
Парсинг Avito: комплексное исследование правовых, технических и этических аспектов
Веб-парсинг (web scraping) утвердился в качестве одного из ключевых инструментов для сбора и анализа больших данных (Big Data) в современной цифровой экономике. Эта технология, заключающаяся в автоматизированном извлечении информации с веб-сайтов, находит применение в широком спектре областей: от бизнес-аналитики и академических исследований до обучения моделей машинного обучения и мониторинга рыночной конъюнктуры.1 В российском сегменте интернета одной из наиболее ценных и востребованных платформ для сбора данных является Avito. Avito, будучи крупнейшим классифайдом в России, представляет собой...
11,7 тыс читали · 6 лет назад
Python для хакера: пишем утилиту для взлома Wi-Fi.
Стать написана в ознакомительных целях и не призывает к каким-либо действия. Бывает, что возникает необходимость подключиться к Wi-Fi, не зная пароль, — скажем, когда ты сидишь в кафе и стесняешься спросить его или, например, когда тебя наняли, чтобы провести пентест сети организации. Технология WPS уже давно помогает хакерам и в том и в другом. В этой статье мы посмотрим, как самостоятельно реализовать атаку, основанную на слабостях алгоритмов генерации WPS PIN. Большинство современных роутеров...