387 читали · 5 лет назад
Пакетная обработка данных: как ускорить работу с big data в десятки раз
Разбираем одну мощнейшую методику обработки данных, позволяющую быстрее работать с большими данными. Это в несколько раз ускоряет бизнес-аналитику, получение отчетности и другие задачи, связанные с обработкой множества файлов. Что такое пакетная обработка данных Система пакетной обработки данных — это когда данные обрабатывают пакетами. То есть массив информации, сходной по смыслу или формату, помещают в некоторый контейнер, а потом производят над ней какое-то действие. Например, изменяют или отбирают нужные файлы по заданным критериям...
3 года назад
Пакетная обработка 22 ГБ данных о транзакциях с помощью Pandas
Источник: Nuances of Programming С большими наборами данных работать сложно, особенно при отсутствии необходимых ресурсов. У большинства из нас нет доступа к распределенному кластеру, GPU-установкам или более 8 ГБ оперативной памяти. Это не значит, что мы не можем работать с большими данными. Просто нужно обрабатывать их по одному фрагменту за раз, то есть при итерации полного набора данных работать с отдельно с каждым подмножеством. Набор данных Посмотрим, как это можно сделать на примере большого набора данных о транзакциях (генерируемого случайным образом)...
962 читали · 2 года назад
Пакетная обработка: два способа, ускоряющие работу с фотографиями
Пакетная обработка — это возможность применить к целой серии фотографий одни и те же настройки и сохранить их. В итоге автору не нужно запоминать и крутить ползунки на каждом снимке отдельно — все фотографии из сессии обрабатываются в пару кликов мыши. Рассказываем, как сделать пакетную обработку в Фотошопе JEPG и RAW-файлов, а также нужен ли для этого экшен. Пакетная обработка фотографий Пакетная обработка в Фотошопе для RAW-файлов и картинок в формате JPEG отличается, хотя суть у них одна — перенести одни и те же настройки на разные снимки и ускорить работу...