До Первой мировой войны Карл Кох работал банковским клерком. Во время войны был захвачен в плен британскими войсками и до 1919 года находился в плену.
В 1930 году Кох вступил в НСДАП, а вскоре и в СС. В 1934 году был назначен комендантом концлагеря в Лихтенбурге, в 1936 переведён в Заксенхаухзен. Вскоре он женился на Ильзе Кёлер, с которой был знаком уже два года, и которая тоже работала в Заксенхаузене. Ильза приняла фамилию мужа. В 1937 году Кох стал первым комендантом только что созданного лагеря Бухенвальд. Ильза переехала вместе с мужем и позже стала одним из надзирателей Бухенвальда.
Карлу и особенно Ильзе Кох, которую часто называют «Ведьмой Бухенвальда» (нем. Die Hexe von Buchenwald) приписываются жестокие убийства и пытки заключённых. Существует легенда о том, что дома у Кохов хранились абажуры, изготовленные из человеческой кожи, однако на послевоенном процессе над Ильзой Кох достоверных доказательств этого предъявлено не было.
В сентябре 1941 года Кох стал комендантом лагеря Майданек. Меньше чем через год (24 августа 1942) он был отстранён от должности из-за подозрений в коррупции и присвоении казённого имущества. В следующем году в рамках расследования случаев коррупции в СС Коху были предъявлены обвинения в убийстве врача Вальтера Кремера (Walter Krämer) и его помощника, Карла Пейкса, которые ранее лечили его от сифилиса и могли разгласить эту информацию. Дело вёл судья Конрад Морген, расследовавший и другие преступления, совершённые должностными лицами в концлагерях. Ильза Кох обвинялась в присвоении крупной суммы, но была оправдана, а Карл Кох был признан виновным в убийстве и приговорён к смертной казни через расстрел. Смертный приговор был приведён в исполнение 5 апреля 1945 года.
Преследование и смерть
Действия Коха в Бухенвальде впервые привлекли внимание обергруппенфюрера СС Иосифа, наследного принца Вальдек-Пирмонтского, в 1941 году. Просматривая список погибших в Бухенвальде, наследный принц Иозеф увидел имя Вальтера Кремера, главного санитара Бухенвальда, которого он знал, поскольку Кремер в прошлом успешно его лечил. Наследный принц Иозиас расследовал это дело и выяснил, что Кох, комендант лагеря, приказал убить Кремера и Карла Пейкса, санитара, как «политических заключенных», потому что они лечили его от сифилиса, и он боялся, что об этом станет известно. Джозайя также получил сообщение о том, что некий заключённый был застрелен при попытке к бегству, и выяснил, что на самом деле заключённому приказали принести воды из колодца, расположенного на некотором расстоянии от лагеря, а затем выстрелили ему в спину. Кроме того, он лечил Коха от сифилиса.
К тому времени Коха перевели в концентрационный лагерь Майданек в Польше, но его жена Ильза по-прежнему жила в доме коменданта в Бухенвальде. Йозиас приказал провести в лагере полномасштабное расследование силами Георга Конрада Моргена, офицера СС, который был судьей в Главном управлении СС. В результате расследования стало известно о новых приказах Коха убивать заключенных, а также о присвоении имущества, украденного у узников. Кохи использовали огромный нацистский аппарат для получения баснословных богатств. В августе 1943 года Кохи были арестованы в ожидании суда СС.
17 августа 1944 года судья СС Конрад Морген предъявил Кохам официальное обвинение, обвинив Карла Коха в «хищении и сокрытии денежных средств и имущества на сумму не менее 200 000 ℛ︁ℳ︁», а также в «преднамеренном убийстве» трёх заключённых — якобы для того, чтобы они не дали показаний следственной комиссии СС. Ильзе было предъявлено обвинение в «систематическом получении краденых вещей и присвоении в личных целях не менее 25 000 ℛ︁ℳ︁». В результате судебного разбирательства Кох был приговорён к смертной казни за то, что опозорил себя и СС. Кох был казнён расстрельной командой 5 апреля 1945 года за неделю до прибытия американских войск для освобождения лагеря. Однако, вопреки некоторым утверждениям, тело Карла не было сожжено в лагерном крематории, поскольку в середине марта 1945 года там закончился уголь и крематорий перестал работать. Вместо этого его тело было захоронено в неизвестном месте.
Фотоальбом о концентрационном лагере Заксенхаузен
Спустя более 55 лет после казни Коха в архивах ФСБ в Москве был обнаружен его личный фотоальбом. Кох получил альбом в подарок от коллег на свой 40-й день рождения. В альбоме запечатлен процесс строительства концентрационного лагеря Заксенхаузен. Альбом состоит из 460 фотографий, в том числе 200 фотографий с аккуратными подписями — некоторые из них сопровождаются циничными комментариями — о создании лагеря в 1936 и 1937 годах. На фотографиях также запечатлены сотрудники концлагеря и заключенные, прибывающие в обычной одежде, а затем появляющиеся на перекличке с бритыми головами и в тюремной форме.