Хотя трудами Нессельроде Россия в первой половине XIX века считалась великой державой, современники не жаловали министра иностранных дел Российской империи. Современница, дама из круга А.С. Пушкина, Долли Фикельмон писала о Карле Васильевиче Нессельроде:
«Человек он светский, с самыми что ни на есть простыми манерами. Не будь он премьер-министром этой огромной Империи, можно было бы сказать о нем: „Какой добрый малый!“ Но его болезненная физика и природная робость вселяют страх при мысли, что в руках подобного существа сосредоточены огромные и разнообразные интересы».
Карл Васильевич был сыном немецкого дипломата на русской службе. Ходили слухи, что его мать-католичка была на деле крещеной еврейкой. Будущий глава МИДа Российской империи родился в Португалии и до конца жизни был прихожанином Англиканской церкви. Он так и не научился правильно говорить по-русски, что было причиной сплетен и критического отношения к нему в великосветском петербургском обществе.
Дипломатическая карьера Нессельроде пошла в гору в период правления Александра I, который направил старательного юношу к Берлинскому двору. Во время пребывания в немецких землях Нессельроде познакомился со знаменитым австрийским дипломатом Меттернихом, дружба с которым определила стремление будущего министра поддерживать тесный союз России и Австрии. До Отечественной войны 1812 г. Нессельроде работал в посольстве в Париже, где поддерживал связь с русской агентурой во Франции, в том числе с легендарным Талейраном.
Карл Васильевич сыграл важную роль в формировании Венской системы международных отношений. Он не только постоянно находился при императоре на Венском конгрессе, но и вел оживленную переписку с российскими послами и посланниками, министрами, мастерски составлял доклады и записки. Нессельроде полностью разделял идеи Священного союза, сопровождал Александра I на конгрессы в Аахене, Троппау, Лайбахе и Вероне. Во многом Карл Васильевич был даже большим легитимистом, чем сам государь, и выступал против восстановления Польши, настаивал на необходимости сохранения крепостного права и усиления цензуры.
В период правления Николая I восточный вопрос занял доминирующее положение во внешней политике России. Нессельроде выступал за ужесточение политики в отношении Турции, считал необходимым восстановить статус-кво в Дунайских княжествах, который существовало там до восстания греческих патриотов, а также создать должные условия для российской черноморской торговли. Во время правления Николая Павловича характер Нессельроде ярче всего раскрылся как, в первую очередь, талантливого и послушного исполнителя: несмотря на критическое отношение к греческой революции, министр в соответствии с волей императора сформировал антитурецкий союз европейских держав.
Ответственность за Крымскую войну часто возлагают на Нессельроде. Одним из его крупных дипломатических просчётов стал неверный прогноз реакции ведущих европейских стран на возможную войну России против Турции. Переоценив англо-французские противоречия, Нессельроде не разобрался в политике Англии и Франции, толкавших Россию на конфликт с Турцией. В результате Россия к началу Крымской войны оказалась в полной международной изоляции.
День 15 марта 1854 года, когда Франция и Англия объявили войну России, стал началом конца дипломатической системы Николая I и Нессельроде. Неудачный исход войны заставил графа Нессельроде, руководившего внешней политикой России в течение 40 лет (1816–1856), выйти в отставку.
Финал дипломатической карьеры Нессельроде, катастрофическая для Российской империи Крымская война, перечеркнули его заслуги в памяти потомков. Поэтому портреты канцлера, даже написанные другими дипломатами, например Ф.И. Тютчевым, оказываются столь нелицеприятными:
«Нет, карлик мой! Трус беспримерный!..
Ты, как ни жмися, как ни трусь,
Своей душою маловерной
Не соблазнишь Святую Русь...»