Кельвин Ричард Кляйн родился 19 ноября 1942 года в Бронксе, штат Нью-Йорк. Его отец был владельцем продуктового магазина в Гарлеме, а мать — домохозяйкой, с которой часто посещал бабушкино ателье, где и начал впервые проявлять интерес к одежде и дизайну. Будучи целеустремленным молодым человеком, он работал над эскизами одежды уже в юном возрасте, а в 1963 году окончил Технологический институт моды, однако прежде чем создать свой собственный бренд Кляйн успел попробовать себя в различных отраслях.
В 1968 году, получив от друга детства 10000 долларов, Кляйн создал собственный лейбл. Так Барри Шварц и Кельвин Кляйн на многие годы стали партнерами и начали историю знаменитого бренда.
Поначалу был только небольшой выставочный зал, но случайное знакомство Кляйна с одним из покупателей придало ускорение развитию бизнеса. Ему удалось заключить сделку с универмагом Bonwit Teller и дела пошли в гору. Уже к началу 70-х Кельвин Кляйн уже обеспечивал миллионные обороты.
Первоначально разработанная линия женских пальто и платьев была расширена. Кляйн смог предложить женскую одежду, которую можно было комбинировать и сочетать, создавая минималистичный, обтекаемый вид, основанный на безупречном пошиве и выборе ткани. Позже в том же десятилетии он занялся мужской одеждой и джинсами, в конечном итоге став крупным игроком на джинсовом рынке. К 80-м годам бренд Кляйна уже был известен нижним бельем и роскошной парфюмерией. В следующем десятилетии бренд расширился и начал производство домашней одежды.
В 90-х компания столкнулась с серьезными финансовыми трудностями, спасти от которой смогла только финансовая помощь, полученная от друга Дэвида Геффена. Позже в 2000 году Calvin Klein Inc. подала иск против своего лицензиата Warnaco Group за нарушение лицензионного соглашения и закона о товарных знаках. В конечном итоге дело было урегулировано во внесудебном порядке.
Кляйн и Шварц продали свою компанию в 2003 году компании Phillips-Van Heusen Corporation за 430 миллионов долларов наличными и акциями.