В середине 60 годов XX века, Кляйн трудился в различных ателье Нью-йорка, в стенах которых он познал тонкости профессий портного, а позднее — модельера. К концу 1960 годов Кляйн осознал, что уже готов к открытию собственной фирмы. Его товарищ по имени Барри Шварц вложил в это дело 10000 долларов, и в 1968 году произошло радостное событие в биографии Кляйна — стало возможным открытие собственной компании, которой дали название «Calvin Klein Ltd». Кельвин смог посвятить свои силы вопросам дизайна, а Шварц взял под свой контроль ведение бизнеса.
Изначально эта компания занималась изготовлением плащей, но чуть позже Шварц и Кляйн расширили сферу деятельности. Так, начиная с 1970 годов фирма начала выпускать спортивную и повседневную одежду. Марка смогла быстро завоевать успех среди населения. Причиной этого можно считать тот факт, что заведение Кляйна случайно посетил владелец известного магазина, специализирующегося на одежде, и заказал у Кляйна товар сазу на 50 тысяч долларов.
Благодаря этому притоку финансов Кляйн смог ускорить развитие предприятия, а сам дизайнер стал известным, получив звание любителя лаконичных нарядов, имеющих аккуратный облегающий крой.
Модельер, снискав успех, сразу же начал использовать заработанные средства в свое удовольствие. Даже на ранних порах становления метра, до того момента, как его реклама продукции начала вызывать истерию у моралистов США, его никак нельзя было назвать образцом для подражания.