Свое прозвище Иван получил, вероятно, от привычки носить с собой постоянно кошелек ("калиту") с деньгами для раздачи милости. В течение долгого времени он оставался в тени старшего брата московского князя Юрия Даниловича. Но уже тогда его имя связывалось в летописи с успехами московской политики. В 1304 году, в отсутствие Юрия, Иван отправился в Переяславль оборонять его от тверских князей. Вскоре под городом появились тверские полки под началом боярина Акинфа. Три дня тот продержал Ивана в осаде; на четвертый день явился из Москвы боярин Родион Несторович, зашел тверичам в тыл; Иван в то же время сделал вылазку из города, и неприятель потерпел полное поражение.
Калита ловко пользовался обстоятельствами, чтобы, с одной стороны, увеличить свои владения, с другой - оказывать влияние на князей в прочих русских землях. В этом помогала ему более всего начавшаяся вражда между Тверью и Ордой. Княживший в Твери князь Александр Михайлович принял в 1327 году участие в народном восстании, в котором тверичи убили татарского посла Чолкана и всю его свиту.
Узбек очень рассердился, узнав об участи Чолкана, и, по некоторым известиям, послал за московским князем, но, по другим известиям, Калита поехал в Орду сам, торопясь воспользоваться тверским происшествием. Узбек дал ему ярлык на великое княжение и 50 000 войска. Присоединив к себе еще князя суздальского, Калита пошел в Тверскую волость; татары пожгли города и села, людей повели в плен и, по выражению летописца, положили пусту всю землю Русскую. Спаслись лишь Москва да Новгород, который дал татарским воеводам 2000 гривен серебра и множество даров. Александр бежал в Новгород, потом в Псков, но и оттуда его вынудили в 1329 году уехать в Литву. Обстоятельства продолжали благоприятствовать Москве. Александр, хотя вернулся в Псков и прожил там десять лет, но был уже бессилен. Брат его, Константин, управляя разоренной Тверской землей, угождал Московскому князю, любимцу хана. Князья других русских земель поставлены были в такое же положение. И князь Суздальский, Александр Васильевич, и другие князья Ростово-Суздальской земли стали его подручниками. По смерти Александра Васильевича в 1332 году, Калита удержал за собой Владимир. Одну из своих дочерей Иван отдал за Василия Давыдовича Ярославского, а другую - за Константина Васильевича Ростовского и самовластно распоряжался уделами своих зятьев.
Князья рязанские поневоле должны были повиноваться Ивану и ходили со своей ратью, куда он им приказывал, ведь Рязань была на окраине Руси, и за свою строптивость первой могла подвергнуться жестокой каре из Орды. Углич был присоединен Калитой посредством купли. Кроме того, он покупал и выменивал села в разных местах: около Костромы, Владимира, Ростова, на реке Мете, Киржаче и даже в Новгородской земле, вопреки новгородским законам, запрещавшим князьям покупать там земли. Он заводил в Новгородской земле слободы, населял их своими людьми и таким образом также имел возможность внедрять свою власть.
В 1337 году Александр Тверской помирился с ханом и получил обратно свое княжество. В 1339 году Иван поехал в Орду с доносом на Александра. Вслед за тем тот получил приказ явиться к хану. Александр поехал, уже сознавая, что судьба его решена. И действительно - и он сам, и его сын Федор были казнены. Калита вернулся в Москву в великой радости, послал в Тверь и приказал снять с церкви св. Спаса колокол и привезти его в Москву. По понятиям того времени это было очень чувствительное унижение. Погребен в Москве в Архангельском соборе.