Самой насущной из задач, стоявших перед Иваном Васильевичем в начале его княжения, было присоединение других русских княжеств, полностью зависимых от Москвы и слабых, но всё еще обособленных. С каждым из этих владений Иван действовал по-своему, в зависимости от ситуации. Не торопился, зато обходился без кровопролития – всего один раз был вынужден прибегнуть к силе оружия, однако до сражения дело не дошло.
Начал он, в первый же год по восшествии на престол, с беспомощного Ярославского княжества: вынудил тамошнего великого князя и мелких князей бить ему челом о принятии в подданство, на службу. При этом все ярославские князья остались владеть своими землями, но уже в качестве вотчин, пожалованных государем, то есть сравнялись по положению с московскими «служебными» князьями.
С Ростовским княжеством десятилетие спустя произошло еще проще. Правящее семейство, обеднев, в 1474 году продало Ивану свою независимость и тоже влилось в состав московского боярства.
С двумя крупными княжествами, Тверским и Рязанским, пришлось обойтись иначе.
Пока была жива первая жена Ивана, тверская княжна Мария Борисовна, продолжал действовать договор, в свое время заключенный между родителями супругов. Тверской великий князь Михаил, шурин Ивана, неукоснительно выполнял все обязательства и послушно водил дружину куда прикажет Москва, однако ее требовательность всё возрастала.
В конце концов Михаил Борисович попробовал заручиться поддержкой Литвы. Он женился на внучке Казимира Литовского и заключил с ним союз. Иван III только этого и ждал. Он направил на Тверь свои полки, и тверскому князю, не имевшему возможности сопротивляться, пришлось каяться, просить мира. Иван Васильевич редко съедал добычу в один прием, стремясь не доводить противника до крайности, пока не истощит все его силы. Поэтому он оставил Михаила Борисовича в Твери, однако тот должен был отныне именовать московского государя «старшим братом», отказаться от литовского союза и вообще от права на какие-либо внешние сношения без разрешения Ивана.