Еще в 1472 русские войска успешно отразили попытку татар форсировать Оку. Именно с этого момента времени Иван Васильевич перестал платить татарам дань. Подобное положение дел многолетним мучителям русских земель, само собой, не нравилось, и летом 1480 хан Ахмат — глава Большой Орды — заключил с королем Казимиром союз с целью взять и разорить Москву.
Русские рати со всех подвластных Ивану Васильевичу земель, кроме Пскова и Новгорода, заняли позицию на северном берегу реки Оки, ожидая неприятеля. А вскоре на помощь подошли и тверичи. Ахмат, между тем, достигнув Дона, мешкал — обстановка в Литве обострилась, и Казимир, страшась заговора, решил не покидать свой замок.
Лишь в сентябре, так и не дождавшись союзника, Ахмат пошел в сторону литовских владений на запад и остановился близ Воротынска. Иван Васильевич, узнав об этом, дал сыну приказ занять оборону на Угре, а сам тем временем вернулся в Москву. К этому времени его братья Борис и Андрей, ограбив землю Псковскую, окончательно убедились, что поддержки от короля Казимира им не видать, и приняли решение помириться с великим князем. К чести Ивана III стоит отметить, что он простил мятежных родственников, повелев им как можно быстрее двинуться на войну с татарами.
Сам Иван III, отправив казну и семью на Белоозеро, начал готовить Москву к осаде. В начале октября татары вышли к реке, однако после четырехдневных боев переправиться через Угру у них так и не вышло. Ситуация стабилизировалась — татары время от времени совершали попытки преодолеть естественный рубеж обороны русских, однако каждый раз получали решительный отпор. Успешные действия на Угре подарили Ивану III надежду на победное окончание войны. В середине октября великий князь направился к месту боевых действий, остановившись в пятидесяти километрах севернее реки, в Кременце.
Подобная диспозиция давала ему возможность оперативно руководить русскими силами, расположенными на участке в семьдесят километров, а в случае неудачи — шанс избежать плена, поскольку о судьбе своего отца Иван Васильевич никогда не забывал. В конце октября ударили морозы, и спустя несколько дней лед сковал реку. Великий князь повелел войскам отступать к Кременцу, готовясь дать татарам решающее сражение. Но хан Ахмат переходить Угру не стал. Послав Ивану III грозное письмо с требованием выплатить дань, татары отступили — к тому времени они, полностью разорив верховья Оки, оказались «босы и нагы».
Так провалилась последняя крупная попытка Орды восстановить над Русью свою власть — в январе 1481 был убит хан Ахмат, а вскоре перестала существовать и Большая Орда. Победоносно завершив войну с татарами, Иван III подписал с братьями новые договора, отдав Борису Волоцкому несколько крупных сел, а Андрею Большому — город Можайск