2 июля 1984 года вышел второй альбом Dio – «The Last in Line». Запись прошла в студии Caribou Ranch, штат Колорадо; продюсировал сам Ронни Джеймс Дио; он же стал автором всех текстов и соавтором части музыки.
Помимо самого вокалиста, в записи участвовали гитарист Вивиан Кэмпбелл (известный по многим командам, включая Thin Lizzy, Def Leppard и Whitesnake); басист Джимми Бэйн (экс-Rainbow); клавишник Клод Шнелл и барабанщик Винни Апписи (Black Sabbath).
Фанаты начнут сравнивать альбом с «Holy Diver» 1983-го – и, разумеется, мнения разделились: кому-то показалось, что «The Last in Line» – «повтор» дебютной пластинки; другие, наоборот, сочли, что это-то и замечательно! Так или иначе, в альбоме есть всё, что называется «хеви-метал» – мощная и слаженная ритм-секция, тяжёлые гитарные риффы. И конечно, неподражаемый вокал Дио.
Заглавный трек станет единственной песней Dio в «десятке» Billboard's Album Rock Tracks. Альбом, в свою очередь, достигнет двадцать третьей позиции в чарте ФРГ и Billboard 200; одиннадцатой в Нидерландах; седьмой в Норвегии; шестой в Швеции; четвёртой – в UK Albums. «The Last in Line» получит серебряную сертификацию в Соединённом Королевстве; и золотую, а затем и платиновую – в США. В 2005-м издание Rock Hard включило альбом в список «500 величайших рок и метал альбомов всех времён».