Официальной датой рождения II Вспомогательного благочестивого и верного легиона считается 7 марта 70 г., когда Веспасиан вручил легиону орла и сигна. Однако не все так просто. Обращает внимание титул, которым Веспасиан наградил легион : благочестивый и верный. Императоры и раньше отличали легионы этим титулом, однако это всегда были существующие легионы, и получали его за подавление мятежей и поддержку императора. Каким образом только что сформированный легион мог удостоится такого звания? Само наименование говорит о том, что легион уже существовал какое то время до этого. Ведь после восстания Цивилиса были распущены несколько легионов и сформированы два новых, получивших прозвище флавиевых, тогда если II новый, почему он не флавиев? Нумизматические данные говорят, что легион существовал в 69 г., его знак -козерог- , говорит что время формирования декабрь - январь. Тацит писал, что город Виенна набирал легионы для Гальбы. Данные указывают, что I Вспомогательный легион был набран для защиты Виенны, как бы в помощь против угрожавшему городу I Италийскому. После того как Гальба забрал рекрутов I Вспомогательного с собой в Рим, старейшины города решили сформировать еще один легион, II Вспомогательный, по аналогии с первым. Но если легион появился в 69 г. в Галлии, почему более чем через год, его учредил Веспасиан? Тацит писал, что Италийский легион получил приказ двигаться в Италию для соединения с армией Вителлия. Когда он проходил через Виенну, магистрату города удалось предотвратить разграбление города, передав легату I Италийского Валенту какую-то сумму (легионеры получили по 300 сестерциев), и выдав все оружие находившееся в городе.
Отон послал часть мизенского флота и несколько преторианских когорт в Нарбоннскую Галлию. Они высадились рядом с городом Форум Юлия, где к ним и вооруженным морякам присоединились, как пишет Тацит, "деревенские ополченцы", которые не имели настоящего оружия. Возможно это и были обезоруженные рекруты Виенны. Бойцы Отона одержали победу в бою против одного из командиров
Вителлия, которая, впрочем, не на что не повлияла. 15 апреля, в первой битве при Бедриаке, Отон потерпел поражение и покончил с собой.Вителлий стал единственным императором. Он разоружил преторианцев, а затем распустил их, заменив когортами из своих легионов. В июле легионы находившиеся в Сирии,подержанные затем Египетскими, провозгласи императором Веспасиана Флавия.В это время, бывший трибун преторианских когорт Паулин объявил о поддержке Веспасиана и начал собирать уволенных Вителлием солдат, в том числе и бывших преторианцев . Скорее всего и легион деревенских ополченцев оказался под знаменами Паулина. Легионы Веспасиана разбили Вителлия во второй битве при Бедриаке и 20 декабря заняли Рим, Вителлий был казнен. Три месяца спустя появляется первое упоминание о II Вспомогательном. Тацит пишет о трех легионах и "новом втором", которые были направлены в Галлию для подавления восстания Цивилиса весной 70 г. В марту 70 г., II Вспомогательный, получил своего орла и наименование благочестивого и верного. Поскольку Виенна дала основной контингент для этого легиона (остальные кадры были из моряков мизенского флота, получивших по этому поводу гражданство), то вскоре она получила разрешение от императора построить у себя ипподром, что было большой честью.
В 71 г. легион был переведен в Британию, где участвовал в боях в Йоркшире и Уэллсе. В 87 г. II Вспомогательный был выведен из Британии и обрел свою новую базу в Сингидуне (современный Белград). Легион участвовал в неудачных компаниях Домициана против даков, Марк Аврелий водил его против персов. В 193 г. легион был среди тех войск, что сделали императором Септимия Севера. В начале Vв. легион все еще базировался в Венгрии.