С распространением латных доспехов стало ясно, что всем существующим на тот момент видам холодного оружия они не по зубам, особенно это касалось мечей, предназначенных преимущественно для нанесения рубящих ударов, да и меч времён Позднего Средневековья из-за своих размеров не относился к видам оружия, которые можно было постоянно носить с собой, поэтому, чтобы сохраниться в новых условиях, меч серьёзно видоизменился, серьёзно убавив в весе и количестве используемой при его изготовлении стали.
Традиционно считается, что шпага появилась на свет в 1460-х годах в испанском городе Толедо, где местные оружейники, славившиеся к тому времени на всю Европу, разработали специальный меч, предназначенный для повседневного ношения. Первоначально шпага не рассматривалась как боевое оружие, её функциями были служить украшением парадного костюма и изредка участвовать в дуэлях между благородными донами, впрочем, оканчивавшимися всего лишь несколькими порезами, но в 1494 году испанцы вторглись в Италию и шпага, как облегчённый вариант рейтарского меча, приняла активное участие в боевых действиях. Эффект от применения шпаг в бою оказался ошеломительным, малый вес шпаги (тогда ещё напоминавшей полутораручный меч) нисколько не сказался на её боевых свойствах, более того, форма её клинка, предназначенного для нанесения колющих и режущих ударов, оказалась идеальна для поединков с рыцарями в готических доспехах, пробивая их в наиболее уязвимых местах. Признание эффективности шпаги привело к её широкому распространению в Европе как основного холодного оружия пехоты и тяжёлой кавалерии, а рыцарей шпага вынудила отказаться от в одночасье ставшего бесполезным полного латного доспеха, оставив только нагрудные кирасы и шлемы, чем поспособствовала созданию нового вида тяжёлой кавалерии - кирасир.
На XVI-XVIII века пришёлся настоящий расцвет шпаги, она стала основным клинковым оружием в Западной Европе и Америке (в Восточной Европе шпага по распространённости серьёзно уступала сабле), ею с одинаковым успехом пользовались пехотинцы и кавалеристы, чему поспособствовали ряд её положительных качеств: довольно лёгкая для меча, шпага в то же время была довольно тяжёлой для того, чтобы ей было удобно пользоваться в рукопашном бою и наносить противнику увечья, несовместимые с жизнью; сложный эфес шпаги и хорошо развитая гарда надёжно защищали руку фехтовальщика от ранений или потери оружия; наконец, шпага была очень красива внешне, поэтому стала обязательной принадлежностью дворянского костюма, а со временем появилась и специальная гражданская разновидность шпаги, предназначенная для ношения с парадным мундиром или орденскими одеждами, а не для поединков.
Как холодное оружие шпага приняла самое активное участие в Наполеоновских войнах, где выяснилось, что как длинноклинковое оружие она серьёзно уступает сабле и палашу, которые в итоге ко второй половине XIX века окончательно вытеснили её из разряда боевого оружия. Как элемент форменной одежды шпага продолжала использоваться вплоть до Первой мировой войны 1914-1918 года, уничтожившей прежний миропорядок и окончательно перевёдшей её в разряд спортивного оружия.