Разработана в 1990-е годы конструкторским коллективом фирмы Heckler & Koch GmbH (HK) и принята на вооружение немецкой армией в 1995 г. вместо постепенно изымаемых из пользования 7,62-мм винтовок G3.
Работы над стрелковым оружием, которое в перспективе должно было заменить винтовку G3, велись в Германии с середины 1970-х годов. В результате появилась 4,73-мм винтовка G11 (фирмы HK), приспособленная для стрельбы безгильзовыми боеприпасами (Dynamit Nobel). Предусматривалось, что именно это оружие займет место G3, поэтому работы над винтовкой под патрон 5,56 х 45 мм НАТО не велись. Фирма HK также не была заинтересована разработкой нового оружия, довольствуясь производимыми на экспорт 5,56-мм винтовками HKЗЗ и G41. Однако программа G11 закончилась поражением, так как заявок на это оружие от бундесвера не поступило, а фирма HK в 1991 г. вошла в состав британского концерна British Aerospace (в настоящее время BAe Systems).
Рост интереса в Германии к оружию калибра 5,56 мм стал причиной того, что в 1990 г. фирма HK предложила армии винтовку G41, однако предложение было отвергнуто. Поэтому были начаты работы над современной винтовкой калибра 5,56 мм, предварительно обозначенной как «Проект 50» или HK50. Ее подвергли сравнительным испытаниям, где она получила более высокие оценки, чем австрийская система AUG. Вскоре винтовки HK50 поступили на вооружение бундесвера под названием G36, а первые поставки оружия силам быстрого развертывания начались осенью 1995 года. Испанская армия в 1998 г. также решила принять на вооружение экспортную версию G36 вместо 5,56-мм винтовок СЕТМЕ Model L и LC.
G36 производится в трех основных версиях: винтовка G36 (G — сокращение от Gewehr), укороченная винтовка G36K (К — Kurz, т.е. короткий) и пулемет MG36 (М — Maschinengewehr, т.е. пулемет), причем каждая из версий имеется в экспортном варианте (с упрощенными прицельными приспособлениями), соответственно обозначенными как G36E, G36KE и MG36E.
Винтовки семейства G36 изготавливаются по классической конструкционной схеме и имеют модульное строение. Общими для всех версий являются ствольная коробка с прикладом, затворная рама с затвором, а также возвратный механизм с проводником затворной рамы. К ствольной коробке крепятся ствол, рукоятка для транспортировки оружия с прицельными приспособлениями, спусковая камера с пистолетной рукояткой, ложа и гнездо магазина.