Гимли происходил из старейшего рода гномов — Длиннобородых, первых обитателей Казад-Дума, и являлся первым потомком Дурина по младшей линии.
Он родился через 77 лет после того, как гномы, возглавляемые Траином, образовали в Синих Горах (Эред Луин) поселение в изгнании. Ему не позволили участвовать в походе к Эребору, так как по гномьим меркам посчитали его слишком молодым (в 2941 году Третьей Эпохи ему исполнилось "всего лишь" 62 года).
После того, как гномы вернули себе Одинокую Гору, Гимли с отцом стал жить в Эреборе.
В 3018 году третьей эпохи, Гимли вместе со своим отцом Глоином, и ещё несколькими гномами отправились в Ривенделл как посланцы от Короля под Горой. На совете у Элронда Гимли был выбран одним из девяти членов Братства Кольца (и единственным представителем гномов в нём) и осенью 3018 года выступил в поход на юг.
В путешествии он крепко подружился с эльфом Леголасом. Правда, на пути к Мории Гимли и сын Трандуила Леголас часто спорили, и не были похожи на приятелей, однако, после страхов, пережитых в Мории, они стали более дружелюбны друг к другу. А когда отряд прибыл в Лотлориен, Гимли узрел настоящую красоту эльфийского королевства и самих эльфов. Тогда они с эльфом подружились и с тех пор всегда были неразлучны.
Гимли стал первым гномом, вступившим в Лориэн со дней Дарина. Когда Гимли отбывал из Лориена, то попросил прядь золотых волос у владычицы Галадриэль, так как не мог смириться с тем, что больше никогда её не увидит. Галадриэль подарила эту прядь Гимли в знак "дружбы между Лесом и Горами до конца дней". После визита в Лориэн Гимли получил своё прозвище — Хранитель Локона — из-за того, что постоянно носил при себе локон Галадриэль.
После распада Братства и похищения орками Сарумана Мерри и Пиппина, Гимли, так же как и Леголас, отправился за Арагорном в погоню через весь Рохан за многократно более сильным отрядом урук-хай и их приспешников из Мордора и Мглистых Гор. Их целью было спасение двух хоббитов.
Бок о бок с Арагорном, Леголасом и роханскими воинами он отважно бился с орками в Хельмовой Пади, на стенах Хорнбурга и в блистающих пещерах Агларонда. С Леголасом они всё время соревновались за количество убитых орков. Во время осады Хорнбурга Гимли отличился тем, что спас жизнь будущему королю Рохана Эомеру (хотя всего за несколько дней до этого был готов сражаться с ним из-за непочтительных слов Эомера о Владычице Галадриэль).
В составе отряда короля Теодена Гимли посетил разгромленный энтами Изенгард и присутствовал при разоблачении и низложении Сарумана. По возвращении в Эдорас он, преодолев страх, пошёл за Арагорном по Стезе Мертвецов и участвовал в битве на Пеленнорских Полях — величайшей из битв Третьей Эпохи.
Также они пережили битву у Чёрных Врат Мордора и отважно сражались бок о бок, однако, если бы не Фродо Бэггинс и его отважный напарник Сэм Гэмджи, то все они были бы убиты превосходящим по числености войском Мордора. После битвы Гимли нашёл на поле боя Пиппина. По словам самого Гимли, он нашёл его только потому, что знал как выглядят хоббичьи ноги, даже когда они торчат из-под груды тел.
Своими подвигами, мужеством и благородством он добился того, что его стали называть Другом Эльфов.
После падения Саурона и окончания Войны Кольца, Гимли с группой гномов из Эребора возвратился в Блистающие пещеры Агларонда в Белых горах и стал их правителем. Он призвал гномов восстановить ворота Минас Тирита.
Так как гномы не такие долгожители, как, например, эльфы, а Гимли не хотел разлучаться с близким другом Леголасом, который должен был вскоре отправиться в Валинор, то он захотел уплыть на Запад вместе с ним. К тому же, его не покидала тоска по владычице Галадриэль, которая также собиралась отплыть в Валинор.
После кончины государя Элессара (Арагорна) в 120 году Четвёртой Эпохи, Гимли уплыл за море с Леголасом. Позже к ним присоединились некоторые из членов Братства Кольца. Гэндальф и Фродо уплыли в Аман.