Карл Мэлоун родился в Саммерфилде (штат Луизиана). В семье Карл был младшим среди девяти детей. Детство провёл на ферме вместе с матерью Ширли. Когда Мэлоуну исполнилось три года, его отец, Шедрик Хэй, ушёл из семьи и женился на другой женщине. В детстве Мэлоун часто работал на ферме, рубил деревья, охотился и рыбачил.
В 1975 году его мать вышла замуж за Эда Тёрнера. Он учился в местной саммерфилдской средней школе. Благодаря Мэлоуну, школьная команда его родного городка с населением всего 400 человек три года подряд с 1979 по 1981 год становилась чемпионом штата Луизиана. Карл в среднем за игру набирал 28,3 очка и делал 12,3 подбора. Хотя ему предлагали учёбу в арканзанском университете , Мэлоун решил пойти учиться Луизианский технологический университет , который находился ближе к его дому. Свой выбор он объяснил так: «Я хотел остаться рядом с домом, потому что я парень из маленького городка, который хочет быть рядом со своими друзьями и родными». На втором году обучения он был включён в состав баскетбольной команды университета, где его тренером стал Энди Руссо. Мэлоун выделялся своей физической силой и уже на первой тренировке сломал баскетбольный щит, а позже и тренажёр в спортивном зале. В своём дебютном сезоне он в среднем за игру набирал 20,9 очка, а его команда закончила чемпионат с результатом 19-9. На втором году в команде Мэлоун в среднем за игру набирал 18,7 очка и делал 9,3 подбора. «Бульдогс» завершили сезон с результатом 26-7, завоевали титул чемпионов Southland Conference и впервые в истории университета попали в турнир NCAA. В первом раунде он привёл команду к победе над университетом Фресно, а его слэм-данк был показан по всем общенациональным каналам. Сезон 1984/85 «Луизиана Тех» закончил с результатом 29-3, что стало лучшим результатом в Southland Conference и позволило опять попасть в турнир NCAA. В турнире «Бульдогс» вылетели на стадии 1/16 финала. За три года выступления в команде Мэлоун каждый год выбирался в команду всех звёзд конференции и стал шестым в истории университета по результативности. Хотя скауты многих клубов НБА советовали ему остаться ещё на год в университете, Мэлоун решил выставить свою кандидатуру на драфте НБА 1985 года. В 1985 году он был выбран на драфте НБА под 13 общим номером «Ютой Джаз».
За девятнадцать сезонов в НБА он набрал 36 928 очков, что является вторым показателем в истории НБА, а также установил рекорд лиги по количеству выполненных и забитых штрафных бросков. Мэлоун считается одним из лучших тяжёлых форвардов в истории НБА. В 1997 и 1999 годах он становился самым ценным игроком НБА. Он в каждом сезоне в своей карьере выходил в плей-офф и трижды доходил до финала НБА (с «Джаз» в 1997 и 1998 годах и с «Лейкерс» в 2004 году). Мэлоун участвовал в Олимпийских играх 1992 и 1996 годов, где завоевал золотые медали. За свои заслуги Карл Мэлоун был введён в Зал Славы баскетбола 13 августа 2010 года.