К моменту начала Второй мировой войны Де Голль командовал танковыми частями одной из французских общевойсковых армий. После того, как в марте 1940 года премьер-министром Франции стал его старый знакомый Рейно, продвижение де Голля по службе пошло еще быстрее. Очень скоро он был назначен командиром дивизии. Он командовал этой своей новой дивизией в боях при Лаоне 17-20 мая 1940 года, умело сдерживая напор вермахта.
В мае этого года ему вообще пришлось много повоевать и с точки зрения французского правительства он действовал против немецкой армии настолько удачно, что 1-го июня 1940 года ему было присвоено звание бригадного генерала. А уже 6 июня Рейно ввел его в реформированный кабинет министров Франции, где он отвечал за вопросы национальной безопасности. Таким образом, де Голль стал одним из самых молодых генералов французской армии и самым молодым членом правительства.
В течении следующих нескольких дней он уже в качестве представителя правительства Франции посетил Лондон, где 9 июня встретился с Черчиллем. Однако немецкое наступление во Франции шло так быстро, что его переговоры мало к чему привели. К тому же многие военные лидеры Франции, и прежде всего маршал Петэн, считали, что наилучшим выходом для страны была бы капитуляция, и сохранение таким образом Франции от уничтожения немецкой армией. И точка зрения этих людей возобладала - Франция капитулировала. Кабинет Рейно ушел в отставку, а лидером страны стал маршал Петэн. Подавляющее большинство французов приняли происходящее как должное. Однако будущий президент Франции был другого мнения.
18 июня 1940 года он обратился по английскому радио ко всем французам, призвав их продолжать борьбу. Никакого весомого эффекта во Франции это обращение не вызвало. Но, английское правительство совершенно справедливо посчитало, что молодой и патриотичный французский генерал может оказать весьма серьезное воздействие на французов если не тогда, то после окончания войны и стало поддерживать его инициативы. В результате активной поддержки английского правительства 7 августа 1940 года де Голль объявил о создании движения Свободная Франция, членами которого должны били стать французские солдаты и офицеры, находившиеся в этот период вне оккупированной территории. Он часто выступал по радио, призывая всех уцелевших патриотов Франции присоединиться к нему.
Однако не все было так просто. Несмотря на то, что из оккупированной Франции удалось эвакуироваться весьма большому количеству солдат и офицеров, обращение де Голля привлекло не многих из них. А большинство военных частей, расположенных в колониях Франции, вообще его проигнорировали, подчинившись правительству Петэна. Французские колониальные войска в Экваториальной Африке вообще симпатизировали немцам.
По этой причине в середине августа 1940 года в движении де Голля состояло только 140 офицеров и 2100 солдат. Однако это не остановило амбициозного и решительного генерала и его английских друзей. Они решили высадиться в Дакаре и подчинить силам Свободной Франции западный берег Африки.
23 сентября 40-го года корабли да Голля в сопровождении британских крейсеров подошли к Дакару. В гавани их поджидала французская эскадра с линкором «Ришелье», а гарнизон крепости не был настроен сдаваться.В 10 часов утра береговая артиллерия открыла огонь по маячившим на горизонте английским кораблям. В результате полуторачасовой дуэли де Голль вынужден был отступить. Вечером того же дня Дакару был предъявлен ультиматум, но комендант крепости ответил, что будет сражаться до последней капли крови. На следующий день все повторилось. Англичане незначительно повредили «Ришелье» и подожгли один крейсер, но высадить десант не удалось.
25 сентября боевые действия возобновились. Дымовая завеса, поставленная по приказу командующего гарнизоном Дакара, мешала британцам вести прицельный огонь. В 9 часов утра французская подводная лодка торпедировала английский линкор «Резолюшн», который был выведен из строя. Несмотря на то, что в ходе боя две французский субмарины были потоплены, два эсминца сгорели и выбросились на берег, а «Ришелье» горел, а авиация Свободной Франции, правда без особого энтузиазма, в течении двух дней бомбили порт и доки, английское командование дало приказ отступать.
Через две недели генералу де Голлю удалось высадиться в Камеруне и взять под контроль Центральную Африку. С помощью англичан де Голлю удалось перетянуть на свою сторону некоторых командиров колониальных частей на Ближнем Востоке и в Индокитае. Однако это заняло много времени (1940-1942 годы), и, кроме всего прочего, в этот период возникли серьезные разногласия между генералом и англичанами. Английское правительство не устраивал тот факт, что де Голль проводил агитацию исходя из имперских интересов Франции, и мало обращал внимание на укрепление дружеских отношений между английскими, американскими и французскими военными. Проблема состояла в том, что французские колониальные части недолюбливали союзников, и не очень-то стремились помогать им в борьбе с немцами. А де Голль не смог в этот период выполнить роль связующего звена. Результат не замедлил себя ждать.
Английские и американские военные часто отказывались пускать де Голля и его представителей в бывшие французские колонии, так как к 1942 году он убедились, что пользы для них от этого мало. Однако, в августе 1940 года на его сторону перешла администрация колониях Чад, Камерун, Французском Конго, Убанги-Шари (ныне Центральноафриканская республика). В 1941 году части де Голля принимали вместе с англичанами участие в операциях против верных правительству Петэна французских частей в Сирии. Однако из-за описанных выше трудностей с союзниками движение де Голля не было официально признано США, а посему не имело большого политического веса. Но генерал продолжал действовать.
