23 июня 1894 года в зале Сорбонны состоялся Учредительный конгресс, на котором более 2000 делегатов из 12 стран единогласно приняли решение о возрождении Олимпийских игр и учреждении Международного олимпийского комитета. Местом проведения первых игр были выбраны Афины, а годом первой Олимпиады был назван 1896.
Октябрь 1894 года стал для Пьера де Кубертена очень волнительным. Простые греки были рады возрождению Олимпийских игр, но правительство Греции решило иначе. Поэтому Кубертен, стараясь опередить негативные события, выехал из Парижа в Афины. Пока Пьер ехал поездом, а потом плыл на корабле, ему в парижский офис пришло письмо от депутата Драгумиса, в котором Греция отказывалась от Игр.
В Афинах француза встретил его друг, первый президент МОК, Деметриус Викелас, который и сообщил Пьеру об отказе. Вопрос организации Игр разделил и политические структуры и общественность Греции на два противоборствующих лагеря, но Пьер де Кубертен сделал ставку на народную поддержку. По подсчётам барона де Кубертена на реконструкцию олимпийских объектов требовалось 200 000 драхм. Началась активная деятельность.
В отеле "Англетер" к Пьеру де Кубертену с визитом нагрянул греческий премьер-министр Карилаос Трикупис. Он твёрд в своём отказе и считает расходы на Олимпиаду бесполезными и ненужными. Но Кубертена так просто было не остановить. Он добивается аудиенции у наследного принца Константина и пускает в ход все свое красноречие, чтобы сделать последнего союзником. Принца Константина удаётся убедить и он заявляет премьер - министру, что признаёт комитет Олимпийских игр.
Французский дипломат продолжает бурную деятельность: встречается с общественными деятелями, посещает редакции газет, выступает в литературном клубе "Парнас" с лекцией "Спорт в современном мире и Олимпийские игры", которая нашла мощный отклик.
Но после отъезда Кубертена премьер-министр продолжил подковёрную борьбу, предпринимая последние попытки сорвать игры, напрямую столкнувшись с наследным принцем. Но принц Константин решительно берет на себя ответственность, реорганизует комитет, удаляя из него оппозицию, назначает генеральным секретарем Тимолеона Филемона (бывшего мэра Афин) и лично руководит всеми заседаниями. Премьер-министр предпринимает отчаянную попытку, пытаясь шантажировать короля Георга I, вследствие чего лишается своего поста.
А в Афины начинают прибывать средства со всей страны. Греки собрали 332 756 драхм. Но этого оказалось недостаточно, тогда было принято решение выпустить первые в мире олимпийские марки и под их продажу правительство выделило еще 400 000 драхм. Греческий меценат Георгиас Аверофф дал миллион драхм на реконструкцию Мраморного стадиона, построенного еще Ликургом в IV веке.
И вот оргкомитет уже рассылает приглашения, в которых указывает, что соревнования состоятся с 6 по 15 апреля 1896 года. И вот 6 апреля 1896 года раздался пушечный выстрел, зазвучал олимпийский гимн, и в присутствии 80 000 человек на Мраморном стадионе раздались слова короля Георга I: "Объявляю первые международные Олимпийские игры в Афинах открытыми".