Эта песня, рассказывающая историю девушки из высшего света, которая вдруг оказалась в одиночестве и без средств к существованию, по праву занимает первое место в списке 500 величайших песен мира по версии журнала “Rolling Stone”. Сам Дилан, признался, что написал текст под влиянием песни Хэнка Уильямса 1949 года « Потерянное шоссе », в которой есть строчка «Я - катящийся камень, совсем один и потерянный».
Название песни не является ссылкой на группу “The Rolling Stones”. Оно взято из пословицы "катящийся камень мхом не обрастает". Критики расценили трек как революционный, отметив сочетание различных музыкальных элементов, юношеского голоса Дилана, а также жёсткого и местами циничного текста. Боб Дилан (англ. Bob Dylan, при рождении Роберт Аллен Циммерман, англ. Robert Allen Zimmerman; род. 24 мая 1941, Дулут, Миннесота) — американский автор-исполнитель, художник, писатель и киноактёр, одна из самых влиятельных фигур в поп-музыке на протяжении последних пятидесяти лет.