Вокзал, который сегодня называют памятником эпохи модерн, изначально имел намного меньшее скромное здание. Он являлся отправной точкой дороги на Сергиев Посад. Длина дороги была лишь 65 вёрст. Построено то здание было в 1862 году. Московско-Троицкая дорога была первой "русской", т.е. построенной без привлечения иностранного капитала. Деятельное участие в её строительстве принял богатый купец Иван Фёдорович Мамонтов, отец Саввы Мамонтова. Вокзал тогда звался Троицкий.
Разрешение на строительство дороги царь дал с условием будущего её продления до Ярославля. Уже к 1870 году царский наказ был исполнен, а к вокзалу тогда пристроили боковые корпуса. Когда же к концу 19 века дорога дошла до Архангельска, решено было вновь перестроить здание. Поручили перестройку королю модерна Льву Кекушеву. Ему принадлежит новое восточное крыло и перрон. А центральный фасад в неорусском стиле переделывал в начале 20 века уже Фёдор Шехтель. Фасад получился былинно-сказочный. Элементы северных теремов, ассиметрия, башенки, шатры, огромная входная арка, глазурованный фриз, высокая левая башня, полукруглые башенки у входа, майоликовые вставки - один элемент вытекает из другого. Не даром в начале 20 века вокзал получил имя Северный. Рельефные гербы Москвы, Ярославля и Архангельска подчеркивали связь этих городов посредствам железной дороги. В залах изначально размещались панно К.А.Коровина.
От Ярославского вокзала в июне 1929 года ушел первый в России электропоезд. А ещё с этого вокзала начинается самая длинная дорога в мире: От Москвы до Владивостока 9302 км.
И сейчас в облике здания можно рассмотреть руку всех трёх архитекторов: Кузьмина, Кекушева и Шехтеля. А колонны, находящиеся сейчас внутри, прежде стояли у перронов.