Предание связывает этот чудотворный образ с тринадцатым веком и именами святых ярославских князей Василия и Константина, которые принесли его в древний Успенский собор в Ярославле вскоре после битвы на Сити. Перед ним принял благословение от Ростовского митрополита Кирилла в 1612 году князь Дмитрий Пожарский. Молился перед этой иконой и царь Михаил Романов, а спустя три столетия потомок его, царь-мученик Николай II, и его семья, прославленные ныне в лике святых.
Но сегодня судьба первообраза иконы неизвестна. Он пропал в годы большевистских гонений на христианство. Существующая икона - список, сделанный в семнадцатом веке, был найден в селе Петровском под Ростовом в 1998 году. Причём найден был художником, который мечтал и сам воссоздать заново этот образ Ярославской Богоматери, иконографию которого знал только по специальной литературе. Отреставрированная им икона была подарена Ярославской епархии.
Находится она в храме Спаса на Городу на Которосльной набережной. Ежегодно в день празднования с ней совершается крестный ход: от церкви Спаса на Городу к строящемуся Успенскому собору (где предполагается устроить придел в честь иконы Божией Матери «Ярославская») до храма Ильи Пророка. Божественную литургию в храме Ильи Пророка в этот день будет совершать архиепископ Ярославский и Ростовский Кирилл.