В рукописных «Сказаниях о Тихвинской иконе Богоматери», наиболее ранние из которых датируются рубежом XV-XVI вв., ее появление в новгородской земле относится к 1383 году. «Светозарно шествуя по воздуху» из одного селения в другое, «ангелами невидимо носима», икона являлась местным жителям, пока не достигла берега реки Тихвинки. Икона семь раз являлась перед очевидцами: вначале на Ладожском озере, в погостах Смолково на реке Ояти в Имоченицах, затем «на Кожеле на Куковой горе», затем — на горе над рекой Тихвинкой и, наконец, на другом берегу той же реки. На месте последнего явления иконы в том же году была построена деревянная церковь Успения Богородицы, ставшая местом хранения святыни. Церковь трижды горела, но сама икона всякий раз оставалась невредимой. Древность иконы подчеркивали ее связью с первым образом, написанным, согласно преданию, евангелистом Лукой еще при земной жизни Богоматери.
С середины XVI века чудотворную Тихвинскую икону Богоматери стали отождествлять либо со Влахернской Одигитрией, из Влахернского храма в Константинополе, откуда незадолго до взятия города турками чудесно перенеслась в 1383 год на берега реки Тихвинки, за 70 лет до падения Восточной Римской империи, либо с «Богоматерью Римляныней», считавшейся списком с нерукотворного Лидского образа, сделанного патриархом Германом в начале VIII века. Во время иконоборческой ереси этот образ, как говорит предание, чудесно уплыл по морю из Константинополя в Рим. А после Торжества Православия тем же путем вернулся туда. Особую роль в слиянии упомянутых образов Одигитрии имел факт появления иконы на реке Тихвинке. После присоединения Новгорода к Москве в 1478 году и взятия Константинополя турками, явление иконы «на Тихвине» стало восприниматься как оставление святыней утративших благочестие Рима и второго Рима (Константинополя), ради пребывания в новом уделе Богородицы — Святой Руси, ставшей третьим Римом. В 1507-1515 годах в Тихвине по указу и на средства великого князя Василия Иоанновича специально для поклонения иконе был построен каменный Успенский собор. С этого времени чудотворная икона стала именоваться Тихвинской. В XVI веке Тихвин становится известным местом для паломников. В 1527 году храм посещает Василий III, а в 1547 году, накануне Казанского похода и всего за несколько дней до венчания на царство — Иоанн IV, который основывает здесь в 1560 году Тихвинский Богородичный Успенский мужской монастырь.
В 1910 году по инициативе Комитета Попечительства о русской иконописи древняя икона была раскрыта из-под поздних записей Г.О. Чириковым. После закрытия Успенского мужского монастыря в 1920-х годах икона была экспонатом местного краеведческого музея. До 1941 года икона находилась в Тихвинском музее. Во время оккупации Тихвина в ноябре 1941 года икона была вынесена немцами из собора и отправлена во Псков, где передана Псковской духовной миссии. Там она находилась два года, где ее как важнейшую ценность еженедельно по воскресеньям выдавали в Троицкий кафедральный собор для богослужений. Потом икона попала весной 1944 года в Ригу, Либаву, Яблонец-над-Нисоу, американскую зону оккупации Германии. В результате долгих странствий в 1950 году чудотворный образ был перевезен в Свято-Троицкий собор в Чикаго, где настоятелем и хранителем иконы был архиепископ Рижский Иоанн (Гарклавс). Согласно завещанию архиепископа Иоанна, возвращение иконы в Россию должно было состояться лишь тогда, когда Тихвинская обитель возродится. В 1995 году монастырь был передан Церкви, Успенский собор восстановлен и освящен. В 2004 году икона была торжественно возвращена на ее историческое место в Тихвинский Богородичный Успенский мужской монастырь.