Идея создания музея в Старой Ладоге возникла на рубеже XIX–ХХ вв., после очередного всплеска интереса к национальной истории, связанного с празднованием 1000-летия Руси, а затем 300-летия династии Романовых.

Впрочем, интерес к древностям Старой Ладоги возник ещё в начале XVIII в. Тогда были произведены некие археологические раскопки. Исследования эти были довольно скоро забыты, но романтические руины Староладожской крепости в конце XVIII столетия привлекли внимание вначале художественной, а позднее научной общественности. 

В середине XIX в. были открыты памятники древнерусского церковного зодчества в Ладоге с уникальной фресковой живописью. Во второй половине этого столетия доисторические древности в районе Ладожского и Онежского озёр изучались профессором Санкт-Петербургского университета А. А. Иностранцевым. В 80-х годах XIX в. в Староладожской крепости, на окрестных средневековых погребальных памятниках и на фундаментах древнерусских церквей вела работы экспедиция Н.Е. Бранденбурга. Результатом исследования стала опубликованная в 1896 г. монография «Старая Ладога». В ходе работ 1909 – 1913 гг. Н.И. Репниковым был открыт уникальный археологический культурный слой на Земляном городище. Изучение ладожских древностей проводилось на протяжении всего прошедшего столетия и продолжается в настоящее время.

Все эти работы имели серьёзный общественный резонанс. Уже в начале XX в. была признана необходимость создания в Старой Ладоге учреждения для регистрации, описания и охраны памятников. Именитые граждане Новоладожского уезда предпринимали меры для возрождения ладожских храмов и организации ряда культурно-просветительских учреждений. События Первой мировой войны и революции 1917 г. не позволили осуществить эти планы.

При Советской власти наблюдение за комплексом памятников архитектуры Старой Ладоги поручалось Управлению Новгородских государственных музеев, Ленинградскому Государственному Университету, отделу архитектуры Леноблисполкома, и только в 1966 г. было принято решение о создании сети музеев в  городах Ленинградской области, в число которых вошла и Старая Ладога. Первая полноценная экспозиция Староладожского музея открылась в Воротной башне крепости 15 июля  1971 г.

С этой даты началась его новая история. Через тринадцать лет музей в Старой Ладоге получил статус историко–архитектурного и археологического музея–заповедника, включающего более 130 объектов культурного наследия:  памятники археологии, архитектуры, истории, монументальной живописи.