Le territoire autour de Mariazell fut donné au monastère de Saint-Lambert vers 1103 et les moines y construisirent des cellules pour servir les habitants locaux. La ville aurait été fondée en 1157, mais son existence n’est documentée qu’à partir de 1243. Un autel marial y fut dédié en 1256.
Au xive siècle, une grande église gothique existait déjà dans cette localité, mais elle fut détruite par un incendie. De 1644 à 1683, elle est reconstruite dans le style baroque sous l’influence de l’architecte Domenico Sciassia. On y joignit une tour et un dôme de même style baroque.