Als erstes Hauskloster der agilolfingischen Herzogsfamilie diente Nonnberg vor allem als Ausbildungs- und Versorgungsstätte für herzogliche Gemahlinnen und Prinzessinnen sowie Töchter des hohen Adels. Regintrud, die Witwe Herzog Theodberts, Imma, die Witwe Herzog Tassilos II., und Hiltrud, die Witwe Herzog Odilos, leiteten nach dem Tod ihrer Gatten als Äbtissinnen die Geschicke dieses Stiftes. Die Frauenabtei, die in der Frühzeit ihres Entstehens als adeliges Damenstift zu bezeichnen ist, folgte zunächst wohl einer regula mixta (Mischregel).
Obwohl seit dem 9. Jahrhundert die Benediktsregel als spirituelle Norm vorherrscht, wurde diese immer sehr großzügig ausgelegt. Die Damen verfügten über Privatbesitz, persönliche Bedienstete und konnten bis zur Ablegung strenger Gelübde wieder ins weltliche Leben zurückkehren. Die genaue Befolgung der tridentinischen Klausurvorschriften wurde in Nonnberg und dessen Tochterklöstern erst seit dem 17. Jahrhundert durchgesetzt.
Als Hauskloster der Agilolfinger wurde Nonnberg vom bayerischen Herzog wesentlich reicher ausgestattet als das Männerkloster St. Peter.

Besonders dicht lagen die Güter im Rupertiwinkel und im Flachgau, wo die Namen Nonnreith und Elixhausen (verballhornt aus Äbtissinhausen) bis heute an die Abtei erinnern. Um das Jahr 1000 wurde nach einem Brand mit Unterstützung Kaiser Heinrichs II. eine romanische Basilika errichtet. Zahlreiche Frauenklöster, die im 11. Jahrhundert gegründet wurden, empfingen als „Tochterklöster“ ihre ersten Äbtissinnen und damit auch die Lebensformen eines adeligen Damenstifts benediktinischer Prägung aus Nonnberg (Göss, Gurk, St. Georgen a. L., Sonnenburg im Pustertal, Erlakloster, Traunkirchen, St. Walburg in Eichstätt).
Im Hochmittelalter entstanden im Skriptorium prachtvolle illuminierte Handschriften. Die Bedeutung des Frauenklosters wurde 1242 durch die Verleihung der bischöflichen Würdezeichen (Stab, Handschuhe, Brustkreuz) an Äbtissin Gertraud II. von Stein und ihre Nachfolgerinnen auch äußerlich aufgewertet.

Zu den Pontifikalien zählte auch der Faltstuhl (Faldistorium), von dem Nonnberg eines der wertvollsten Exemplare besitzt. Erzbischof Eberhard II. (1200-1246) erhob die Äbtissin von Nonnberg im Namen des Papstes in den Salzburger Prälatenstand. Durch einen Brand wurden 1423 große Teile der Kirche und des Klosters zerstört. Auf den Fundamenten der romanischen Basilika entstand 1464–1506 nach Plänen von Hans und Wolfgang Wiesinger die heutige spätgotische Abteikirche. Im 17./18. Jahrhundert erlebte Nonnberg erneut eine kulturelle Blüte, die sich auch in einer reichen Figuralmusik widerspiegelt.

Im Tympanon des südlichen Kirchenportals ist Maria mit dem Kind dargestellt. In der westlichen Vorhalle befinden sich die 1858 entdeckten romanischen Fresken aus der Zeit um 1150, die in rundbogigen Nischen Heilige wie Gregor d. Gr. oder Benedikt von Nursia zeigen. Hinter dem Hochaltar liegt das von Peter Hemmel von Andlau in Straßburg angefertigte, vom Salzburger Ratsherrn Augustin Clanner in Auftrag gegebene Glasfenster, das den Stifter in adeliger Tracht zeigt und für den Kirchenneubau 1480 geschaffen wurde. Der spätgotische Hochaltar der Stiftskirche aus dem Jahre 1515 stand ursprünglich in der Pfarrkirche Scheffau. Die Johanneskapelle birgt einen der Schule des Veit Stoß zugeschriebenen Altar mit Szenen aus dem Marienleben. Im Bereich  der Klausur befinden sich eine Reihe weiterer Kunstschätze, wie das um 1242 entstandene Faldistorium mit Schnitzereien aus Walrosszahn, ein Pastorale der Äbtissin Gertraud II. von Stein (um 1242) oder der romanische Kruzifixus von ca. 1160.

Zu den bedeutenden Goldschmiedearbeiten zählen das Erentrudisreliquiar (1316) und der kostbare Schrein aus dem Jahr 1674. Aus dem 1598 ausgebrannten romanischen Salzburger Dom kam Ende des 16. Jahrhunderts ein gotisches Mystikerkreuz auf den Nonnberg.