První zmínky o rajhradském archivu pocházejí z počátku 18. století z doby probošta Antonia Pirma. První archivář je však jmenován až ve 40. letech 18. století a je jím Tadeáš Khinel (1699-1753). Povinnosti archiváře byly upraveny směrnicí, kterou v kapitule složil další z archivářů Placidus Heisler. Nová směrnice pak byla vydána roku 1912. 

Funkce archiváře nebyla obsazena nepřetržitě, někdy bývala slučována s funkcí knihovníka, opatova sekretáře či dokonce samotného opata.

Rajhradský archiv obsahuje listiny, jak pergamenové tak papírové, a především aktový materiál. Vlastní listinný fond sestává z větší části z listin cizích, vlastní rajhradské listiny jsou zde v menšině. Část z nich se navíc do Rajhradu dostala patrně až v 19. století hlavně z Břevnova a také z Kroměříže.

Listinný archiv se značně rozšířil za dob josefinských reforem, kdy se přičiněním probošta Otmara Conrada podařilo získat části archivů kartuziánů z Králova Pole, cisterciaček v Oslavanech, augustiniánek v Doubravníku, premonstrátů v Litomyšli a dalších. Conrad se alespoň touto cestou snažil zachránit klášterní archivy, když už se mu nepodařilo zajistit ve Vídni podporu svému nápadu na pořádání archivu zrušených klášterů. Část archiválií získal v 1. polovině 19. století při svých cestách po Moravě Řehoř Volný při sbírání materiálu pro své topografie.

Největší nárůst aktového materiálu souvisí s historiografickou činností Bonaventury Pitra ve 2. polovině 18. století. Velkou část aktového materiálu ale tvoří dokumenty z oblasti hospodářství rajhradského kláštera a jeho panství.

První soupis rajhradských listin vypracoval Alexius Habrich, který od roku 1775 zastával vedle funkce převora i post přednosty kanceláře a archivu. Další soupisy listinného archivu pořídil v roce 1840 pozdější rajhradský opat Viktor Šlosar, který kromě toho rovněž uspořádal celý archiv a to tak detailně a systematicky, že se jeho nástupci neodvažovali téměř nic měnit. 

Ke změnám signatur došlo nejspíš až v roce 1889 za archiváře Maura Kintera, a poté roku 1919 při nové inventarizaci prováděné archivářem Václavem Pokorným. Tato poslední inventarizace byla základem pro současný katalog zpracovaný roku 1974 pracovníkem Moravského zemského archivu v Brně Mojmírem Švábenským. V odborné správě Moravského zemského archivu je rajhradský archiv od roku 1950.

V rámci projektu Benediktinský klášter Rajhrad jako kulturní fenomén je plánována digitalizace vybraných částí archivního fondu. Archivní inventář sestavený Mojmírem Švábenským byl digitalizován v rámci projektu Kulturní dědictví dolnorakouských a moravských klášterů online. Listinný archiv je digitalizován a vystaven na portálu Monasterium.