A késő román-kora gótikus, romjaiban is fenséges bazilika az 1220-as években épült, kezdetben a premontreiek, Mátyás király idejétől a pálosok kezelésében működött. Az 1050-es években már kőtemplom állt itt, amelyet a következő században bővítettek. III. Béla király a felesége kíséretével érkező Aynard lovagnak adományozza Zsámbékot. E család leszármazottai építették 1220 körül a bazilikát, amely rom mivoltában is a magyar építészettörténet kiemelkedő emléke. Mellette állt a kolostor, amely a premontrei rend otthona volt. IV. Béla király 1258. június 6-án erősítette meg az akkor már felépült templomra vonatkozó adománylevelét.

Az épület sorsát 1763. június 28-án földrengés pecsételte meg, leomlott az északi mellékhajó boltozata és oldalfala. A rom gazdátlanná vált, a köveket széthordták a környékbeliek. Nem is maradt volna belőle semmi, ha Rómer Flóris bencés tanár, művészettörténész és Henszlmann Imre műtörténész az 1870-es években fel nem hívják a figyelmet az értékes emlék megmentésének szükségességére. Trefort Ágoston vallás- és közoktatási miniszter 1889-ben Möller István építészmérnököt bízta meg az állagmegóvási munkák elvégzésével. Munkája világszerte elismerést aratott.

A későbbi munkák során, 1934-ben Lux Kálmán építész tárta fel a templom északi oldalához csatlakozó kolostor falrészleteit, amit a pálosok építettek, amikor megkapták a birtokot Mátyás király adományaként. Mára ebből az épületből csak egy dongaboltozatos terem, - ez most a kőtár - a hajdani refektórium, az alapfalak és a kolostorhoz tartozó pincerendszer maradt meg.