På 300-talet introducerade den helige Ambrosius, biskop av Milano, antifonal sång, där kören sjunger omväxlande verser av en psalm eller hymn. På 500-talet standardiserade St. Gregorius den store, Roms påve, liturgin och etablerade ett system med åtta musikaliska lägen. Detta system, känt som gregoriansk sång, blev den primära musikformen i den katolska kyrkan i århundraden.
Under medeltiden började olika andra former av kyrkomusik, såsom liturgiska dramer, polyfoni och orgelmusik, utvecklas. Polyfoni, där två eller flera musiklinjer sjungs samtidigt, blev viktig på 1100-talet.
På 1500-talet inledde Martin Luther den protestantiska reformationen. Detta ledde till utvecklingen av olika stilar av kyrkomusik, såsom lutherska koraler och anglikansk sång. Dessa genrer är fortfarande viktiga delar av den kristna gudstjänsten idag.
På 1800- och 1900-talen sågs ett förnyat intresse för studier och framförande av tidig kyrkomusik, såsom gregoriansk sång och verk av Palestrina. Det har också strömmat ut ny sakral musik komponerad i en mängd olika stilar.