Słowo litania pochodzi od greckiego lite – czyli prośba, błaganie. Forma litanii jako modlitw błagalnych obecna była w liturgii wschodniej. Cechą charakterystyczną takich modlitw było wymienianie poszczególnych próśb, na które zgromadzeni odpowiadali Kyrie eleison – Panie, zmiłuj się nad nami i ora pro nobis – módl się za nami. Pierwowzorem dla Litanii loretańskiej są wschodnie hymny zwane akatistos, zanurzone w pobożności maryjnej. Pierwsze ślady litanii do Najświętszej Marii Panny odnaleźć można w XII wieku. Z czasem pojawiało się ich coraz więcej – w XV stuleciu funkcjonowało już przynajmniej kilka litanii sławiących Maryję. Zasada kompozycji była prosta – litanie tworzono dodając do siebie kolejne tytuły-wezwania odnoszące się do Matki Bożej.
Powszechnie i na stałe przyjęła się modlitwa, którą odmawiano we włoskim sanktuarium maryjnym w Loretto – stąd nazwa: Litania loretańska. Tradycja przekazuje, że przybywający do tego maryjnego sanktuarium pielgrzymi, doznawszy szczególnych łask dzięki wstawiennictwu Matki Bożej, przylepiali do Domku Maryi kolejne wezwania, sławiące Jej cnoty. W ten sposób litania coraz bardziej się wydłużała. Została ona oficjalnie zatwierdzona do odmawiania przez papieża Sykstusa V w 1587 roku.
W Polsce litania loretańska przyjęła się bardzo wcześnie – już na początku XVII wieku można ją znaleźć w wielu zakonnych modlitewnikach. W upowszechnianiu nabożeństwa majowego swój udział ma jezuita ks. Karol Antoniewicz – autor popularnych pieśni religijnych, m.in. Chwalcie łąki umajone. Nabożeństwo majowe w tradycyjnej formie to właściwie nasz polski wynalazek, który zaczęto regularnie odprawiać od 1857 roku – najpierw w kościele Świętego Krzyża w Warszawie, a następnie we wszystkich świątyniach naszego kraju.