Ta piękna aklamacja jest jedynym, w liturgii łacińskiej, wezwaniem w języku greckim. Najprawdopodobniej został on zaczerpnięty z liturgii Kościoła bizantyjskiego. Pierwszy jej kształt był nieco inny niż obecny. Była to pewnością modlitwa w formie  litanijnej, której wezwania śpiewał diakon, a lud odpowiadał tymże wezwaniem „Kyrie eleison”. Modlono się w ten sposób we wszystkich potrzebach świata Kościoła i lokalnej wspólnoty.

Ta litania była śpiewana nie tylko na początku Mszy świętej, ale także po Ewangelii, w czasie ofiarowanie darów oraz w czasie obrzędów Komunii. Serię śpiewanych przez diakona wezwań kończyła zawsze podsumowująca modlitwa kapłana. Stąd do dnia dzisiejszego w liturgii pozostały modlitwy, takie jak kolekta, modlitwa nad darami, i modlitwa po komunii (jako pozostałość po modlitwie podsumowującej śpiew diakona i ludu) oraz modlitwa powszechna odmawiana po Ewangelii (jako najwyraźniejsza pozostałość po tego typu modlitwie próśb).

W obecnym Mszale Rzymskim ta cześć Mszy św. została nazwana wezwaniami do Chrystusa Pana, lecz zdaje się że ta nazwa jest jak najbardziej niesłuszna.  Początkowo liczba wezwań nie była ustalona. Od czasu, gdy w Galii ustalono liczbę wezwań na sześć (trzy wezwania z Kyrie eleison i trzy z Christe eleison) wiemy, że słowa „Kyrie eleison” odnoszą się do Boga Ojca, a wezwanie „Chiste eleison” odnosi się do Syna Bożego. Ks. abp dr Antoni J. Nowowiejski w swoim „Wykładzie Liturgii…” pisze tak: „Właściwie około roku 800 w Galii miano na uwadze, aby śpiewając: Kyrie eleison, zwracano się do Boga Ojca, a przez słowa: Christe eleison modlono się do Syna Bożego. Gdy jednak była to epoka, w której za wschodnimi teologami rozważano pochodzenie Ducha Święrego, dodano jeszcze trzeci rodzaj wezwania do tegoż Ducha: Kyrie eleison”. W tedy to liczba wezwań wzrosła do dziewięciu. Z czasem wezwania modlitewne całkiem zanikły, pozostały wyłącznie aklamacje. Reforma, którą przeprowadził Paweł VI, tuż po Soborze Watykańskim II, zredukował liczbę wezwań z dziewięciu do sześciu i przetłumaczyła je na języki narodowe.

„Kyrie eleison” jest jedną z najpiękniejszych aklamacji Kościoła, w której charakter pokutno-błagalny łączy się i z scala z charakterem modlitwy próśb. Aklamacja „Kyrie eleison” jest, w pełni tego słowa znaczeniu, modlitwą liturgiczną.