O rosário surgiu na Irlanda no século IX. Na época, a recitação dos 150 salmos da Bíblia era uma das formas de oração mais realizada. Os leigos, que não sabiam ler, apenas ouviam a recitação dos salmos inicialmente, tendo surgido nesta época a tradição de rezar 150 “Pai-nossos”, a chamada oração dos leigos. No princípio, era utilizada uma bolsa de couro com 150 pedrinhas para contar o número de vezes que a oração era rezada, mas posteriormente passou-se a usar um cordão com 50 pedacinhos de madeira.

O terço em si só surgiu com São Domingos de Gusmão, no início do século XIII, que rezava a Nossa Senhora para o ajudar a eliminar a heresia albigense e esta surgiu diante dele, mostrou-lhe um terço com 50 contas e disse-lhe que a melhor forma de converter aqueles pecadores era rogar pela sua ajuda. São Domingos espalhou então o terço, na altura chamado “Saltério da Bem-Aventurada Virgem Maria”. A ordem religiosa fundada por São Domingos (os Dominicanos) foi uma forte proponentes da devoção do terço, ao ponto de Nossa Senhora ter aparecido diante Alano de Rupe (um monge desta ordem) no século XV de forma a combater o esquecimento desta devoção. O papa Pio V (que antes de ser papa era um monge dominicano) procurou proliferar o seu uso, declarando o terço essencial na derrota dos turcos muçulmanos pelos cristãos na batalha de Lepanto, contendo o seu avanço na Europa.

Foi Alano de Rupe que separou as contas em grupos de dez, e adicionou uma conta após cada dezena, representando os “Pai-nossos” que agora se deviam rezar. Este sofreu mais evoluções ao longo do tempo, tendo sido acrescentado o “Credo”, a “Glória ao Pai” e a “Salvé Rainha”, para além de outras três “Ave-marias”.