O martelo é uma ferramenta extremamente antiga, sendo que surgiu à volta de 3 milhões de anos antes de Cristo. O primeiro martelo era apenas uma pedra redonda, e apenas por volta de 30 mil anos antes de cristo se adicionou o cabo (com a pedra presa a este por um fio), o que aumentou imensamente a força que o martelo era capaz de exercer e a facilidade de se o manusear.

Com a evolução da metalurgia, o martelo passou a ser feito primeiro de bronze, e mais tarde de ferro e aço. O martelo evoluiu não somente a nível dos materiais que o constituem, mas também na sua forma, existindo inúmeros tipos diferentes de martelo hoje em dia, cada um com a sua função e adaptado a esta.
O martelo é uma ferramenta indispensável de carpinteiros e ferreiros, permitindo que estes exerçam a força necessária sobre os objetos que pretendem transformar.
O martelo ganhou popularidade como arma devido ao desenvolvimento da armadura de platas no século XIV, a qual lâminas eram incapaz de perfurar. O impacto do martelo conseguia afetar o homem dentro da armadura, tornando-a uma arma ideal contra cavaleiros.
Na mitologia, o martelo é geralmente associado ao domínio do Homem sobre os metais (sendo empenhado por um deus ferreiro), mas por vezes também recebe a conotação de força (sendo o exemplo mais conhecido mjolnir, o famoso martelo de Thor, que era tão pesado que somente este o podia levantar). Também foi um símbolo religioso equivalente ao crucifixo, com alguns historiadores acreditando que surgiu como reação à expansão do cristianismo.
O martelo também é um símbolo do comunismo, representando o trabalhador urbano, que combinado com a foice, que representa o trabalhador rural, demonstram os grupos sociais oprimidos pelos capitalistas, sendo a união entre os trabalhadores rurais e urbanos essencial à revolução.