O templo, nos dias de Jesus, era o Templo de Jerusalém, construído quando os judeus voltaram da Babilônia. Esse é o chamado "segundo templo", pois o primeiro foi aquele construído por Salomão, para acolher a Arca da Aliança. O templo de Salomão foi completamente destruído por Nabucodonossor II, em 586 antes de Cristo, quando os habitantes de Jerusalém foram levados para o Exílio, em Babilônia.
O segundo templo, como dissemos, contruiu-se na volta do exílio, por volta de 536 antes de Cristo. Esse era o templo existente na época de Cristo, em Jerusalém, o templo do qual fala Ageu no capítulo 2 do seu livro. Tinha dimensões muito menores, comparada com a construção de Salomão. O rei Herodes fez grandes mudanças e ampliou de forma admirável essa construção, no tempo de Cristo (veja a maqueta ao lado). Essa ampliação começou no ano 19 antes de Cristo e só terminou 70 anos mais tarde, pouco antes da destruição definitiva, que aconteceu em 70 depois de Cristo, quando os romanos, com Tito, invadiram e destruíram Jerusalém.
O templo aparece diversas vezes no Novo Testamento, na vida de Jesus e dos apóstolos. Para os judeus era o centro da vida religiosa. E também os apóstolos, depois da morte de Cristo, continuaram a frequentá-lo.
Hoje, no lugar do templo, existem duas mesquitas muçulmanas e resta apenas um muro, chamado "muro ocidental", conhecido também, de forma errada, como "muro das lamentações".
Nas palavras de Ageu existe uma profecia: "a glória futura deste Templo será maior do que a passada, disse Iahweh dos Exércitos, e neste lugar eu darei a paz, oráculo de Iahweh dos Exércitos." Graças a Ezequiel, o templo se tornou tema messiânico e foi ali que Cristo esteve.