A conquista babilônica foi o primeiro estado judaico (período do Primeiro Templo), mas não rompeu a ligação do povo judeu com sua terra. Às margens dos rios da Babilônia, os judeus assumiram o compromisso de lembrar para sempre da sua pátria: “Se eu me esquecer de ti, ó Jerusalém, esqueça-se a minha destra da sua destreza. Apegue-se a língua ao paladar, se não lembrar de ti, se não preferir Jerusalém à minha maior alegria.” (Sl. 137.5,6)
O exílio na Babilônia, que se seguiu à destruição do Primeiro Templo, marcou o início da Diáspora Judaica. Lá, o judaísmo começou a desenvolver um sistema e um modo de vida religioso fora de sua terra, para assegurar a sobrevivência nacional e a identidade espiritual do povo, concedendo-lhe a vitalidade necessária para preservar seu futuro como uma nação.

Dominação Estrangeira

Os Períodos Persa e Helenístico (538-142 A.C.)
Em conseqüência de um decreto do Rei Ciro, da Pérsia, que conquistou o império babilônico, cerca de 50.000 judeus empreenderam o primeiro retorno à Terra de Israel, sob a liderança de Zerobabel, da dinastia de David. Menos de um século mais tarde, o segundo retorno foi liderado por Esdras, o Escriba. Durante os quatro séculos seguintes, os judeus viveram sob diferentes graus de autonomia sob o domínio persa (538-333 A.C.) e helenístico - ptolemaico e selêucida (332-142 A.C.)  

A repatriação dos judeus, sob a inspirada liderança de Esdras, a construção do segundo templo no sítio onde se erguera o primeiro, a fortificação das muralhas de Jerusalém e o estabelecimento da Knesset Haguedolá (a Grande Assembléia), o supremo órgão religioso e judicial do povo judeu, marcaram o início da segundo estado judeu (período do segundo templo). Como parte do mundo antigo conquistado por Alexandre Magno, da Grécia (332 A.C.), a Terra de Israel continuava a ser uma teocracia judaica, sob o domínio dos selêucidas, estabelecidos na Síria. Quando os judeus foram proibidos de praticar o judaísmo e seu Templo foi profanado, como parte das tentativas gregas de impor a cultura e os costumes helenísticos a toda a população, desencadeou-se uma revolta (166 a.C.) liderada por Matatias, da dinastia sacerdotal dos Hasmoneus, e mais tarde por seu filho, Judá, o Macabeu. Os judeus entraram em Jerusalém e purificaram o Templo (164 A.C), eventos comemorados até hoje anualmente, na festa do Chanuká.

A Dinastia dos Hasmoneus ( 142-63 A.C.)

Após novas vitórias dos Hasmoneus (142 a.C.), os selêucidas restauraram a autonomia da Judéia (como era então chamada a Terra de Israel) e, com o colapso do reino selêucida (129 a.C.), a independência judaica foi reconquistada. Sob a dinastia dos Hasmoneus, que durou cerca de 80 anos, as fronteiras do reino eram muito semelhantes às do tempo do Rei Salomão; o regime atingiu consolidação política e a vida judaica floresceu.

O Domínio Romano (63 - 313 A.C.)

Quando os romanos substituíram os selêucidas no papel de grande potência regional, eles concederam ao rei Hasmoneus Hircano II autoridade limitada, sob o controle do governador romano sediado em Damasco. Os judeus eram hostis ao novo regime, e os anos seguintes testemunharam muitas insurreições. Uma última tentativa de reconquistar a antiga glória da dinastia dos Hasmoneus foi feita por Matatias Antígono, cuja derrota e morte trouxe fim ao governo dos Hasmoneus (40 a.C.); o país tornou-se, então, uma província do Império Romano.

Em 37 a.C., Herodes, genro de Hircano II, foi nomeado Rei da Judéia pelos romanos. Foi-lhe concedida autonomia quase ilimitada nos assuntos internos do país, e ele se tornou um dos mais poderosos monarcas da região oriental do Império Romano, porém não conseguiu a confiança e o apoio de seus súditos judeus.
Dez anos após a morte de Herodes (4 a.C.), a Judéia caiu sob a administração romana direta. À proporção que aumentava a opressão romana à vida judaica, crescia a insatisfação, que se manifestava por violência esporádica, até que rompeu uma revolta total em 66 a.C.. As forças romanas, lideradas por Tito, superiores em número e armamento, arrasaram finalmente Jerusalém (70 a.C.) e posteriormente derrotaram o último baluarte judeu em Massada (73 a.C.).
A destruição total de Jerusalém e do Templo foi uma catástrofe para o povo judeu. De acordo com o historiador da época, Flavio Josefo, centenas de milhares de judeus pereceram durante o cerco a Jerusalém e em outros pontos do país, e outros milhares foram vendidos como escravos.

Um último breve período de soberania judaica na era antiga foi o que se seguiu à revolta de Shimon Bar Kochbá (132 a.C.), quando Jerusalém e a Judéia foram reconquistadas. No entanto, dado o poder massivo dos romanos, o resultado era inevitável. Três anos depois, segundo o costume romano, Jerusalém foi “sulcada por uma junta de bois”; a judéia foi rebatizada de Palestina e a Jerusalém foi dado o novo nome de Aelia Capitolina.