Uma das passagens emblemáticas que ilustra a questão que você pões está relacionada com o dilúvio, contado a partir de Gênesis 6. Lemos em 6,6-6:

Iahweh viu que a maldade do homem era grande sobre a terra, e que era continuamente mau todo desígnio de seu coração. Iahweh arrependeu-se de ter feito o homem sobre a terra, e afligiu-se o seu coração.

Em Jeremias, invés, encontramos uma outra atitude de Deus, onde o arrependimento seu significa o aplacamento de sua cólera (Jeremias 26,3):

Talvez escutem e se convertam cada um de seu caminho perverso: então me arrependerei do mal que pensava fazer-lhes por causa da perversidade de seus atos.

E ainda poderíamos lembrar de Jonas 3,10:

E Deus arrependeu-se do mal que ameaçara fazer-lhes e não fez.

Contraposto a isso, lemos no último livro do A.T., em Malaquias 3,6: Eu, Iahweh, não mudo!

Esse modo de falar de Deus é tipicamente um modo humano de ver Deus. Chama-se antropomorfismo. Como nós, também os autores bíblicos tentavam dizer como era Deus. Isso não pode ser feita de maneira abstrata, mas se torna necessário usar uma linguagem que os destinatários consigam entender. Discursos teológicos, transcedentes são entendidos por poucos. A Bíblia é muito prática, dirigida ao povo e a linguagem é simples. Não significa literalmente que Deus é como contado, mas é uma visão do autor de Deus. Às vezes ele é um oleiro, outras vezes alguém que cuida do jardim ou também um general do exército, que guida o povo hebreu em batalha contra o inimigo, ou ainda um juiz, que condena o comportamento perverso dos seus seguidores.

Só conhecemos bem a Deus através de Jesus, mesmo se também nesse caso se usa uma linguagem, coisa que limitirá sempre a correta interpretação de quem ele foi. Mas esse é o limite humano, do qual é impossível prescindir.

Poderíamos concluir dizendo que Deus é "um", isto é, é íntegro e não muda. Somos nós que mudamos. Em relação à Bíblia, o que muda é a interpretação que os autores inspirados fazem de Deus.