A sua pergunta deve ser situada dentro da quetão "irmãos de Jesus", tema já tratado no site. A questão é marcada por duas posições contrárias: de um lado os católicos e outras denominações tradicionais, tendo diante de si o dogma da virgindade de Maria, defendem que Jesus é filho único, enquanto que outras confissões, sobretudo as novas igrejas pentecostais, sem o vínculo da dogma da virgindade e diante das passagens do Novo Testamento que falam de "irmãos de Jesus", pensam que é possível que Jesus tenha tido irmãos.
Você põe uma questão cuja resposta representa uma das possibilidades de resolução do impasse. A tradição nos diz que José era já de idade avançada, quando se casou com Maria (tradição que nasce de livros apócrifos e não dos evangelhos). Por causa disso, sobretudo na Igreja Ortodoxa, já desde o Século III, nasceu a tradição segundo a qual se afirma que os "irmãos de Jesus" (Tiago, José, Simão e Judas - Veja Mateus 13,55 e Marcos 6,3), na verdade, eram filhos de um casamento de José antes de ter sido esposo de Maria. Nesse caso José teria casado com Maria depois de ter ficado viúvo.
Essa tese não tem nenhuma referência bíblica e, portanto, é difícil dizer que seja verdadeira. Creio, sinceramente, que esse foi um modo que os cristãos dos primeiros séculos encontraram para resolver uma questão dogmática embaraçante. O que é evidente é que se Jesus teve irmãos isso não é sublinhado de forma eloquente nos escritos do Novo Testamento e, visto que então ainda não existia o problema da Virgindade de Maria, não existe razão objetiva para que isso tenha sido evitado.
Para aprofundar a questão dos "irmãos de Jesus", não deixe de ler o artigo sobre esse tema.