Teodósio nasceu em 423 na Capadócia (Turquia), recebendo sólida formação cristã na família. Jovem, impressionou-se com a história de Abraão, sentindo-se como ele chamado a partir para o lugar que Deus lhe mostrasse. Fez então uma peregrinação à Terra Santa, onde conheceu São Simeão Estilita, que profetizou ser ele escolhido por Deus como instrumento de salvação de muitos.
Decidiu levar vida religiosa num convento, próximo à torre de Davi, e seus progressos na vida espiritual monástica levaram a que lhe fosse oferecida a provedoria de uma igreja de Nossa Senhora, perto de Belém. Mas as constantes visitas não eram compatíveis com a vida solitária que desejava, e por isso mudou-se para uma gruta isolada, onde viveu 30 anos. Mas sua fama de santidade, pela humildade e caridade, atraiu discípulos, de modo que acabou organizando o regulamento para uma comunidade, que chegou a ter 400 monges. Ali ele construiu uma hospedaria para os peregrinos e um hospital, com setores feminino, masculino e para doentes mentais. Tudo era mantido pela Providência divina, na qual Teodósio confiava ilimitadamente.
O bispo de Jerusalém, conhecendo a santidade e capacidade administrativa de Teodósio, nomeou-o arquimandrita (superior geral) dos monges da Palestina. Juntamente com São Sabas, outro mestre do monaquismo, Teodósio defendeu a Fé contra a heresia monofisita, que negava a distinção das naturezas divina e humana de Cristo; como o imperador Anastásio apoiasse os hereges, foi perseguido e exilado, mas não muito tempo depois voltou a Jerusalém, após a morte do imperador.
Faleceu em 529, com 105 anos. Seu mosteiro durou mais de um milênio, quando foi destruído pelos muçulmanos. Os monges gregos ortodoxos o reconstruíram no início do século XX.