Johannes, som også kalles Johannes av Saba eller 'den gamle', ble født i byen Aradamust som ligger nordvest for en by som har vært i nyhetsbildet ganske lenge, nemlig Mosul i dagens Irak. Som ung besøkte han ofte et kloster like i nærheten, klosteret Mar Yozadaq. Her skaptes en lengsel etter et eneboerliv i stillheten, hvor han kunne leve i bønn. Det fant han på fjellet Dalyatha, derav hans navn. På dette fjellet oppholdt han seg store deler av livet. Her levde han i nærkontakt med naturen, og beundret dens skjønnhet, noe hans etterlatte skrifter vitner om.
Men han skulle ikke bli helt alene her. Mennesker som lever nært Gud, tiltrekker seg andre mennesker som bærer på samme lengsler.
Johannes fikk flere disipler eller læresvenner. For å hjelpe dem inn i et djupere liv med Gud , begynte Johannes å skrive ned sine egne erfaringer med Herren. Johannes var selv påvirket av blant andre Evagrios av Pontos, Makarios og Gregorios av Nyssa. Selv betonte han Guds kjærlighet sterkt. Johannes skrev:
"Kjærligheten er rettferdighetens kilde i hjertet, innsiktens port, det levende vannet som gir liv, den kjenner hemmelighetene både i den synlige verden og i det skjulte."
Mot slutten av sitt liv brøt Johannes opp fra sitt kjære fjell, og dro til den sørøstlige delen av nåværende Tyrkia, sammen med noen av munker for å restaurere det forlatte klosteret Mar Yacub, hvor han så ble leder for en kommunitet der.
