카파도키아(Cappadocia)의 카이사레아(Caesarea) 교외 무탈라스카(Mutalaska)에서 어느 장교의 아들로 태어난 성 사바는 부친이 알렉산드리아(Alexandria)로 전근감에 따라 삼촌의 도움으로 자랐다.

숙모의 학대를 이기지 못한 그는 불과 여덟 살의 나이로 다른 삼촌에게 도망갔다고 한다.

그러나 이 두 삼촌들이 집안 재산에 대한 소송 문제로 괴롭히자, 이번에는 고향에서 가까운 어느 수도원으로 피신하였다. 18살 때인 456년 예루살렘의 파사리온 수도원으로 옮겨 성 에우티미우스(Euthymius, 1월 20일)의 제자가 된 성 사바는, 스승에 의해 와디 무켈릭(Wadi Mukelik)에 있는 성 테옥티스투스(Theoctistus)의 수도원으로 보내져 그곳에서 17년을 보냈다. 478년부터는 예루살렘 남동쪽의 와디 엔나르의 동굴에서 은수생활을 시작하였다.

스승인 성 에우티미우스가 운명하자 그는 예리코(Jericho)와 가까운 사막으로 가서 혼자 4년 동안 지냈는데, 이때부터 제자들이 모여 들기 시작해서 483년에는 일종의 수도 공동체인 '마르 사바 라우라'를 형성하였다. 150명이나 되는 제자들의 요구 때문에 그는 하는 수 없이 예루살렘의 총대주교로부터 사제로 서품되었는데, 이집트와 아르메니아(Armenia)에서 제자들이 계속 몰려들었기 때문에 또 다른 수도원을 세우지 않을 수 없었다.

그는 팔레스티나 지방의 모든 은수자와 독수자 그리고 회수자들의 지도자로 임명되었으나, 그 권한을 행사한 사실은 없었다고 한다.

그는 병에 걸리지 않을 정도로만 음식물을 섭취했을 따름이었다.

또한 사막의 은수자였지만 정통교리 수호를 위하여 헌신했는데, 오리게네스파와 그리스도 단성론을 특히 배격하였다. 531년 고령인 그는 콘스탄티노플(Constantinople)로 가서 사마리아인들의 봉기에서 주민들을 보호하려는 운동을 전개할 만큼 현실적인 문제에도 관심을 가진 은수자였다.

이 여행에서 돌아온 직후 자신의 후계자를 선임한 뒤, 532년 12월 5일 94세의 고령으로 마르 사바(Mar Saba) 수도원에서 사망하였다.

그는 초대 수도자들 가운데 가장 돋보이는 인물이며, 동방 수도회의 설립자라 해도 과언은 아니다.