Urodził się w 439 r. w Mutalasce koło Cezarei Kapadockiej. Od ósmego roku życia przebywał w klasztorze jako oblat. Kiedy miał 18 lat, udał się do Palestyny, aby tam połączyć się z mnichami klasztoru Theoktistos. Potem udał się do klasztoru położonego w pobliżu Morza Martwego. Za zezwoleniem opata zamieszkał w 469 r. w skalnej grocie jako pustelnik, a jedynie w soboty i w niedziele przychodził do klasztoru, aby wieść życie wspólne i uczestniczyć w liturgii. Kilka lat później zamieszkał w jednej z grot w pobliżu potoku Cedron (Jerozolima) w 478 r. Z czasem zgromadzili się wokół niego uczniowie. W 483 r. wystawił kościół, a dokoła cele mnichów, których liczba doszła do kilkuset. W wieku 48 lat przyjął święcenia kapłańskie. Zostawił w Palestynie 7 klasztorów dużych, 8 mniejszych i 3 hospicja dla pielgrzymów. W sporach doktrynalnych Saba opowiedział się za nauką Soboru Chalcedońskiego. Jest autorem „Typikonu” – księgi regulującej przebieg całorocznej liturgii. Została ona przyjęta przez cały Kościół Wschodni. Zmarł w klasztorze Mar Saba 5 grudnia 532 r.