Савелий Гринберг родился в Екатеринославе. В двухлетнем возрасте семья перехала в Москву. Закончил школу, работал на заводах. В начале 1930-х и в последующие годы активный участник Бригады Маяковского первого состава — пропагандист его творчества. В конце 1930-х Гринберг стал научным сотрудником Литературного музея. Во время войны находился в народном ополчении: несколько позже на строительстве оборонительных рубежей; затем — лектор по литературной тематике в армии и на флоте. 1943 год встретил на «Малой Земле» (под Новороссийском), 1944 год — на Рыбачьем полуострове.
В послевоенные годы Гринберг продолжал работать в московских музеях — лектором, научным сотрудником. В 1960-е годы — старший научный сотрудник Музея В. В. Маяковского. Собственные стихи Гринберга были известны и ценились в узком кругу литераторов, связанных с тем же Домом-музеем. Читал лекции в Театральном музее по теме «поэзия и драматургия».
Являясь наследником русского классического авангарда, вбирая опыт Хлебникова, Маяковского, Каменского, Пастернака, Крученых, Савелий Гринберг создал свой индивидуальный стиль, который, не вписывался в усредненную «советскую поэзию». В частности, в 60-е годы он написал серию впечатляющих обратимых стихов — палиндромов, которые сегодня признаны безусловными образцами этой формы.
В 1973 году репатриировался в Израиль. В Иерусалиме издан сборник стихотворений Савелия Гринберга «Московскяе дневниковинки». (основной материал из тетрадей 1930-1960-х годов). Много работал над переводами — с иврита на русский язык — стихотворений Ибн Габироля и современннных израильских поэтов. Переводы Гринберга, особенно из крупнейшего ивритского авангардного поэта Давида Авидана, получили высокую оценку специалистов и читателей поэзии.
Публиковался в журналах «Время и мы», «Возрождение», «Сион», «22», «Народ и земля», «Континент» и в различных антологиях. Вел цикл радиопрограмм (на русском языке), посвященных современной израильской поэзии.
В 1997 г. книга Савелия Гринберга «Осения» вышла в Москве. Это своеобразное избранное впервые представило масштаб поэтических поисков автора, последовательно и задорно продолжающего авангардную линию русской поэзии.
Умер Савелий Гринберг в Иерусалиме в 2003 году.