על פי רוב הדעות הייתה זו עירו של שמואל. לדעת י' אליצור עירו של שמואל אינה הרמה שבבנימין אלא היישוב רנתיס שבמערב שבט אפרים, ולדעת אחרים אכן רנתיס היא הרמה אך אינה הרמה של שמואל אלא הרמה המוזכרת בספר נחמיה (יא, לג).

על פי ספר שמואל שם ישב שאול בעת שגזר דין מות על כהני נוב (שמואל א' כב, ו).

לאחר פילוג הממלכה נלכדה הרמה על ידי בעשא מלך ישראל והוא החל לבצר אותה כעיר גבול (מלכים א' טו, יז; דברי הימים ב, טז, א). לאחר נסיגתו של בעשא בעקבות תקיפותיו של מלך ארם, אסא מלך יהודה לקח את אבני הביצור של הרמה וביצר איתן את המצפה שנמצאה מצפון לרמה.

על פי פירוש רמב"ן, ברמה נשמע קולה של רחל המבכה על בניה (ירמיהו לא, יד; רמב"ן, בראשית, לה, טז, ד"ה כברת).

אכן לאחר חורבן הבית הראשון רוכזו תושבי ממלכת יהודה ברמה (ירמיהו מ, א), ומשם הוגלו לבבל.