לצד הבקשה לבניית בית כנסת, הבקשה להקצאת שטח לבית הקברות היתה מהראשונות שהציגה הקהילה לאורך הדורות. בתי העלמין מעידים גם הם על חיי הקהילה היהודית, ומהווים עדות לרציפותה.
קיימים כאלף בתי קברות שנשמרו עד היום בישובים שונים ברחבי רומניה. בתי הקברות הללו מעניינים בעיקר בשל המידע שניתן לשאוב מן הכיתובים, ומן הסמלים המעניינים ולעיתים קשים לפענוח החקוקים על מצבות. הסמלים החקוקים על המצבות, בייחוד במולדובה, כוללים מוטיבים ייחודיים, ובהם בעלי חיים כמו, אריות, דובים, צבאים, ובעלי חיים דמיוניים כמו גריפונים וחדי קרן. חלק מהסמלים הללו מצויים גם באמנות הרומנית. למשל, האריה המופיע בסגנון האדריכלי של הנסיך בראנקוביאנו.
הטופוגרפיה של בתי העלמין והתאריכים החקוקים על המצבות עשויים לספק מידע חשוב על העבר של הקהילות. דוגמה מעניינת נמצאה לגבי הקהילה היהודית בבקאו, אשר ניתן היה לתארך את ראשיתה אך ורק בזכות כתובת על מצבה משנת 1703.
בתי עלמין, כמו בתי הכנסת, היו הכרחיים לקיומה של כל קהילה יהודית, והם מעידים על נוכחותה במקום. עם זאת, מסיבות שונות, כמו שחיקה בשל מזג האוויר, או הזנחה, האבנים העתיקות ביותר אבדו ברוב בתי הקברות. ולמרות שאותן מצבות עתיקות אבדו, על חלקן ניתן ללמוד מכתביהם של חוקרים שונים, שגילו את המצבות וכתבו עליהן.
בתי העלמין משקפים את תולדות הקהילה גם בעת החדשה. למשל, בבתי העלמין בבוקרשט וביאשי קבורים יש חלקות בהן קבורים חיילים יהודים שנפלו בקרבות מלחמת העולם הראשונה. מאידך, בימי מלחמת העולם השניה קיבלה ממשלת רומניה בראשותו של יון אנטונסקו החלטה לסלק את בתי העלמין היהודיים ממרכזי הערים. ההחלטה התקבלה ב-8 באוקטובר 1940, וביוני 1942 אולצו יהודי בוקרשט "לתרום" לעיריה את בית העלמין היהודי העתיק בעיר, בית הקברות סבסטופול שהוקם במאה ה-17. יתרה מזאת, יהודים גויסו לעבודות כפיה ועבדו במשך שנתיים כדי להוציא את המתים מהקרקע. שרידי המתים הועברו לבתי עלמין אחרים. על פי אותה החלטה של אנטונסקו צווה גם ראש העיר של יאשי ב-1943 להרוס את בית העלמין העתיק שהוקם במאה ה-16, כדי לבנות על הקרקע בתי מגורים עבור הנוצרים. אחרי מאמצים רבים, קיבלה הנהגת הקהילה רשות להעביר את המתים לבית קברות יהודי אחר, ותמורת שוחד הועברו גם כמה מצבות. אלא שהתושבים הנוצרים שחששו מרוחות המתים סרבו לבנות בתים במקום.
בתקופת השלטון הקומוניסטי ובניגוד למדינות קומוניסטיות אחרות, שמרו שלטונות רומניה על בתי הקברות. ב-2002, כעשור אחרי נפילת השלטון הקומוניסטי, העבירה הממשלה את הבעלות על בתי הקברות לפדרציית הקהילות היהודיות של רומניה. משהועברו אליה בתי העלמין, אפשרה הפדרציה לתושבים מקומיים לעבד את האדמה הריקה בהם - בתמורה לאחזקת בתי הקברות.
בתי העלמין משקפים את תולדות הקהילה גם בעת החדשה. למשל, בבתי העלמין בבוקרשט וביאשי קבורים יש חלקות בהן קבורים חיילים יהודים שנפלו בקרבות מלחמת העולם הראשונה. מאידך, בימי מלחמת העולם השניה קיבלה ממשלת רומניה בראשותו של יון אנטונסקו החלטה לסלק את בתי העלמין היהודיים ממרכזי הערים. ההחלטה התקבלה ב-8 באוקטובר 1940, וביוני 1942 אולצו יהודי בוקרשט "לתרום" לעיריה את בית העלמין היהודי העתיק בעיר, בית הקברות סבסטופול שהוקם במאה ה-17. יתרה מזאת, יהודים גויסו לעבודות כפיה ועבדו במשך שנתיים כדי להוציא את המתים מהקרקע. שרידי המתים הועברו לבתי עלמין אחרים. על פי אותה החלטה של אנטונסקו, ב-1943 גם ראש העיר של יאשי קונסטנטין איפאים ציווה להרוס את בית העלמין העתיק שהוקם במאה ה-16, כדי לבנות על הקרקע בתי מגורים עבור תושביה הנוצרים של העיר. אחרי מאמצים רבים, קיבלה הנהגת הקהילה רשות להעביר את המתים לבית קברות יהודי אחר, ותמורת שוחד הועברו גם כמה מצבות. אלא שהתושבים הנוצרים שחששו מרוחות המתים סרבו לבנות בתים במקום.
בתקופת השלטון הקומוניסטי ובניגוד למדינות קומוניסטיות אחרות, שמרו שלטונות רומניה על בתי הקברות. ב-2002, כעשור אחרי נפילת השלטון הקומוניסטי, העבירה הממשלה את הבעלות על בתי הקברות לפדרציית הקהילות היהודיות של רומניה. משהועברו אליה בתי העלמין, אפשרה הפדרציה לתושבים מקומיים לעבד את האדמה הריקה בהם - בתמורה לאחזקת בתי הקברות.