מיקומן של הנסיכויות הרומניות בצומת חשוב של נתיבי המסחר בין האימפריה העות'מאנית לבין מרכז אירופה, מסביר את נוכחותם של יהודים במרחב הרומני כבר במאות ה-14 וה-15. בעקבות רדיפת היהודים במרכז אירופה, יהודים רבים שגורשו מגרמניה, אוסטריה והונגריה מצאו מקלט בוולאכיה ובמולדובה.
לאחר גרוש ספרד, בעקבות היווצרותן של הקהילות הספרדיות הגדולות באימפריה העות'מאנית, היה המרחב הרומני נתון בין שני ריכוזי היהודים הגדולים באירופה - הספרדים שכונו "טורקים" בדרום, והאשכנזים שכונו "פולנים" ואחר כך "גרמנים" בצפון. עם זאת, עד המאה ה-16 לא היתה התיישבות קבע בוולאכיה ובמולדובה. הסיבות העיקריות לכך היו שהחיים העירונים לא היו מפותחים מספיק ולא היה שלטון מרכזי יציב שיכול היה להעניק ליהודים ולאוכלוסיות אחרות תחושת ביטחון. לעומת זאת, בטרנסילבניה, שבה החיים העירוניים היו מפותחים יותר והשלטון המרכזי היה יציב יחסית, יש עדויות להתיישבות יהודית כבר במאה ה-14.
במאה ה-15 כבשו הטורקים את מדינות הבלקן, וביניהן נסיכויות מולדובה וולאכיה, ולקראת אמצע המאה ה-16 הגיעו למרחב הרומני יהודים ספרדים מדרום הדנובה לוולאכיה ולטרנסילבניה, שמרביתם היו סוחרים ועסקו במתן הלוואות. הם לא הקימו ישובי קבע מאחר שיהודי הנסיכויות הרומניות לא זכו בזכויות שהוענקו לקהילות זרות אחרות כמו הארמנים הנוצרים. בטרנסילבניה, לעומת זאת, יש עדויות להתיישבות יהודית כבר במאה ה-14. על פי מקור רבני מסלוניקי, התקיימה קהילה יהודית ספרדית בבוקרשט כבר בסוף המאה ה-16.
למן אמצע המאה ה-16 עלה מספר היהודים שהתיישבו בוולאכיה ובמולדובה, בעקבות הגירת יהודים מפולין והתייצבות השלטון. המצב השתנה כליל בשנת 1648 עם גל ההגירה הגדול שהגיע מפולין בעקבות גזירות ת"ח-ת"ט, הפרעות שערכו הקוזקים של חמליניצקי ביהודי אוקראינה ובלארוס.
מאה שנים מאוחר יותר, בעקבות מלחמת טורקיה - רוסיה (1768-1772), הגיעו למולדובה ולוולאכיה יהודים מרוסיה ומפולין. בשלב זה הזמינו הנסיכים הרומנים את הפליטים הללו שהיו ידועים כסוחרים מיומנים להתיישב בארצותיהם. עם זאת, מספר היהודים נשאר קטן יחסית. רק במאה ה-19, בעקבות הרדיפות של משטר הצאר ברוסיה, הגיעו למולדובה פליטים יהודים רבים מאוקראינה ומגליציה, ובתחילת המאה ה-20 כבר ישבו בממלכה הרומנית - "הרגאט" - כרבע מיליון יהודים.