לוי נולד להורים אורתודוקסים ולמד בבית ספר עממי כללי, לצד לימודי אחר הצהריים בחדר. בסיום לימודיו יצא ללמוד שנתיים בישיבה במישקולץ. בהיותו בן 14 עבר לבודפשט ולמד בה בגימנסיה היהודית, לקראת לימודים בבית המדרש לרבנים בבודפשט. בשנת 1944 סיים לימודיו בהצטיינות. בתקופה זו היה חבר תנועת ׳הנוער הציוני׳, ועם פלישת גרמניה הנאצית למדינה עסק בפעולות המחתרתיות של התנועה. סייע בהשגת תעודות מזויפות למשרתי פלוגות העבודה וליהודים שרצו לחמוק מהגטו. סיפק מצרכי מזון לקשישים יהודים שגרו בתוך ׳הבתים המסומנים׳. ברחובות בודפשט הוא נע כשהוא לבוש בגדי כומר.
בתום המלחמה ליווה קבוצת ילדים יתומים לדברצן ועמד בראש בית ילדים במקום (׳בית הילדים ע״ש אבא ברדיצ׳ב׳) עד סוף 1948, במשך כארבע שנים. בדברצן סיים ב-1948 לימודי תואר ראשון בחינוך ופילוסופיה.
בשנת 1949 עלה לישראל עם רעייתו. בתם נותרה בחסות בני משפחה עד שהתאפשרה עלייתה. לוי החל לעבוד כמנהל בית הספר בתחומי כפר הנוער ניצנים לילדים פליטי השואה. בשנת 1959 השלים לימודי תואר שני בחינוך באוניברסיטה העברית בירושלים. לאחר מכן יצא ללימודי דוקטורט באוניברסיטת שיקגו, בהנחיית בן בלום, והתמחה בתחום הערכת תוכניות לימודים. בשובו לישראל היה שותף בהקמת המרכז לתוכניות לימודים והיה בו יועץ מדעי. באוניברסיטת תל אביב הצטרף לסגל ההוראה והתקדם לדרגת פרופסור. מחקריו עסקו בבניית תוכניות לימודים ובתחום ההערכה בחינוך.
לוי נודע כמומחה בינלאומי בתחום הערכה בחינוך. בשנת תשנ״ח הוענק לו פרס ישראל לחינוך.
