אביו נפטר בהיותו בן שלוש. ב־1931 עבר עם אמו ואחיו לגרמניה ומשם ב־1933 לברטיסלבה. בגיל ארבע־עשרה הצטרף ל׳השומר הצעיר׳ וב־9371 נשלח לפראג כדי להקים בה קן תנועתי.
גויס לצבא הסלובקי ושירת בו כצלם. ב־9411 ירד למחתרת בעיר טרנצ׳ין. בלילה האחרון של שנת 1943 החליטה מועצת התנועה שעל רפי, יחד עם פיל (משה אלפן), שניהם דוברי הונגרית, לעבור להונגריה כדי לפעול במחתרת בארגון התנועה ובהצלת יהודים. לאחר הכיבוש הגרמני ב־19.3.1944, היה רפי למתאם התנועה והמחתרת החלוצית אל מול המוסדות הציוניים והיהודיים. הוא קיים גם מגע עם אנשי הצבא והמשטרה ועם קבוצות התנגדות לא־יהודיות.
רפי, דובר גרמנית רהוטה ובעל חזות ארית הצטיין בכישרון לניהול משא ומתן ורכישת בעלי ברית. הוא עסק בשחרור אסירים מבתי הסוהר. תמרה חברתו, לימים אשתו, הייתה שותפה נאמנה בפעולותיו. אחרי שחרור הונגריה עבר לפראג והקים את המשרד הארצישראלי. ב־1947 עלה לארץ, יחד עם תמרה ובנו דני והצטרף לקיבוץ העוגן. היה פעיל בקיבוצו ובקיבוץ הארצי. הצטרף לשירות החוץ של מדינת ישראל וכיהן כמזכיר ראשון בשגרירות ישראל בצ׳כוסלובקיה וכשגריר ישראל במאלי, בקמבודיה וברומניה. ב־1977 יצא לאור ספרו ׳נאבקנו למען החיים׳ (הוצאת ׳מורשת׳ ו׳ספרית פועלים׳) ובו תיעוד ותיאור פעולות המחתרת החלוצית בהונגריה (תרגום הספר לאנגלית ומהדורה חדשה בעברית הופיעו בשנת 2001). היה חבר הנהלת העמותה לחקר תנועות הנוער הציוניות בהונגריה.
