יעקב נולד לציפורה ומנחם מרקוביץ. אביו היה בעל חנות מכולת וסוחר, וגידל את חמשת בניו במשפחה דתית שחיה בסביבה כפרית אנטישמית.
יעקב למד ב"חדר" ואחר בגימנסיה בעיר הסמוכה, שאליה היה נוסע ברכבת. בהיותו בן 17 התארגן שם קן ׳השומר הצעיר׳, והשיחות עם השליח עיצבו את השקפת עולמו. עם סיום לימודיו בשנת 1940, נעשה ציוני, עבר לבודפשט ולמד חשמלאות על מנת לרכוש מקצוע מועיל בארץ. בבודפשט הצטרף לארגון ׳סלע׳ – ארגון של בוגרי ׳השומר הצעיר׳, שהתכוננו לעלייה לארץ. חברי הארגון חיו בקומונות שיתופיות בחדרים שכורים בעיר. בשנת 1942 סייע לפליטים שהגיעו מסלובקיה להונגריה על ידי תעודות מזויפות, כרטיסי מזון ואיתור מקומות מקלט. בשנת 1943 גויס לפלוגה לעבודות כפייה במסגרת הצבא ההונגרי. הוא ניסה לברוח אך נכשל.
רק באוקטובר 1944 הצליח לברוח, הגיע לבודפשט, ומצא מקלט ב׳בית הזכוכית׳. בתחילת דצמבר 1944 עבר לפשט-סנט-לורינץ (Pestszentlőrinc) בפרבר העיר, גר אצל משפחת פועלים וקיים קשרים עם תאים קומוניסטיים מקבוצת דמן (Demény), אחר כך פעל ברובע העשירי קובנייה (Kőbánya) במסגרת קבוצה שבראשה עמד יוסף מאיר (Jozsef Mayer). הוא פעל גם באזור נוסף, קישפשט (Kispest). נשא עמו אקדח והעביר חומרי תעמולה וכלי נשק.
אחרי שחרור גטו בודפשט על ידי הצבא האדום, היה בין מקימי גרעין ׳אחד במאי׳ לאיסוף צעירים ניצולי שואה שנותרו ולהכנתם לעלייה ארצה. הוא נרתם גם לפעילות בארגון ה׳בריחה׳. יעקב ארגן סמינרים ומסלולי בריחה לגרעינים שעלו לארץ כמעפילים. ב-1947 עלה יעקב לארץ, והגיע אליה ביום החלטת החלוקה של האו״ם.
הוא הצטרף לקיבוץ עין-דור, שישב אז בנחלת יהודה טרם העלייה לגליל התחתון. הוא הכיר את חנה בטירה ונשא אותה בכפר תבור. היה פלח ומרכז הפלחה. לאחר תאונת עבודה קשה, הקים, פיתח וניהל במשך 25 שנה את בית הקירור לפרי של המועצה. יעקב הפך למומחה קירור, שהכניס את שיטת הקירור העמוק לארץ.
כשחזר הביתה, עבד בקו היצור בטל-דור 25 שנים במסירות ובדייקנות.
ממשלת הונגריה העניקה לו את אות הגבורה על פעולות ההצלה במחתרת.