המושבה נוסדה ב-1882 בידי עולים מרומניה,
והייתה מהמושבות הראשונות של תנועת "חובבי ציון"(תנועה בעלייה הראשונה).
תחילה נקראה זמרין, השם הערבי של
האזור, שנחשב בטעות לשיבוש השם "שומרון". ב-1883 לאחר שהמושבה נקלעה
לקשיים, נטל אותה הברון אדמונד (בנימין) דה-רוטשילד, המכונה "הנדיב
הידוע", תחת חסותו, וקרא לה זכרון-יעקב על שם אביו ג'יימס (יעקב). ביוזמתו
ניטעו כרמי יין והוקם היקב הגדול, השני בארץ
(הראשון הוקם בראשון-לציון). הכרמים הראשונים נפגעו קשה מן הכנימה פילוקסרה, וזנים חדשים הובאו מאמריקה. בשנת 1900 הועברה המושבה לטיפולה
של יק"א.
ב-1903 נערך בזכרון-יעקב כנס של המתיישבים
היהודים בארץ ישראל, וביוזמת מנחם אוסישקין הוחלט, בין השאר, לייסד את הסתדרות
המורים. הרופא הלל יפה, הידוע במלחמתו בקדחת, גר במושבה זו, ובה גרה גם משפחת
אהרונסון, שבניה אהרן ושרה ייסדו את ארגון המחתרת ניל"י. ביתם הוא עתה
מוזיאון, ולידו אוסף בוטאני. בבית
העלמין של זכרון-יעקב קבור דוד רמז, מי שהיה שר התחבורה, ולפני כן מנהיג פועלים.
על שמו קרוי "בית רמז", בית המרגוע הגדול של קופת חולים. ברמת הנדיב,
ליד המושבה, הוקמה ב-1954 אחוזת-קבר מפוארת, ובה נטמנו עצמות הברון בנימין
דה-רוטשילד ורעייתו. סביבה ניטע וטופח אחד הגנים היפים ביותר בישראל.