חיפה אינה מוזכרת במקרא[1], ונראה שההתיישבות בה החלה רק בתקופה הפרסית. שמה מופיע לראשונה במקורות היהודיים [תוספתא יבמות ו, ח ומספר רב של פעמים בתלמוד] כיישוב של תלמידי חכמים, ומחיפה מוכרים יוסי חיפני – שמשו של ר' יהודה הנשיא [כתובות קג, א], ר' חלפתא דמן חיפה [גיטין פו, ב], רבי אבא דמן חיפה [שבת מה, ב], והחכם החיפני הידוע ביותר – רבי אבדימי דמן חיפה, המוכר גם מן המדרש, ואשר הורה בחיפה [ירושלמי עירובין ב, א][2]. יהודי חיפה חיו, וכנראה אף סבלו, תחת השפעת העמים השכנים מצפון ומדרום – הפניקים והשומרונים[3]. נראה שמיקום היישוב בסביבה מעורבת גרם לשגיאות בהיגוי של חלק מאותיות העברית, כפי שנאמר: "אין מורידין לפני התיבה לא אנשי בית שאן ולא אנשי בית חיפה ולא אנשי טבעונין, מפני שקורין לאלפין עיינין ולעיינין אלפין [היהין חיתין ועיינין אלפין, שהם פוגמין בתפילתן – רש"י]" [מגילה כד, ב; ירושלמי ברכות ב, ד]. מעניין לציין כי בכתובת שנמצאה בבית הכנסת של רחוב  שליד בית שאן, יש חילופי אותיות א' ו-ע' וכן ה' ו-ח', תואם לחילופים שהיו בדיבורם.

במחצית השניה של המאה הי"א לסה"נ הפכה חיפה למרכז יהודי חשוב ליהודי הגליל, לאחר שישיבת גאון יעקב בראשותו של ר' אליהו הכהן גלתה מירושלים לצור, וחיפה נבחרה כמרכז הסמלי לריבונות הגאונות הארץ-ישראלית בראשות ר' אליהו הכהן[4]. באירוע רב רושם שנערך בחיפה בהושענא רבה בשנת 1082 לסה"נ קידש ר' אליהו הכהן את השנה, חידש את הגאונות והסמיך 'חברים בסנהדרין הגדולה'. תאור המאורע המופיע במגילת אביתר, שחוברה בידי אביתר בנו של ר' אליהו הכהן ונמצאה בגניזה הקהירית, מספר על הגעתו של ר' אליהו הכהן לחיפה "לקדש את השנה, וחידש את הגאונות ואת הסמיכה בבית הועד נגד כל בני ישראל, וישם אלות נמרצות וקללות נחרצות על כל חולק ומפליג ועל כל גוזל ומשיג גבולין, וכתוב בספר התקנה והסמיכה, וחותם ידו ויד כל החכמים בו". אך למרות אירוע חשוב זה המצביע על חשיבות המקום בעיני יהודי ארץ ישראל, הביא הכיבוש הצלבני בשנת 1100 לחורבן היישוב היהודי בחיפה, ור' בנימין מטודלה העובר בה בסביבות 1170 לסה"נ [ד"א תתק"ל] אינו מזכיר כבר קהילה במקום[5].

בתקופה הממלוכית (מאות י"ד-ט"ו לסה"נ) הפכה חיפה לכפר קטן ודל[6]. רק בתקופה העות'מאנית התאוששה מעט, ובראשית המאה הי"ח אף שימשה כנמל בסיס לשודדי הים ממלטה הידועים לשמצה. באמצע המאה הי"ח הרס השליט הבדואי דהר אל-עומר את חיפה העתיקה, ובנה אותה מחדש מעט מזרחה יותר[7]. מאותה עת התקיימה בה קהילה יהודית שהיתה מיעוט בקרב המוסלמים והנוצרים (במהלך המאות י"ח-י"ט לסה"נ), אך ברבות הימים הפכה לרוב. תרמו לכך פיתוחה המואץ של העיר, בניית הנמל המודרני וירידתה של עכו שכנתה העתיקה מצפון במאה הכ' לסה"נ[8].
 
הממצאים באתר
מחיפה העתיקה כמעט ולא נותר דבר. באזור הצפוני המישורי של חוף חיפה, היום באזור בית החולים רמב"ם ושכונת בת גלים, נתגלו בעבר חרסים מן התקופה הפרסית ועד לתקופה הצלבנית: מטבעות מן התקופה החשמונאית (כולל מטבע של אלכסנדר ינאי), ומטבעות מן התקופה הביזנטית (כולל מטמון מטבעות זהב מימי הקיסר פוקאס – ראשית המאה הז' לסה"נ). כמו כן נתגלו שרידי בניה קדומים וקטעי רצפות פסיפס. על חוף הים תועדו חציבות ומתקנים קדומים. שרידים אלה, המשתרעים על שטח של כ-300 דונמים באזור המישורי הנ"ל[9] מצביעים, כנראה, על מיקומה של חיפה מתקופת הבית השני, המשנה והתלמוד. חלק מבית הקברות של העיר אותר בעבר באזור 'חיפה אל-עתיקה', מעט דרומית-מזרחית לתחומי העיר הקדומה, וצפונית-מערבית לבית הקברות היהודי הישן שבו מצוין היום קברו של ר' אבדימי דמן חיפה.

בבית הקברות ישנן מערות קבורה מפוארות, אך המערה היחידה שעדיין גלויה כיום (שנת תשס"ט) נמצאת מתחת לגשר שמעל מסילת הרכבת[10], ראה להלן קבר הרמב"ן. זוהי מערכת קבורה גדולה ומפוארת. היא נסקרה ונמדדה בשנת 1890 על ידי המהנדס הגרמני ג. שומכר, תושב המושבה הטמפלרית הסמוכה לאתר ממזרח, נוקתה בשנת 1955 על ידי ז. גולדמן מטעם אגף העתיקות, נסקרה שוב בשנות ה-60 של המאה הכ' על ידי סוקרי אגף העתיקות, ובראשית המאה הכ"א, בזמן עבודות פיתוח לאורך מסילת הרכבת, נוקתה המערה שוב ושוחזרה בחלקה. המערכת כוללת חצר מרכזית השקועה בסלע. החצר מוקפת אכסדרת עמודים חצובה ובנויה היטב, ומסביבה ששה אולמות וחדרי קבורה חצובים עם כוכים, שקתות, מקמרים ודרגשי קבורה. בחלק מדרגשי הקבורה סותתו בסלע מעין כריות להנחת ראשו של הנפטר. מערכת זו עברה שינויים תוספות ושיפוצים בתקופות שונות, ועל כך מעידות רצפות הפסיפס שהוכנסו בתקופות מאוחרות.

בשנת 1991 חפר ש. ינקלביץ מערת קבורה נוספת מעט ממערב למערה הנ"ל. גם מסביבה היתה חצר רבועה ואולמות קבורה. הממצא ממערה זו כלל חלקי כלי חרס, נרות שמן ומטבעות מן התקופה הביזנטית.

בשנת 1999, בזמן עבודות פיתוח המסילה, נתגלתה מערה נוספת מעט ממזרח למערה הראשונה שנסקרה בזמנו על ידי שומכר. היא נחפרה על ידי מ. פיילשטוקר מטעם רשות העתיקות[11]. גם מערה זו היתה מפוארת, וגם היא בעלת חצר ואולמות קבורה. במערה זו נתגלו ציורי מנורות המעידים על זהותם היהודית של הנקברים[12]. מערה זו נסתמה לפני כשנתיים עקב בניית מעבר תת קרקעי מתחת לפסי הרכבת.

יש לציין שבאזור זה של חיפה אל-עתיקה נסקרו עוד בשנת 1873 מערות קבורה נוספות, מפוארות אף הן, בידי הסוקרים קונדר וקיצנר במסגרת מפעל הסקר של הקרן הבריטית לחקירת ארץ ישראל. בדו"ח שמילאו הסוקרים מתוארות מערות קבורה אחדות עם חצרות מרכזיות, אולמות קבורה עם כוכים, מקמרים ושקתות קבורה. בתאורם הם מציינים 'מערכת קברים מצפון-מערב (וקרוב לצוק ראס אל כרום). מערכת קברים נוספת נמצאת יותר מערבה, אך רובה נהרסה בעת פעילות מחצבה באזור, היא נמצאת תיכף דרומה מהטחנה. יש שם גושי אבן העומדים על הצד ומסמנים גבול כביש עתיק. כל זה קרוב לבית הקברות היהודי'.

בשתיים מן המערות מציינים הסוקרים ציורי מנורות בעלות שבעה קנים שנחרתו מעל פתחי אולמות קבורה. מיקומן המדויק של מערות אלה אבד מאז, ונראה שהן חבויות מתחת לפני הקרקע באזור זה של חיפה אל-עתיקה, הרווי כנראה במערות קבורה יהודיות מפוארות מתקופת התלמוד. נראה שהמערות באזור הן בעלות תכנית דומה, ואולי אף אחידה. כמו"כ מתחת לנמל כנראה שיש מערות קבורה לפי הממצאים שנתגלו באזורו, וכן במפה מצויין כי באזור ביה"ח רמב"ם בשטח הצבאי ישנם קברים.

מערת אליהו הקיימת בחיפה היא בעלת מסורת קדושה, מן הקדומות בארץ ישראל, המייחסת את המערה למקום מחבואו של אליהו הנביא בכרמל. המערה מוזכרת כבר בחיבור הארמי 'חיי ישו' המיוחס למאות ד'-ה' לסה"נ, כתב יד שנתגלה בגניזה הקהירית; הכתובות הרבות[13] וכן ציורי מנורות, שופר ולולב שנחרתו על כתלי המערה, מעידים כולם על השימוש במערה על ידי יהודים ונוצרים כאחד, לפחות מן התקופה הביזנטית ואילך[14]. גם מתקופת הגאונים קיימת עדות לקידוש האתר: ברשימת כנסיות אליהו, בכתב יד פרמא מהגניזה הקהירית, מוזכר: "כנסיות אליהו אחת בחיפא שתים בעכו". נראה שהכוונה למערת אליהו, שמפאת חשיבותה אף פותחת את הרשימה הנ"ל, ומייחסת לאליהו את כל האתרים המקודשים שברשימה[15]. המערה היא אחד מהציונים שמופיעים כמעט בכל כתבי הנוסעים שביקרו באזור, מבנימין מטודלה במאה הי"ב [ד"א תתק"ל], מראשוני הנוסעים היהודיים, שמזכיר את המערה למרות שהקהילה היהודית בחיפה כבר לא היתה קיימת, עד לנוסעים המאוחרים ביותר בתחילת המאה הכ'. במערה התקיימה הילולה, המוזכרת כבר במאה הט"ז לסה"נ על ידי המבי"ט [שו"ת מבי"ט חלק ג סימן רכ]. תאור מפורט של המערה מן המאה הי"ח לסה"נ ניתן על ידי ר' אברהם ישמעאל סאנגויניטי [ה"א תק"ב], בזמן שביקר במקום עם ר' חיים בן עטר, האור-החיים הקדוש, ואף שהה שם ביום כיפור[16].

בחלקה המערבי של המערה קיים אולם מלבני חצוב, ומול הפתח ישנו כוך ארוך ובו דרגשים להנחת נרות. בקירות המערה נחרתו למעלה ממאה וחמישים כתובות[17] מן המאות ה'-ו' לסה"נ (התקופה הביזנטית, שלהי תקופת התלמוד)[18]. כל הכתובות הינן כתובות זיכרון שנחרתו על ידי עולי רגל שבאו לבקש במערה מרפא וישועה, ורבות מן הכתובות מתחילות במילה 'יזכור'. כתובת עברית יחידה מזכירה את 'יצחק בר כונה'. כמו כן נחרתו על קירות המערה שתי מנורות בעלות שבעה קנים. בסקר ארכיאולוגי שנערך במערה וסביבתה נלקטו חרסים מן התקופה הרומית, הביזנטית והעות'מאנית. בקרבת העלייה למערה ישנם כוכים חצובים בסלע, ו-50 מטר מדרום למערה ישנה מערה נוספת החצובה בסלע[19]. כמו כן נמצאו באזור סימני חציבה, מתקנים לאגירת מי גשמים ושלושים ואחת מדרגות חצובות המובילות לבור מים מטוייח.