מערת אליהו הקיימת בחיפה היא בעלת מסורת קדושה, מן הקדומות בארץ ישראל, המייחסת את המערה למקום מחבואו של אליהו הנביא בכרמל. המערה מוזכרת כבר בחיבור הארמי 'חיי ישו' המיוחס למאות ד'-ה' לסה"נ, כתב יד שנתגלה בגניזה הקהירית; הכתובות הרבות[13] וכן ציורי מנורות, שופר ולולב שנחרתו על כתלי המערה, מעידים כולם על השימוש במערה על ידי יהודים ונוצרים כאחד, לפחות מן התקופה הביזנטית ואילך[14]. גם מתקופת הגאונים קיימת עדות לקידוש האתר: ברשימת כנסיות אליהו, בכתב יד פרמא מהגניזה הקהירית, מוזכר: "כנסיות אליהו אחת בחיפא שתים בעכו". נראה שהכוונה למערת אליהו, שמפאת חשיבותה אף פותחת את הרשימה הנ"ל, ומייחסת לאליהו את כל האתרים המקודשים שברשימה[15]. המערה היא אחד מהציונים שמופיעים כמעט בכל כתבי הנוסעים שביקרו באזור, מבנימין מטודלה במאה הי"ב [ד"א תתק"ל], מראשוני הנוסעים היהודיים, שמזכיר את המערה למרות שהקהילה היהודית בחיפה כבר לא היתה קיימת, עד לנוסעים המאוחרים ביותר בתחילת המאה הכ'. במערה התקיימה הילולה, המוזכרת כבר במאה הט"ז לסה"נ על ידי המבי"ט [שו"ת מבי"ט חלק ג סימן רכ]. תאור מפורט של המערה מן המאה הי"ח לסה"נ ניתן על ידי ר' אברהם ישמעאל סאנגויניטי [ה"א תק"ב], בזמן שביקר במקום עם ר' חיים בן עטר, האור-החיים הקדוש, ואף שהה שם ביום כיפור[16].
בחלקה המערבי של המערה קיים אולם מלבני חצוב, ומול הפתח ישנו כוך ארוך ובו דרגשים להנחת נרות. בקירות המערה נחרתו למעלה ממאה וחמישים כתובות[17] מן המאות ה'-ו' לסה"נ (התקופה הביזנטית, שלהי תקופת התלמוד)[18]. כל הכתובות הינן כתובות זיכרון שנחרתו על ידי עולי רגל שבאו לבקש במערה מרפא וישועה, ורבות מן הכתובות מתחילות במילה 'יזכור'. כתובת עברית יחידה מזכירה את 'יצחק בר כונה'. כמו כן נחרתו על קירות המערה שתי מנורות בעלות שבעה קנים. בסקר ארכיאולוגי שנערך במערה וסביבתה נלקטו חרסים מן התקופה הרומית, הביזנטית והעות'מאנית. בקרבת העלייה למערה ישנם כוכים חצובים בסלע, ו-50 מטר מדרום למערה ישנה מערה נוספת החצובה בסלע[19]. כמו כן נמצאו באזור סימני חציבה, מתקנים לאגירת מי גשמים ושלושים ואחת מדרגות חצובות המובילות לבור מים מטוייח.