בספר בראשית (נ"-כה) נאמר: "וישבע יוסף את בני ישראל לאמר: פקד יפקד אלהים אתכם והעלתם את עצמותי מזה. וימתיוסף בן מאה ועשר שניםויחנטו אותו ויישם בארון במצרים".

האגדה מספרת כי הארון היה טמון במעמקי היאור. משה רבנו בא אל הנהר, נטל לוח של זהב וחקק בו את השם המפורש. הטיל את הלוח לנהר ואמר: יוסף בן יעקב, הגיעה השבועה שנשבע הקב"ה לאברהם אבינו שהוא גואל את בניו. אם אתה עולה, מוטב.ואם לאו נקיים אנו משבועתך. מיד צף ארונו של יוסף ונטלו משה.

כשבאו בני ישראל לארץ קברו את יוסף בשכם (כמסופרביהושע כד-לב) "ואת עצמות יוסף אשר העלו בני ישראל ממצריים קברו בשכם בחלקת השדה אשר קנה יעקוב".על כך אמרו רבותינו: משכם גנבוהו ולשם נחזיר אבדתו.

קדמונים אמרו על קברו של יוסף: "זה אחד משלושת המקומות שאין אומות העולם יכולים להונות את ישראל לומר: גזולים הם בידכם."

מקומו הנוכחי של קבר יוסף ידוע מימים קדומים. מקום הקבר מוזכר בכתבי החכם היווני אוסויוס שחי בקיסריה ב מאה השלישית לספירה. על הקיסר הביזנטיניתי אודוסוס, שמלך במחצית הראשונה של המאה החמישית, נאמר כי אנשים בפקודתו חפרו בקבר על מנת להעביר את שרידיו לקושטא הבירה. הארכיבישוף שעסק בכך שילם על כך בחייו. הגיאוגרף הערבי שאמס א-דין אלמקדסי המספר על הקבר א מגלה כי קיסמים שנלקחו מארונו של יוסף שימשו לריפוי מחלות עיניים.

הקבר מוזכר בכתביהם של נוסעים רבים שעברו בארץ ישראל במהלך האלף השני לספירה- רבי יעקב הכהן, רבי אשתורי הפרחי , רבי משה באסולה ועוד רבים.

במהלך הדורות ביקרו יהודים רבים בקבר, בדרכם מירושלים לטבריה ולצפת. היתה תקופה שבאו יהודים להתיישב בשכם בקירבת הקבר. אך הישוב היהודי היה דל וסבל הרבה. לפיכך התקינו רבני ירושלים במאה השמונה עשרה תקנה הקובעת שכל מי שבא להשתטח על הקבר חייב לתת נדבה לתמיכה בישוב היהודי שם.

עם הכיבוש הערבי אימצו לעצמם הכובשים הערביים את הקבר וקראו לו קבר יוסוף א-סדיק. ועכשיו יש לשמאל עילה טובה לומר שזה לא אתר יהודי קדוש אלא קבר של שייך מוסלמי.

(על פי"מצבות קודש בארץ ישראל"מאת ד"ר זאב וילנאי)