على مر التاريخ كان باب الخليل من الأبواب المركزية في أسوار مدينة القدس ، مبني على شكل زاوية قائمة، للحيلولة دون الأعداء والمقتحمين ومنعهم من الدخول عن طريقه إلى المدينة وللحد من قوة هجومهم. وقد ذكره المقدسي في كتابه أحسن التقاسيم باسم باب محراب داود، ويسمى أيضا باب يافا، ويسمى باب بيت لحم، وهو أيضا بوابة عمر لأنه الباب الذي دخل منه عمر بن الخطاب عند تسلمه القدس. وسبب تعدد تسمياته أن الباب يؤدي غربا إلى بيت لحم والخليل ويافا، فسمي بأسماء المدن التي يؤدي إليها غرب القدس. ويتكون الباب من مدخل وعقد حجري كبير مدبب، وبينهما نقش كتابي حجري تذكاري يبين اسم السلطان، وألقابه وسنة البناء، ويغطي فتحة المدخل مصراعان كبيران من الخشب المصفح بالنحاس ، ويؤدي المدخل إلى دكاره يغطيها قبو مروحي، ثم يؤدي إلى ممر ينعطف إلى جهة اليسار، ثم ينعطف إلى جهة اليمين حيث ينفذ إلى داخل القدس. من جهة اليسار، داخل ساحة صغيرة محاطة بجدار، هنالك قبران مبنيان بأسلوب عثماني ، وتروي القصص أنهما قبرا المهندسين الذين قاما ببناء سور المدينة. هناك رواية تقول أن السلطان سليمان القانوني أمر بقطع رؤوسهم ودفنهم هناك لأنهم تركوا قبر داود الموجود على جبل صهيون خارج مجال الأسوار. و رواية أخرى تقول، أن السلطان أعجب كثيرا بعملهم لدرجة انه أمر بقتلهم حتى لا يقوم أحد آخر باستخدامهم لبناء ما يشابه أسوار القدس .وتقع في الجهة الشمالية الشرقية منه قلعة القدس (قلعة باب الخليل) التي ينسب بناؤها إلى هيرودوس الحاكم الأدومي لمقاطعة فلسطين في عهد الرومان، وفيها البرج الذي بناه الملك النصار داود من ملوك الأيوبيين وسمي البرج نسبة له “برج داود “، وليس نسبة إلى داود عليه السلام. تبلغ مساحة القلعة أكثر من سبعة دونمات، وتحتوي على مساحات وغرف وقاعات متعددة ولها مدخل واحد من جهة الشرق والثابت أنها بناء إسلامي يؤيد ذلك مخطوطتان حجريتان عثر عليهما العام 1938 الباحث الأثري “جونز موكان” مدير الآثار الإسلامية أيام الانتداب البريطاني. في العام 1898 م فتحت ثغرة في سور القدس بالقرب من باب الخليل كي تتمكن عربة قيصر ألمانيا غليوم من دخول القدس عندما زار المدينة .