Die Kirche der Heiligen Sergius und Bacchus wurde traditionell an der Stelle errichtet, an der die Heilige Familie, Josef, Maria und das Jesuskind, am Ende ihrer Reise nach Ägypten ruhte. Möglicherweise lebten sie hier, während Josef in der Festung arbeitete. Die Kirche ist von großer historischer Bedeutung, denn hier wurden viele Patriarchen der koptischen Kirche gewählt.

Die Hängende Kirche ist nach ihrer Lage über einem Torhaus der Babylonischen Festung, der römischen Festung im koptischen Kairo (Alt-Kairo), benannt. Ihr Kirchenschiff schwebt über einem Gang. Der Zugang zur Kirche erfolgt über 29 Stufen; frühe Reisende nach Kairo nannten sie „Treppenkirche“. Die Landoberfläche ist seit der Römerzeit um etwa sechs Meter angestiegen, sodass der römische Turm größtenteils unter der Erde liegt, was die optische Wirkung der erhöhten Lage der Kirche mindert.

Die Synagogen verfügten über eine Geniza, eine Aufbewahrungsstätte für verlassene oder veraltete Dokumente, die den Namen Gottes enthielten. Nach jüdischer Lehre mussten solche Schriftstücke mit Ehrfurcht aufbewahrt und schließlich auf einem Friedhof begraben werden. Das Gebäude aus dem 11. Jahrhundert besaß eine ungewöhnlich große Geniza, „zwei Stockwerke hoch, eher ein Silo als ein Dachboden – mit einer von oben zugänglichen Dachöffnung.“