Der Schafgraben war eine Verlängerung des Landwehrgrabens (später Landwehrkanal), der bereits 1486 als Verteidigungsanlage ausgebaut wurde. Der Schafgraben verließ den Kanal auf Höhe der Von-der-Heydt-Straße, verlief durch den Park bis zum heutigen Bahnhof Tiergarten. Dort unterquerte er unter dem Bahnhof, auf Höhe des heutigen Burger-King-Parkplatzes, die Gleise und verlief entlang der Wegelystraße zur Spree.
An der Straße des 17. Juni kann man bis heute noch das Brückengeländer sehen.