Von den nichtkirchlichen Bauten des alten Pfarrhofes steht heute nur eine alte "Bauernburg". Zum Schutz gegen raubende Scharen baute die Landbevölkerung im Mittelalter feste Häuser, sogenannte ,,Steinwerke" oder ,,Wehrspeicher. Im Gegensatz zu den damals üblichen Fachwerkbauten waren diese ganz aus Stein errichtet und somit feuerfest. Im Ernstfall schaffte man alle wertvollen Schätze: Schlachtungen, Eier, Butter, Korn, Brot, Kleidung, Leinen etc, dorthin und verteidigte sich hier. Solche Steinwerke hat es auf sächsischen Bauernhöfen schon im 9.Jahrhundert gegeben.

Der Gutshof zu Stapelage war für raubende und plündernde Scharen ein verlockendes Ziel, lag er doch unweit der großen Kurstraße durch den Teutoburger Wald, der Dörenschlucht und direkt am Eingang der Stapelager Schlucht. So wurde der Meierhof mit Kirche und Pfarrhof zu einer Verteidigungsanlage umgebaut. Ein Steinwerk (Bauernburg) befand sich links gegenüber vom Haupthaus des Gutshofes. Östlich vom Mühlenteich lag eine befestigte Mühle. Eine weitere Bauernburg ist bis heute noch erhalten geblieben und steht, wie schon erwähnt auf dem Pfarrhof. Es ist ein zweistöckiges, von dicken Mauern umschlossenes Gebäude. Mehrere Schießscharten (Öffnungen, die nach innen weit sind und nach außen einen schmalen Schlitz bilden) befinden sich im Mauerwerk.