Mitte des 13. Jahrhunderts wurde das Gebiet von Greffen aus der Harsewinkeler Pfarrei St. Lucia ausgegliedert und zur eigenständigen Pfarrei St. Johannes Baptist erhoben. Der ursprünglich romanische Kirchbau aus dieser Zeit wurde durch ein neues Kirchenschiff im gotischen Stil erweitert. Dieser Kirchbau erwies sich am Ende des 19. Jahrhunderts zu klein, weshalb 1899/1900 ein großzügiger Erweiterungsbau nach Plänen des Architekten Hilger Hertel d. J. errichtet wurde. Der Chorabschluss und zwei Gewölbe im Mittelschiff der heutigen Kirche gehen noch auf den Bau von 1500 zurück, die übrigen Joche des Mittelschiffs und die beiden Seitenschiffe der Hallenkirche sowie der Turm gehören zu den neugotischen Erweiterungen. Bis heute verfügt die Kirche über eine sehenswerte barocke Ausstattung.
