Bereits vor der Rumpf-Mühle befand sich am Standort ein Vorgängerbau, der ebenfalls als Mühle fungierte. Im Jahr 1846 wurde die Rumpf-Mühle erbaut, in der Folgezeit erweitert und aufgestockt: Die heute vorhandenen Gebäude stammen aus unterschiedlichen Epochen, der Großteil ist vermutlich im Jahr 1846 und in den folgenden Jahrzehnten entstanden oder umgebaut worden Das Lager wurde gegen Ende des 19. Jahrhunderts ergänzt, das Silo stammt aus den 1920er Jahren.
Bis heute unterlag die Mühle regelmäßig einem enormen Bedeutungswandel doch hatte dabei immer einen wichtigen wirtschaftlichen und ideellen Faktor für den Ort Laubenheim. Anfänglich war die Mühle zentral für das Leben in Laubenheim, da sie durch das mahlen von Mehl ein essenzielles Grundnahrungsmittel lieferte und als einer von wenigen Arbeitsgebern in der Ortschaft fungierte. Sie war die größte Industriemühle an der Nahe und die letzte Mühle an der Nahe vor der Mündung in den Rhein.