Begonnen hat alles 1924, als Schuhmachermeister Anton Graf in der Kirchengasse 6 eine Schuhreparaturwerkstätte gründete. Sein Gewerk entwickelte sich gut, so dass er bald das Anwesen Kirchengasse 5 kaufte und am 1. Juni 1943 offiziell die zwischenzeitlich vergrößerte Werkstätte eröffnete. Der heutige Firmensitz ist immer noch dort.

Nachfolgend übernahm sein Sohn, Schuhmachermeister Josef Graf sen., die Werkstätte und erweiterte Sie 1954 um das Schuheinzelhandelsgeschäft. Das Sortiment wurde ausgebaut und am 4. Oktober 1972 erfolgte die Eintragung ins Handelsregister. Der inzwischen unrentable Werkstattbetrieb wurde eingestellt und die Aktivitäten ausschließlich auf den Einzelhandel konzentriert.

1991 wurde Anton Graf´s Enkel, Josef Graf jun., in ununterbrochener Reihenfolge Geschäftsinhaber. Der Diplom-Betriebswirt führte gemeinsam mit seiner Frau Ursula Graf entsprechende Aktualisierungen in Sachen Buchführung, Verwaltung und Einkauf erfolgreich ein. Außerdem stellte er sich der Herausforderung des Internets und ging mit www.schuhe.neumarkt.de online.

 1997 begann dann ihre Tochter Tanja Graf die Ausbildung zur Einzelhandelskauffrau im elterlichen Betrieb, die sie 1999 mit Erfolg abschloss. Sie ist seit Januar 2017 Inhaberin von Schuh Graf.