Die Idee eines Archivs kam schon nach der Fußballweltmeisterschaft 1974 von Herbert Neumann. „Erinnerungen drohen zu Verkümmern: Frankfurt fehlt ein Sportarchiv“ (FAZ, 24.04.1974).
Die Vorstellung des Museums verwirklichte sich im Jahre 1990. Das Sportmuseum konnte das Tribünengebäude der Stadionrennbahn übernehmen, musste aber im Jahre 2002 wegen dem Umbau des Waldstadions ausziehen.
Das Frankfurter Sportmuseum befindet sich heute im Nike-Gebäude, im Nike Stadium Store. Aufgrund einer Vereinbarung zwischen der Sportpark Stadion Frankfurt am Main Gesellschaft für Projektentwicklungen mbH und der Nike Deutschland GmbH, wird seither auf einer Fläche von 200 Quadratmetern im Erdgeschoss der neuen Unternehmenszentrale des Sportartikelherstellers an der Otto-Fleck-Schneise, die Dauerausstellung „Frankfurt am Start - Sportgeschichte der Mainmetropole“ gezeigt.