ミュールーズの最初の駅は1839年に ミュールーズ・タン鉄道 (Compagnie du chemin de fer de Mulhouse a Thann) の駅として開設された。
1841年には
シュトラスブール＝ベール鉄道(Compagnie du chemin de fer de Strasbourg a Bale) がこの町を通るようになり、ほぼ現在地に新しい駅が建設された。この時の駅舎は長く使われたが、次第に手狭になり
1928年から新しい駅舎の建築が始まり、1933年に完成した。この建物は第二次大戦での爆撃で損傷を受けたが戦後修復され現在も使われている。
