コルマール駅は、シュトラスブール(Strasbourg) と、バーゼル(Basel) を結ぶ鉄道の中間駅として、1841年に開業した。鉄道会社の当初の名称は
シュトラスブール=ベール鉄道(Compagnie du chemin de fer de Strasbourg a Bale) で、1854年には、パリ=シュトラスブール間の 東部鉄道(Compagnie
des chemins de fer de l'Est )に吸収された。1871年には普仏戦争の結果、アルザス・ロレーヌ地方はドイツに割譲され、その地の鉄道もドイツ帝国鉄道アルザス・ロートリンゲン線(Reichseisenbahnen
in Elsas-Lothringen)となった。
現在の駅舎は、ドイツ領であった1907年に完成した。よく似たデザインが、当時ドイツ領であったグダンスク駅(ポーランド領)にも採用されている。
1918年には第一次世界大戦のドイツの敗戦の結果、再び、フランス鉄道に戻されている。