科隆的历史可以追溯到公元前1世纪。起初是军营要塞。
公元50年，克劳锹一世下诏，授予此地罗马城市的权力，并定名为科隆尼亚 克劳狄 阿拉 阿格里皮内西姆。科隆尼亚意为罗马人的拓居地，克劳狄是皇帝名，阿拉是乌比尔冲淡落的祭坛，阿格里皮内西姆则是皇后名加词尾变化而来。
天长日久，这冗长的市名遂简化为科隆。
公元795年，查理大帝定科隆为大主教驻地。此后，城池经几度扩建。
12世纪时，今日科隆内城的规模就已经奠定。半圆形的城垣总长6公里，开有12座城门，居民4万人，是德意志首屈一指的大城，人口甚至超过当时的巴黎和伦敦。
随着经济势力的增强，科隆的富商和手工业行会夺回了城市管理权，科隆成为帝国自由市和汉萨同盟的重要城邦。
1815年，科隆被并入普鲁士。
1839年，铁路修到科隆，与河运联成一气。
1876年，发明家奥托在科隆造出世界上第一台四冲程内燃机，轰动了各国工业界。
1880年，科隆大教堂建成。
从1917年到1933年，阿登纳担任科隆市长。在他的推动下，科隆建起了内外环绿化带和博鉴会场设施，城市面貌大为改观。
二战中，科隆遭到猛烈轰炸，全城几乎被夷为平地。
战后，科隆在废墟上重建，又成为一个兴旺发达的现代化大城市。
