确切说他火烧的是晋阳城，而非太原城——因为太原城是他折腾之后才有的名字。
晋阳始建于春秋末晋国“四卿”之一赵家的董安于，时为公元前497年，董不惜以自己生命为代价，修建了逾制的“城高四丈，周回四里”晋阳城，魏晋时成为并州州治，是所谓“晋阳西城”，东魏孝静帝武定三年（公元545年）高欢在此基础上建晋阳宫，北齐时代发展为大明宫城，隋称新城、仓城，唐贞观十一年（公元637年），并州长史李勣筑城于汾水东，称“东城”；武周时并州长史崔神庆跨水连堞筑中城，将东城和西城连接起来，形成完整且险要的晋阳城。
从先秦起晋阳城就是北方著名的割据之地：晋国四卿之乱，赵家退守晋阳孤城，智伯围攻一年三个月不下，最终反被赵、魏、韩三家逆袭瓜分；汉末曹灭袁绍，并州最后平定；五胡十六国之乱，并州是西晋北方州郡中汉人所统郡县除河西张氏外最后沦陷的；北齐高氏、唐李渊、后唐李存勖、后晋石敬瑭、后汉刘知远都以晋阳为根据地夺取帝位——当然，更重要的是，后周代后汉后，后汉的残余——北汉也是依托晋阳抵御后周，最终竟然比后周的命还要长。
晋阳能够屡屡成为割据者的“圣地”和逆袭者的天堂，奥妙在于天时（在这里成功的“逆袭者”太多）、地利（依山傍水、表里山河、物阜粮丰、人烟稠密，闭门足以自守，出山河可与天下争锋）、人和（北方口外往往有强大的游牧民族政权可为外援，河西或河北有时也有可成犄角的割据势力存在），具体到宋灭北汉时，河西固然暂时消停，北方的契丹却是强大的存在。
在赵看来，自己能够消灭北汉，很大程度上是钻了契丹“睡王”在位、内部意见不一行动迟缓的空子，时乎时乎不再来，如果不趁一时得手之际一劳永逸解决河东易割据的问题，实在后患无穷——要知道契丹能否被消灭可实在心里没底。要知道宋太祖、太宗兄弟两代花了10年力气、最后一次围攻5个月，付出巨大代价，才拿下晋阳。
于是赵光义在灭北汉后第二年即太平兴国四年（公元979年）毁太原城，迁并州于榆次，五年符昭愿知并州，在晋阳城旧址北25公里的唐明镇修太原新城，七年修竣，迁并州于太原城，这座太原城周长十里二百七十步，开四门，东曰朝曦，南曰开远，西曰金肃，北曰怀德，内有子城，周长五里一百五十七步，所谓“净是丁字路”的是这座新的太原城。
之所以这样设计是为了增加闭门死守时兵力调动的难度，减少割据的概率，但即便如此太原城仍然是此后许多次割据的中心——因为山西割据的关键并不在一座城，而在于一省一国之大势，当阎老西在全省都能修窄轨铁路的时候，一座太原城是不是丁字路有甚要紧？
现在大家明白了么？赵光义毁掉的是晋阳城，而“太原城”不但不是他毁的，相反还是他修的——尽管“太原”这个地名始于秦统一后天下三十六郡中的太原郡，但直到晋阳城被毁后的宋太平兴国七年（公元982年），才正式有了“太原城”的名字。