林俊杰表示《江南》这首歌灵感来自香港漫画《风云》，原本歌名叫《天下》，自己创作是先有画面，再用声音表达。2004年，林俊杰的专辑《第二天堂》在选歌时，《江南》这首歌曲非常不被看好，当时还没流行中国风，有人认为这首歌曲的实验性太强，10几个人中只有2个人选了《江南》，这首歌曲一度可能不会被收录在林俊杰的专辑中。但是在林俊杰的坚持下，《江南》获得了成功 。林俊杰在西安参观完兵马俑以后，就在酒店里对着西安城墙写下了《江南》。《江南》灵感来源于古老城墙，所以，他说他对城墙颇有感情，说西安是他的福地。