身为著名歌手，林俊杰凭着迷人的歌声吸引了许多粉丝的心，他的粉丝遍及各地，超越各个年龄段，林俊杰于2003年出道，那时候的他发售了第一张创作专辑《乐行者》，专辑共收录了11首歌手，包含《就是我》、《不懂》、《会有那么一天》、《让我心动的人》等。2004年，林俊杰发售第二张专辑，当中《江南》就是这张专辑中的歌曲，他也由于这首歌引发广泛关注，林俊杰的音色十分独特，能够 掌控不同风格的歌曲，出道很多年的他曾尝试多种多样风格，例如中国风、R&B、电子、轻摇滚等。身为华语乐坛的代表歌手之一，林俊杰的人气很高，许多歌曲都曾火遍街头巷尾，他的代表作有《一千年以后》、《曹操》、《醉赤壁》、《修炼爱情》、《她说》、《不为谁而作的歌》、《可惜没有如果》等。2003年，发售第一张全创作专辑《乐行者》。尽管时逢SARS，但他和团队不轻言放弃，在3个月内走遍26个城市，开展了上百场演出，确立了以后在中国大陆的稳固基础。
2004年，游走大陆，让自小接受英语教育的林俊杰初次体会中华文化所带来的冲击性，融合西方R&B现代曲风和中国风的专辑《第二天堂》由此诞生，主打歌《江南》成为林俊杰音乐事业上的代表作；同一年更凭着《乐行者》专辑拿下第15届台湾金曲奖最佳新人奖。
