黄国伦从小就热爱唱歌，多次在校园歌唱比赛夺冠。黄国伦音乐生涯的开端是建国中学的吉他社，他是社长。在台湾交通大学管理科学系读大学时，他开始在民歌西餐厅驻唱，赚外快。之后还参加了台湾选秀歌唱节目《大学城》，拿下总冠军。唱片公司找上门，打算包装他出唱片，被他以想成为原创音乐人为由婉拒，毕业后，在台湾黑松汽水饮料企业工作两年。
1990年，黄国伦辞去黑松公司导游的工作，潜心于流行音乐的创作，正式进入音乐界。与父母约定四年为期，未完成音乐梦便回归上班族的生活。
1994年，成为福茂唱片的菜鸟制作人，半年后为在香港出道打算进军台湾市场的王靖雯（王菲）创作国语歌曲《我愿意》。这首流行音乐令歌星王菲唱红全世界华人地区。《我愿意》使王菲变成天后，也使黄国伦成为炙手可热的音乐制作人。从《我愿意》开始，《味道》、《不要对她说》，都轻轻松松破百万张销量。他一夕翻身，成为台湾金牌制作人，唱片公司曲约不断。
1995年，香港商业电台遴选黄国伦为当年度台湾最佳创作人。之前的七年，台湾只有罗大佑和李宗盛两位得主。
1996年，在唱片公司支持下，出版个人第一张创作专辑《天使》。他是唯一和香港四大天王都有过合作的制作人。黄国伦创作巅峰时期，当年香港歌坛甚至有个不成文的习惯，到台湾来一定要唱一首黄国伦的歌。一些著名歌手会专门请他飞到香港，邀他为自己写歌。
1997年12月，创作《半生缘》。
1998年，与朱约信（猪头皮）合作主持《Happy Time》，彼此分享福音音乐的异象。
1999年，与朱约信（猪头皮）共同到滚石提出福音流行唱片公司的想法；6月，在猪头皮努力奔走之下，滚石奇迹式答应成立G-Power福音品牌，成为台湾第一个以创作福音流行音乐为主的唱片公司，黄国伦成为滚石唱片「基力音乐G-Power Music」音乐总监。
2000年5月，出版一套双专辑：惊「天」动「地」。仅仅过了一年多，滚石唱片在经营压力下改组，从基力撤资。
2007年，录制节目《康熙来了》。节目中黄国伦与小S相互吐槽，播出后节目收视率瞬间猛飙。
2008年，主持节目《王牌大贱谍》。
2013年，为南京亚洲青年运动会创作并演唱主题曲《让梦想起飞》。
2014年，演艺重心转进大陆内地，活跃于各大卫视，参与数十档音乐，文化类节目的录制演出。
2015年，录制湖南卫视《我是歌手》第三季。之后还参加了节目《妈妈的牵挂》，同时担任《超级女声》的“教导主任”。不久，他还录制了节目《谁是大歌神》、《看见你的声音》及《蒙面唱将猜猜猜》。
2017年9月23日，于北京鸟巢体育场举办生平第一场个人售票演唱会《黄国伦 没有不可能 鸟巢演唱会》。
