长春电影制片厂拍摄完《上甘岭》之后，导演沙蒙找到乔羽要其为主题曲作词，乔羽接到邀请当夜，登车由南昌赶往上海，由上影厂厂长袁文殊安排车次赶到长春。沙蒙、乔羽会面后，沙蒙便把情况和盘摆给了乔羽：《上甘岭》影片已经拍完，样片也剪出来了。只留下安排插曲的那几分钟戏，等歌出来后补拍。全剧组每天的花销巨大。因此，沙蒙要乔羽快速创作，并要求这首歌能够经久不衰。乔羽在作词时想走一个不同于以往的写作路子，可又想不出来，而沙蒙几乎每天都到他屋子里来催稿，乔羽也没办法。直到他想起他在江西看到长江时的场景，才把歌词写了出来。沙蒙拿着稿子看了半个小时后，询问第一句为何不用万里长江或长江万里，乔羽认为这样写可能会让那些不在长江边上的人从心理上产生距离，失去亲切感，最终沙蒙认可了乔羽的想法。
1956年，沙蒙请刘炽为《我的祖国》作曲。刘炽为了让人们喜爱这首歌，调查研究了1949年至1955年人们喜欢唱的歌曲，从中选出十首歌曲反复倾听，最后从其中一首《卢沟问答》中的第一句找到了《我的祖国》开始的半句。刘炽在长春电影制片厂的小白楼创作时，为了避免外界的干扰，在门上贴了“刘炽死了”的条子。
为找适合演唱《我的祖国》的歌手，长影请了一批中国内地擅唱民歌的歌唱家试唱，结果都不太满意。后来，乔羽提出请郭兰英来唱，郭兰英试唱后，长影便选定她作为歌曲的演唱者。歌曲的录音是在中央人民广播电台进行的，录制完成后的第二天电台便向全中国播放了这支歌。
时间 奖方 奖项 获奖者 结果
1989年 第一届金唱片奖 创作特别奖（歌词奖） 乔羽 获奖
作曲奖 刘帜 获奖
演唱奖 郭兰英 获奖
1986年 白金唱片奖 奚秀兰 获奖
《我的祖国》深切地表达了浓烈的爱国主义思想，唱出了志愿军战士对祖国、对家乡的无限热爱之情和英雄主义的气概。歌词真挚朴实，亲切生动。前半部曲调委婉动听，三段歌是三幅美丽的图画，引人入胜。歌曲虽然不同于很多红歌那般曲风硬朗有力，但前半部曲调委婉动听，后半部副歌，混声合唱与前面形成鲜明对比，仿佛山洪喷涌而一泻千里，尽情地抒发战士们的激情，唱出志愿军战士对祖国、对家乡的无限热爱之情和英雄主义的气概。
《我的祖国》是一首优秀的抒情歌曲，深切地表达了浓烈的爱国主义思想，歌曲前一部分以抒情的女高音形式，一种波涌而来的思乡之情，洋溢在甜美的歌声中，使人仿佛看到祖国江河帆影漂移、田野稻浪飘香的美丽景色。后一部分用混声合唱形式，与前段形成鲜明的对比，唱出了“这是美丽的祖国”的主题，激情澎湃，气势磅礴。
