1927年11月16日出生于山東濟(jì)寧。幼時(shí)家庭生活拮據(jù)，靠哥哥做店員維持生活。高中期間當(dāng)過小學(xué)教員。 1946年春經(jīng)共產(chǎn)黨地下工作者的引薦，秘密進(jìn)入晉冀魯豫邊區(qū)的北方大學(xué)就讀，開始在報(bào)刊發(fā)表詩歌和小說，還寫過秧歌劇。
1948年畢業(yè)于晉冀魯豫邊區(qū)北方大學(xué)藝術(shù)學(xué)院。喬羽被調(diào)入華北大學(xué)三部創(chuàng)作室，開始專業(yè)創(chuàng)作。
1949年加入中國共產(chǎn)黨。
1954年加入中國作家協(xié)會(huì)。
1955年創(chuàng)作歌詞《讓我們蕩起雙槳》。
1956年與時(shí)佑平合作創(chuàng)作電影文學(xué)劇本《紅孩子》。
1959年創(chuàng)作歌詞《人說山西好風(fēng)光》。
1960年將1959年廣西柳州彩調(diào)劇團(tuán)原創(chuàng)的彩調(diào)劇《劉三姐》改編成電影劇本《劉三姐》。同年創(chuàng)作歌詞《我的祖國》。
1963年開始創(chuàng)作歌詞《思念》，并于1988年發(fā)表；同年在中央電視臺春節(jié)聯(lián)歡晚會(huì)上，由毛阿敏演唱。
1964年參加了音樂舞蹈史詩《東方紅》詩詞部分的寫作。粉碎四人幫后，與樹園等合作創(chuàng)作了話劇《楊開慧》并繼續(xù)創(chuàng)作了歌詞。歷任文化部、中國戲劇家協(xié)會(huì)、中國歌劇舞劇院專業(yè)創(chuàng)作干部，中國歌劇舞劇院副院長、院長，一級編劇。
1980年創(chuàng)作《牡丹之歌》的歌詞。
1984年創(chuàng)作歌曲《難忘今宵》的歌詞；同年該歌曲在中央電視臺春節(jié)聯(lián)歡晚會(huì)上，由李谷一演唱，之后該歌曲在中央電視臺春節(jié)聯(lián)歡晚會(huì)上被多名歌手演唱。
1997年創(chuàng)作《大風(fēng)車》欄目主題曲歌詞《大風(fēng)車》。
20世紀(jì)90年代初創(chuàng)作歌詞《愛我中華》。
2009年5月，出席CCTV全國優(yōu)秀流行歌曲創(chuàng)作大賽總決賽。[7]
2010年4月9日擔(dān)任北京大學(xué)歌劇研究院名譽(yù)院長。[1]
2015年10月31日《我的祖國——喬羽作品音樂會(huì)》在北京舉行。
2022年1月11日，參加的2022南山新年音樂會(huì)播出，與劉熾演唱《我的祖國》。[8]
