他在家乡的庐剧文化中成长，童年时就沉浸在其独特音乐中。1958年，他凭借出色的二胡技艺考入了安徽省艺术学院，并且坚持学习庐剧音乐三年，掌握了作曲技巧。他自称对庐剧的了解和热爱远超过黄梅戏，但当时他的同班同学四人中，只有他坚持不懈，而其他三人都放弃了。然而，当他毕业准备展现才能之际，学校突然宣布撤销庐剧专业，让何合浓前往庐剧团，而将他留校担任教师。徐代泉感到迷惑，不理解为什么自己不是被分配到庐剧团去。但学校领导解释说：“我们要为庐剧留下一块种子。”尽管如此，这个种子未能得到发芽、绽放的机会。在接下来的30多年里，直到1993年才再次招收庾戏班，这段时间内徐代泉一直处于学无所用的境地，最终决定转向黄梅戏研究。但是，由于黄梅戏与庾戏之间存在根本差异，他不得不采取一种笨拙的方法——与黄梅戏表演班一起上唱腔课，以此来快速掌握新技能。
为了尽快适应新的环境并开始创作，他采用了一种全身心投入的方式工作。当面临写作困难时，他会连续七八天无法写出一个音符。这段时间内，他的心情波动极大，有时候会因为创作而流泪悲伤。然而，一旦作品完成，那种轻松感也是难以言喻的。
徐代泉回顾自己的一生，被归纳为三个方面：教学、创作和研究。他在教学方面，不仅在本校教授，也作为中国戲曲音樂學院客座教授，从未真正退休过。在创作上，他除了黄梅戲電視劇外，还為60多部教學劇目創曲，並涉及京劇、泗州戲等多個傳統戲曲種類。而在研究领域，徐代泉曾参与国家重点科研项目《中國戲曲音樂集成·安徽卷》副主编，并获得“编纂成果二等奖”。
谈及安徽黃梅戲音樂電視劇，其中一個著名作品便是由他創作之《桃花扇》、《半把剪刀》、《家》、《春》、《秋》、《啼笑因缘》、《二月》、《潘张玉良》、《祝福》，以及十幾部合作項目。此時65歲的徐代泉曾經擔任過20年的安徽藝術學校與安徽大學藝術學院戲音教研室主任，並於退休後繼續成為中國戲曲學院與安徽大學藝術學院客座教授。
