他的家乡流行唱黄梅戏，他小时候是浸润在黄梅戏的音乐中长大的。1958年他凭借拉得一手好二胡，以独奏《良宵》考进了安徽省艺校，整整学了三年庐剧音乐，学会了作曲。他说自己对庐剧的熟悉程度和喜爱程度都远远超过了黄梅戏，当初他的同班4个人后来只剩下他一人，别人都不学了，他依然在坚守，立志要为庐剧艺术做出点成就。然而就在他毕业时准备大展宏图的时候，学校却撤销了庐剧专业。当时学西洋音乐的何合浓被分配去了庐剧团，而徐代泉被宣布留校从事教学。徐代泉很不理解，以为领导弄错了，他认为按理应该把他分到庐剧团去才对。但学校领导说出的理由却让他心服口服：“我们是要为庐剧留一个种子。”但这个种子却没有机会发芽、开花、结果。省艺校直到1993年才招了一个庐剧班，这中间30多年徐代泉一直学无所用，没办法他只好下决心转向黄梅戏。但庐劇音樂與黃梅戲音樂是根本不同的，为了尽早掌握这个劇種，徐代泉采取了一個笨方法——與黃梅戲表演班的學生一起上唱腔課。老师上课时，他一面聽，一面記譜。由于功夫下得大，他比十几岁的孩子學得還快，到後來藝校的黃梅戲教學曲目基本上都是由他來寫。
这一行干起来是既苦又难的。苦是在熬人，不易；难则難在從事戲曲音樂要學的人太多，而從事這個工作的人往往免不了與清貧和寂寞為伍，那些長期以來跟隨著這個世界的人們，都會對它有深刻的情感。在從事戲曲音樂時，要將自己的情感投入進去，這是一件既辛苦又無法言喻的事情。而當完成了一項作品之後，那種輕松的心情則難以形容，再等演員錄完音后坐在音響前細細聽那些唱段，那種陶醉之情亦難以言喻。
徐代泉說自己一生做過三項工作，一是教書，一是創作，一是研究。他每天忙碌於各方面，不僅僅是在本院任教，也曾擔任中國戲曲學院客座教授，即便退休也不放棄職責。而且，在創作方面除了為電視劇和舞台劇創作歌曲外，他還為60多部教育劇集進行編曲，有涉及京劇、泗州戲等多種傳統藝術形式。此外，在研究方面，由1987至1994期間担任国家重点科研项目之一《中国戏曲音乐集成·安徽卷》副主编，并成功主持编纂“泗州戏”、“安庆弹腒”两部分，其中获得“编纂成果二等奖”。
提起安徽的一场精彩黄梅戏音乐电视电影，就不得不提及他的名字：创作过《桃花扇》、《半把剪刀》、《家园》、《春风满枝头》，还有《啼笑因缘》、《二月佳话》（含合作）的著名古典乐谱。这位65岁高龄仍旧活跃于文化领域的是当红作曲家的代表人物之一，其影响力深远，为中国传统艺术界贡献出了宝贵财富。在此之后，对于这位历史悠久而又充满活力的艺术巨匠，我们只能期待更多精彩作品不断涌现，让我们共同见证这段辉煌历史继续延伸下去！
