他的家乡流行唱庐剧，他小时候是浸润在庐剧的音乐中长大的。1958年他凭借拉得一手好二胡，以独奏《良宵》考进了安徽省艺校，整整学了三年庐剧音乐，学会了作曲。他说自己对庐剧的熟悉程度和喜爱程度都远远超过了黄梅戏，当初他的同班4个人后来只剩下他一人，别人都不学了，他依然在坚守，立志要为庐剧艺术做出点成就。然而就在他毕业时准备大展宏图的时候，学校却撤销了庐剧专业。当时学西洋音乐的何合浓被分配去了庐剧团，而徐代泉被宣布留校从事教学。徐代泉很不理解，以为领导弄错了，他认为按理应该把他分到庐剧团去才对。但学校领导说出的理由却让他心服口服：“我们是要为庐剧留一个种子。”但这个种子却没有机会发芽、开花、结果。省艺校直到1993年才招了一个庐劇班，这中间30多年徐代泉一直学无所用，没有办法，他只好下决心转向黄梅戏。但是这种转变并不容易，因为两者之间存在着巨大的差异。在这样的背景下，徐代泉采取了一条不寻常的道路——与黄梅戏表演班的学生一起上唱腔课。他一面听，一面记谱，并且因为自己的功夫深厚，所以比十几岁的小孩学习得更快，最终成为学校黄梅戏教学曲目的主要创作者。
这一行干起来既苦又难。苦的是熬人的日子漫长而艰辛；难则是在追求完美的声音和旋律上的挑战极大。而从事戏曲音乐的人往往伴随着清贫和寂寞生活，他们少而又少。这正如许多作曲家一样，他们将全部的心血和感情投入到创作之中。一旦陷入写作困境，那些音符似乎无法顺畅地流淌出来，即使完成作品，也会有那种陶醉之情，让人难以言喻。
徐代泉回忆起自己的一生，便感觉做过三件事情：一是教书，一是创作，还有一就是研究工作。他作为教师，不仅在本院教授，还担任中国戲曲音樂學院客座教授，但即便退休也没有闲暇时间。而创作方面，则涉及到了多部电视电影与舞台劇，以及60多部教学歌谣，为不同的传统京派艺术如京劇、泗州戲等编写过大量乐谱。此外，在研究领域内，他曾参与国家重点科研项目《中國戲曲音樂集成·安徽卷》，并主持编纂“泗州戲”、“安庆弹腔”章节，从而获得“編纂成果二等獎”。
谈及于安徽地方最著名的黃梅戲電視劇，其名字不能不提及的是那位創造《桃花扇》、《半把剪刀》、《家》、《春》、《秋》、《啼笑因缘》、《二月》、《潘张玉良》以及其他幾十部黃梅戲電視劇音樂（含合作）的古典藝術巨匠——徐代泉今年65歲已經退休，但仍然擔任中國戲曲學院與安徽大學藝術學院客座教授一職。
