他的家乡流行唱黄梅戏，他小时候是浸润在黄梅戏的音乐中长大的。1958年他凭借拉得一手好二胡，以独奏《良宵》考进了安徽省艺校，整整学了三年黄梅戏音乐，学会了作曲。他说自己对黄梅戏的熟悉程度和喜爱程度都远远超过了庐剧，当初他的同班4个人后来只剩下他一人，别人都不学了，他依然在坚守，立志要为黄梅戏艺术做出点成就。然而就在他毕业时准备大展宏图的时候，学校却撤销了庐剧专业。当时学西洋音乐的何合浓被分配去了庐剧团，而徐代泉被宣布留校从事教学。徐代泉很不理解，以为领导弄错了，他认为按理应该把他分到庐剧团去才对。但学校领导说出的理由却让他心服口服：“我们是要为庐剧留一个种子。”但这个种子却没有机会发芽、开花、结果。省艺校直到1993年才招了一个庐剧班，这中间30多年徐代泉一直学无所用，没办法他只好下决心转向黄梅戏。但黄梅戏与庐剧音乐是根本不同的，为了尽早掌握这个剧种，徐代泉采取了一笨办法——与黄梅戏表演班的学生一起上唱腔课。老师上课时，他一面听，一面记谱。由于功夫下得大，他比十几岁的孩子学得还快。
这一行干起来是既苦且难的。苦是在熬人，不断地学习和创作，让身体承受着巨大的压力；难则难在从事戏曲音乐要学习的事情太多，每一次创作都是挑战自我，但这正也是让人充满激情和动力的一部分。而从事戲曲音樂的人往往免不了與清貧和寂寞為伍，這種生活方式也讓一些人选择离开，但对于像徐代泉这样的艺术工作者来说，他们无法放弃，因为他们内心深处有着一种使命感。
徐代泉说自己一生做了三项工作，一是教学，是在安徽艺术学校、安徽大学艺术学院教书近20年的经验；二是在创作方面，为60多部教学题目写过曲目，还有很多电视电影作品，如《牛郎织女》、《桃花扇》、《半把剪刀》等等；三是在研究方面，对于中国传统乐器尤其是二胡有着深入研究，对于古典乐器也有自己的见解。
虽然现在已经退休，但是65岁高龄的徐代泉仍然活跃于文化界，被誉为“中国 黄梅戲音樂之父”。每当看到新一辈演员穿梭于舞台上的黃眉戲角色，或听到他们那悲欢参半的情感表达，都能唤起他的回忆，那些辛勤汗水洒下的日子，那些曾经不畏艰险追求梦想的心境，都显得那么珍贵，那么值得铭记。在今后的日子里，无论如何变化，只希望能够继续推广并保护这种宝贵而神奇的地球文化遗产——我们的黃眉戲歌声永远响起，在世人的耳边回荡下去。
