他的家乡流行唱黄梅戏，他小时候是浸润在黄梅戏的音乐中长大的。1958年他凭借拉得一手好二胡，以独奏《良宵》考进了安徽省艺校，整整学了三年黄梅戏音乐，学会了作曲。他说自己对黄梅戏的熟悉程度和喜爱程度都远远超过了庐剧，当初他的同班4个人后来只剩下他一人，别人都不学了，他依然在坚守，立志要为黄梅戏艺术做出点成就。然而就在他毕业时准备大展宏图的时候，学校却撤销了庐剧专业。当时学西洋音乐的何合浓被分配去了庐剧团，而徐代泉被宣布留校从事教学。徐代泉很不理解，以为领导弄错了，他认为按理应该把他分到庐剧团去才对。但学校领导说出的理由却让他心服口服：“我们是要为庐剧留一个种子。”但这个种子却没有机会发芽、开花、结果。
省艺校直到1993年才招了一个庐剧班，这中间30多年徐代泉一直学无所用，没办法他只好下决心转向黄梅戏。但黄梅戏与庐剧音乐是根本不同的，为了尽早掌握这个剧种，徐代泉采取了一笨办法——与黄梅戏表演班的学生一起上唱腔课。老师上课时，他一面听，一面记谱。由于功夫下得大，他比十几岁的孩子学得还快，到后来艺校的黄梅戲教学曲目基本上都是由他来写。
这一行干起来是既苦且难的。苦是苦在熬人，难则难在从事戲曲音樂要學的人太多，要學的事物也很多。而從事戲曲音樂的人卻往往免不了與清貧和寂寞為伍，那些對黃梅戲有深厚感情的人更是一路走來辛酸淋漓。在創作方面，每當寫完一首歌或者一個旋律時，都會感到無比滿足，這種感覺讓一切疲惫與困難都化為雲煙。
徐代泉說自己一生做三項工作，一是教學、二是在創作，在創作之餘還曾為60多部教學劇目作過曲、三是在研究。在研究方面，比如1987年至1994年的國家重點科研項目之一《中國戲曲音樂集成·安徽卷》副主編等等，這些經歷讓他的名字成為了一個時代，也使黃梅戲獲得更多人的認識和喜愛。
現在65歲高龄的大师仍旧积极参与文化活动，为后辈传承 黄梅 戏 音乐知识，不断推动该艺术形式发展壮大。在未来，无论是在理论研究还是创意实践上，大师都会继续贡献自己的力量，让世界更加了解这门古老而又神奇的艺术形式—— 黄 梅 戏 音 乐。
