他的家乡流行唱黄梅戏，他小时候是浸润在黄梅戏的音乐中长大的。1958年他凭借拉得一手好二胡，以独奏《良宵》考进了安徽省艺校，整整学了三年庐剧音乐，学会了作曲。他说自己对庐剧的熟悉程度和喜爱程度都远远超过了黄梅戏，当初他的同班4个人后来只剩下他一人，别人都不学了，他依然在坚守，立志要为庐剧艺术做出点成就。然而就在他毕业时准备大展宏图的时候，学校却撤销了庐剧专业。当时学西洋音乐的何合浓被分配去了庐剧团，而徐代泉被宣布留校从事教学。徐代泉很不理解，以为领导弄错了，他认为按理应该把他分到庐剧团去才对。但学校领导说出的理由却让他心服口服：“我们是要为庐剧留一个种子。”但这个种子却没有机会发芽、开花、结果。
省艺校直到1993年才招了一个庐剧班，这中间30多年徐代泉一直学无所用，没办法他只好下决心转向黄梅戏。但庐剧音乐与黄梅戏音乐是根本不同的，为了尽早掌握这个剧种，徐代泉采取了一个笨办法——与黄梅戏表演班的学生一起上唱腔课。老师上课时，他一面听，一面记谱。由于功夫下得大，他比十几岁的孩子学得还快，到后来艺校的黄梅戲教学曲目基本上都是由他来写了。
这一行干起来是既苦且难的。苦是苦在熬人，不断地学习和创作；难则难在从事戲曲音樂要學的人太少，每一步都充满挑战。而從事戲曲音樂的人往往免不了與清貧和寂寞為伍，這正因為如此，使得學戲曲音樂的人越來越少。在這種環境下，也許有人會選擇放棄，但不是徐代泉。他全身心投入自己的創作工作，用自己的方式去對抗困難。
当一切看似顺利的时候，那些辛勤付出的汗水似乎也随风而逝，只有作品才能真正见证着个人的价值。在这样的环境中，与众不同的是徐代泉的一份执着和热情。他曾经告诉记者：“我有一天会把我的所有知识都化为金钱，我希望能够帮助更多的人，让他们能更容易地接触到这些美好的东西。”
尽管生活给予他的很多挑战，但是对于那些拥有梦想的人来说，没有什么是不可能完成的事。这就是为什么每当人们提起“中国最伟大的黃梅戲作曲家”時，他们总是在谈论那个名字：徐代泉。那是一个永恒的声音，是一种文化传承，是对艺术纯粹追求的一生痴迷之旅。而今天，无论是在哪个角落，都有那首首美妙动人的黃梅戲歌声，在空气里回荡，就像那位老先生的心跳一样，即使身体已不再如昔日般健壮，却仍旧带着无限活力，一直延续至今。这便是我国深厚文化底蕴的一部分，也是我国精神文明建设不可或缺的一环——通过这位普通而又非凡的小小乐师，我们可以感受到中华民族智慧与勇气，从而激励自己不断前进，为实现民族复兴的大业贡献力量。
