他的家乡流行黄梅戏，他小时候是浸润在黄梅戏的音乐中长大的。1958年他凭借拉得一手好二胡，以独奏《良宵》考进了安徽省艺校，整整学了三年黄梅戏音乐，学会了作曲。他说自己对黄梅戏的熟悉程度和喜爱程度都远远超过了庐剧，当初他的同班4个人后来只剩下他一人，别人都不学了，他依然在坚守，立志要为黄梅戏艺术做出点成就。然而就在他毕业时准备大展宏图的时候，学校却撤销了黄梅戏专业。当时学西洋音乐的何合浓被分配去了庐剧团，而徐代泉被宣布留校从事教学。徐代泉很不理解，以为领导弄错了，他认为按理应该把他分到庐剧团去才对。但学校领导说出的理由却让他心服口服：“我们是要为黄梅戲留一个种子。”但这个种子却没有机会发芽、开花、结果。省艺校直到1993年才招了一个庐剧班，这中间30多年徐代泉一直学无所用，没办法他只好下决心转向庐剧。但庐剧音乐与黄梅戲音乐是根本不同的，为了尽早掌握这个剧种，徐代泉采取了一个笨办法——与庐劇表演班的学生一起上唱腔课。老师上课时，他一面听，一面记谱。由于功夫下得大，他比十几岁的孩子学得还快，到后来艺校的庐劇教学曲目基本上都是由他来写。
这一行干起来是既苦且难的。苦是苦在熬人，不断学习新的知识和技巧；难则难在从事戲曲音樂工作需要极高的情感投入，以及不断克服困难和挑战。而從事戲曲音樂的人往往免不了與清贫和寂寞為伍，這正因为如此學戲曲音樂的人少而又少。在创作过程中，每当找不到感觉或者作品进度缓慢时，都会感到非常沮丧，但这并不能阻止他的热情，因为每一次成功创作都会带给他无尽的心满意足。
徐代泉说自己一生做过三项工作，一是在教室里传授知识，即使退休也未曾闲暇下来；二是在创作方面，为许多电视剧和舞台剧谱写过美妙旋律；三是在研究领域，对于中国古典音乐有着深刻洞察力。他参与编纂了一部关于安徽地区各种地方歌舞节目的集成，并获得了一定的荣誉奖励。这位65岁高龄的大师仍然活跃于文化艺术界，为新的一代提供着宝贵的指导与启迪。此外，还有很多其他著名作品，如《桃花扇》、《半把剪刀》、《家》等，使其成为中国黃巢戲界的一个重要人物之一。
