他的家乡流行唱黄梅戏，他小时候是浸润在黄梅戏的音乐中长大的。1958年他凭借拉得一手好二胡，以独奏《良宵》考进了安徽省艺校，整整学了三年黄梅戏音乐，学会了作曲。他说自己对黄梅戏的熟悉程度和喜爱程度都远远超过了庐剧，当初他的同班4个人后来只剩下他一人，别人都不学了，他依然在坚守，立志要为黄梅戏艺术做出点成就。然而就在他毕业时准备大展宏图的时候，学校却撤销了庐剧专业。当时学西洋音乐的何合浓被分配去了庐剧团，而徐代泉被宣布留校从事教学。徐代泉很不理解，以为领导弄错了，他认为按理应该把他分到庐剧团去才对。但学校领导说出的理由却让他心服口服：“我们是要为黄梅戏留一个种子。”但这个种子却没有机会发芽、开花、结果。
省艺校直到1993年才招了一个黄梅戏班，这中间30多年徐代泉一直学无所用，没有办法，他只好下决心转向 黄梅戲。但庐剧音乐与 黄梅戲 音乐是根本不同的，为了尽早掌握这个剧种，徐代泉采取了一个笨办法——与 黄梅戲 表演班的学生一起上唱腔课。老师上课时，他一面听，一面记谱。由于功夫下得大，他比十几岁的孩子学得还快，到后来艺校的 黄梅戲 教学曲目基本上都是由他来写。
这一行干起来是既苦且难的。苦是苦在熬人，不断地学习和创作；难则难在从事 戏曲 音乐要学的东西太多而又繁杂。而从事 戏曲 音乐的人却往往免不了与清贫和寂寞为伍，对于这份工作充满热情并非易事。正因为如此，学 戏曲 音乐的人少而又少。
和许多作曲家一样，徐代泉一进入创作就是全身心、全部感情地投入。在创作过程中，有时候会遇到找不到感觉的情况，那时候就会连着七八天一个音符也写不出来。那时的状态真是坐亦想、走亦想、醒亦想、梦亦想，是一种无法形容的情感状态。一旦完成了一段作品，那种轻松愉悦之感也是难以言喻。这份激动的心情，在听到演员录音后的那一刻尤其强烈，因为能听到自己的作品通过不同的声音再现，让人感到无比欣慰。
徐代泉说自己一生做过三项工作，一是在教书方面，不仅在本校教授，还担任中国戏曲学院客座教授；二是在创作方面，为60多部教学剧目编写过歌词或旋律，并涉及多个京劇種类；三是在研究方面曾参与国家重点科研项目之一《中国 戏曲 音乐集成·安徽卷》的编纂工作，并获得“编纂成果二等奖”。
提起安徽地区 的 黄梅戲 电视剧，也不能忘记他的贡献。他曾经创作了一系列著名电视剧，如《桃花扇》、《半把剪刀》、《家》、《春》、《秋》、《啼笑因缘》、《二月》、《潘张玉良》以及 《祝福》，这些作品深受观众喜爱。此外，由于退休后的生活仍然充满忙碌，现在65岁高龄的大师仍旧担任着中国 戏曲 学院及 安徽 大学艺术学院客座教授的一职位，为未来的新一辈传授经验和知识，同时保持对该领域持续关注和贡献。
