他在童年时期就被庐剧的旋律所包围，成长于其深沉的音乐中。1958年，他凭借卓越的二胡技艺，通过了安徽省艺术学校的入学考试。在那里，他学习了三年庐剧音乐，并掌握了作曲技巧。他自诩对庐剧有着无与伦比的熟悉度和热爱，但当他即将毕业准备展现才能时，学校却宣布撤销庐剧专业。徐代泉感到迷惑，因为他的同龄人何合浓被分配去了庐剧团，而他则留校从事教学。但是，学校领导解释说，他们希望为庐剧培养一个未来的人才。
尽管如此，这个机会没有很快到来。直到1993年，省艺校才重新招收了一班庐剧学生，而这段时间内徐代泉一直未能将他的知识应用于实践，最终决定转向黄梅戏。这一转变并非易事，因为黄梅戏与庐剧之间存在本质差异。为了尽快适应新环境，徐代泉采取了一种笨拙但有效的手段——参加黄梅戏表演班学生的唱腔课。在老师上课时，他认真地听写，每次都比十几岁的小朋友更快学会。
这一切并不轻松。一方面，是因为持续不断地学习需要付出巨大的努力；另一方面，是因为追求戏曲音乐的人往往要忍受贫困和孤独。而像许多作曲家一样，徐代泉投身创作时全心全意、全情投入。当遇到创作上的困难时，他可能会连续七八天都不写下一个音符，那时候的心境简直就是不眠不休、醒来也想念它、走路也想念它、梦里也想念它，就像是陷入了狂乱之中，不得安宁，有时候甚至因悲伤而流泪，就像是失去理智。
然而，一旦完成作品，那种自由自在又难以言喻的情感便油然而生，再等待演员录制完毕后，用耳机细细品味那些歌声，那份陶醉之感也是无法用语言形容。
徐代泉一生致力于三项工作：教学、创作和研究。他作为教师，不仅在本校教授，还担任中国戏曲学院客座教授，即使退休，也从未闲暇一刻。作为创作者，他不仅为多部黄梅戏电视电影编谱，还为超过六十部教材编写了乐谱，以此涉及多种不同的传统京劇，如黃梅戲、小說劇等等。此外，在研究领域裡，由於1987至1994年的國家重點科研項目《中國戲曲音樂集成·安徽卷》的副主編之一身份，以及對“泗州戲”、“安慶弹腔”的專業編纂工作獲得“編纂成果二等獎”。
谈及安徽黄梅戏音乐电视影视作品，无人不知晓其中最著名的一些，如《桃花扇》、《半把剪刀》、《家》、《春》、《秋》、《啼笑因缘》、《二月》、《潘张玉良》以及《祝福》，这些都是由著名作曲家之一——65岁高龄仍然活跃在舞台上的徐代泉亲手创造或合作创建。这位传奇人物曾经担任过20余年的院系主任，现在虽然已退休，但依然担任中国戲曲學院與安徽大學藝術學院客座教授一职，为後來的一批學生傳授經驗並推廣文化遺產。
