他在青春的岁月里，深受庐剧的旋律所吸引。1958年，他凭借精湛的二胡技艺，被安徽省艺术学校录取。在那里，他花费了三年时间学习庐剧音乐，并学会了作曲。他自诩对庐剧的了解和热爱远超黄梅戏。当时他的同学中，只有他坚持到底，而其他人都选择了另行。然而，当他即将毕业准备展现自己的时候，学校却突然宣布撤销庐剧专业。那时，他的同学何合浓被分配去了庐剧团，而徐代泉则被留校担任教师。这一决定让徐代泉感到迷惑，但学校领导解释说：“我们要为庐剧留下一个种子。”然而，这个种子未能得到发芽、开花、结果的机会。直到1993年，省艺校才再次招收庐剧班，这期间长达三十多年，徐代泉一直无法施展抱负，只好转而投身于黄梅戏。
尽管庐剧音乐与黄梅戏音乐迥异，他仍然采取了一种笨拙但有效的手段——与黄梅戏表演班一起上唱腔课。他不仅聆听老师讲授，还亲手记录下来。在这过程中，由于他的功夫深厚，他比那些十几岁的小朋友学得更快。随着时间推移，在艺校教授黄梅戏课程的大部分内容都是由他来创作。
从事这项工作既苦又难。苦在于持续不断地努力，不断克服困难；难则在于戏曲音乐需要掌握大量知识，而且这种生活往往伴随着清贫和寂寞。而许多作曲家一样，徐代泉投入创作时是全心全意、无条件地沉浸其中。当遇到写不出感觉或作品停滞不前时，他会连续七八天专注于同一音符，一度走火入魔，以至寝食难安。在创作悲伤歌段时，即使自己也会流泪，这份情感如狂，如痴。而当作品完成后，再次聆听演员录制的声音，那份陶醉之情亦是难以言喻。
徐代泉回顾自己一生做过三件事情：教学、创作和研究。他作为教师，不仅在本校授课，也成为中国戏曲学院客座教授，即便退休依旧没有闲暇时间。他作为创作者，则致力于 黄梅戲音樂電視劇和舞台劇，以及六十多部教材中的乐曲，其中涉及各种地方特色歌谣如京劇、泗州戲等等。在研究领域，徐代泉参与国家重点科研项目《中国戲曲音樂集成·安徽卷》，并主编“泗州戲”、“安慶弹腔”篇章，为其工作获得“編纂成果二等獎”。
提起安徽黃梅戲音樂電視劇，无人不知其巨匠之一——創立《桃花扇》、《半把剪刀》、《家》、《春》、《秋》、《啼笑因缘》、《二月》、《潘張玉良》、《祝福》（含合作）黃梅戲音樂電視劇（含合作）的著名作曲家之一——徐代泉今年65歲，這位曾經擔任過20年的學校教研室主任現在已經退休，但仍然担任中國藝術學院與安徽大學藝術學院客座教授。
