他曾在庐剧的旋律中长大，1958年凭借二胡的技艺考进了安徽省艺校。三年后，他学会了作曲，对庐剧的熟悉程度远超过黄梅戏，但学校撤销了庐剧专业，他被留校教书。他未能加入庐剧团，直到1993年省艺校才招了一班庐剧学生，这段时间里徐代泉转而学习黄梅戏。由于功夫下得好，他比学员还快掌握音乐，最终成为学院黄梅戏教学曲目的主要创作者。
他的生活充满挑战和辛苦，但也充满了对音乐的热爱。在创作时，他会投入所有的心力和情感，有时写作会让他陷入深思，甚至流泪。他一生致力于教学、创作和研究，在60多部教学剧目中为多种戏曲谱写过音乐，并参与编纂国家重点科研项目《中国戏曲音乐集成·安徽卷》。
作为一名著名的黄梅戏音乐电视剧作曲家，徐代泉以《桃花扇》、《半把剪刀》等作品闻名。尽管已退休，但他仍担任中国戏曲学院和安徽大学艺术学院客座教授，为新一代艺术家传授知识。
