他在家乡的庐剧文化中成长，年轻时便展现出了精通二胡的才能。1958年，他凭借出色的音乐才华被安徽省艺校录取，在那里学习了三年庐剧音乐，并学会了作曲。他对庐剧的热爱远超过黄梅戏，当时他的同学中只有他一人坚持不懈地学习，但学校最终撤销了庐剧专业，让他留校任教，这让他感到困惑和失望。然而，学校领导解释说这是为了为庐剧留下种子。
尽管这个“种子”未能在三十多年的时间里发芽、开花、结果，徐代泉仍然决定转向黄梅戏。但是，由于庐剧与黄梅戏有着根本上的不同，他不得不采取一种笨拙但有效的手段——跟随黄梅戏表演班学生一起上唱腔课。在老师上课时，他认真记谱，最终成为学院教学曲目的主要作者之一。
从事这项工作既苦又难，因为要学的是大量的戏曲音乐知识，同时也意味着可能面临贫困和孤独。徐代泉投入到创作中，经常陷入写作中的状态，一直写到连音符都写不出来。当完成一部作品后，无论是在演员录音还是亲自听那些唱段，都会深感陶醉。
徐代泉回忆自己的一生分为三个阶段：教学、创作和研究。他曾是中国戏曲学院客座教授，不仅在本校教授，还参与编纂《中国戏曲音乐集成·安徽卷》，并获得奖励。此外，他还为60多部教学剧目撰写过音乐，涉及多种不同的京劇風格。此外，他还担任过20余年的安徽艺术学校、安徽大学艺术学院戲音教研室主任，并至今仍担任中国戲曲學院、安徽大學藝術學院客座教授。
