1922年11月17日，徐国钧出生于江苏省常熟县白茆口横塘镇的一个贫农家庭，徐国钧还有一个大他3岁的姐姐。徐国钧常羡慕有钱人家子弟上学，多次闹着向母亲提出要进学堂念书，后来在亲友的资助下，进了横塘初小就读。1935年，他又插班到离家3里的东张小学读书。由于他聪明好学，记忆力又强，成绩在同班同学中总是名列前茅，受到校长、教师器重。1938年3月，徐国钧经同乡周太炎介绍，进入从南京迁到重庆的国立药学专科学校生药室当一名技术助理员。同年暑假期间，徐国钧随周太炎到峨眉山采集药用植物标本，还与周太炎一起写出了《峨眉山采集药物记》。

1951年，徐国钧升任讲师，1952年兼生药系代系主任。1953年，徐国钧升为副教授，担任生药学教研室主任。1954年起，徐国钧兼任中国科学院南京植物研究所副研究员。这段时间，除了教学、科研外，他为改变中国生药学教学依赖外国教材的状况，全身心投入教材的编著，出版了中级教材《药用植物及生药学》、《植物学》、《生药学》，并编有本科《生药学》、《生药组织学》讲义多册。1951年，徐国钧首次发表了101种“粉末生药检索表”，经过20多年坚持不懈的研究，完成了380种《中药材粉末显微鉴定》。1951-1953年，徐国钧任华东药学专科学校(后改名华东药学院)讲师，1952年兼生药学系代主任。1953—1984年，徐国钧任华东药学院（后改名南京药学院）副教授，生药学、药材学、中草药学教研室主任。1954—1966年，徐国钧兼任中国科学院南京植物研究所副研究员。1956年，徐国钧率先应用显微分析技术，将麝香等10味药材一一检出，打破了“丸散膏丹”，神仙难辨”的神秘观，之后继续研究《石斛夜光丸、再造丸等近百种中成药显微鉴定标准，填补了国家药典的空白。

徐国钧致力于生药鉴定、品质评价、资源开发及学科建设。“灵应痧药”显微分析打破了“丸散膏丹，神仙难辨”的神秘观，开创了国内外中成药鉴定的先例。首编大型《药材学》，对继承和发扬祖国医药学起到重要作用。《中药材粉末鉴定》专著，使我国粉末生药学跃居国际领先地位。“七五”与“八五”期间，任国家重点科技攻关课题“常用中药材品种整理和质量研究”南方片组组长，对111类多来源中药进行本草考证、生药鉴定、化学成分、药理作用等10项系统研究，对澄清混乱品种，提高鉴定技术水平，保证药材质量，保障用药安全有效，修订、制定药品标准，开发利用新药源均有重要的科学意义和实用价值。