李渊和道士们在祖宗问题上一拍即合，佛教的麻烦从此不断。
武德四年，道教开始发难。
前道士、太史令傅奕上《请废佛法表》及《益国利民事十一条》，首先极力抬高老、孔，建议李渊“布李老无为之风而民自化，执孔子爱敬之礼而天下孝慈。”
傅奕一方面力图组成儒、道统一战线，共同对付佛教。另一方面，对佛教的指责招招致命，直指统治者心中的隐痛：意识形态的控制，财政和兵源，社会纲常等等。
到了这个程度，佛教徒不得不反击了。
次年，法琳撰写《对傅奕废佛僧事》上呈朝廷，同时看到当权的李渊可能不好通融，于是将和平演变的希望寄托在下一代领导人身上，直接上启太子建成和秦王李世民。
犹豫反复三年之后，武德七年，佛道之争终于在庙堂之上展开。一马当先的还是太史令傅奕，他向高祖进呈《废省佛僧表》。
他从儒家观点出发，指斥佛教徒“不忠不孝、游手游食、轻犯宪章、诈欺庸品，窃人主之权，擅造化之力，其为害政。”
主张“除去佛教“，以“益国足兵”。
李渊正中下怀，于是将奏章分发大家讨论。
没想道，这一主张遭到崇佛大臣们的抗议，赞同的人只有太仆卿张道源一人。
开国元勋裴寂就表示反对，认为李渊“昔创义师，志凭三宝，云安九五，誓启玄门。”，而今却要毁佛废僧，“理不可也”。
萧瑀表现最为强硬，与傅奕在朝堂上进行了激烈辩论，最终以互相谩骂收场。
萧瑀说:“佛，圣人也。奕为此议，非圣人者无法，请置严刑。”傅奕反击，说“萧瑀不生于空桑，乃尊无父之教。非孝者无亲，瑀之谓也。”
萧瑀驳不过，只好合掌曰“地狱所设，正为是人”。
看到废止佛教的动议在高层难以通过，李渊暂时放弃了废佛的念头，但看到佛教如此势大，只能更加警惕。
武德八年，李渊不再经过大臣们讨论，直接出马到国子监明确宣布道第一、儒第二、佛最后，这无疑是对佛教的重大打击。
紧接着武德九年，佛道两家口水仗进一步升级，道士李仲卿作《十异九迷论》、刘进喜作《显正论》攻击佛教，法琳也着《辩正论》予以还击。
看到佛道一时间难以分出胜负，李渊决定用同归于尽的方式来削弱佛教。
武德九年五月，他以京城寺观不甚清静为由，下《沙汰佛道诏》，而且理由冠冕堂皇：由于部分佛教徒道德败坏，寺院藏污纳垢，因此要“正本清源”、“兴隆佛法”。法令要求，“京城留寺三所，观二所。天下诸州各留一所，余皆废”。
表面上看起来佛道一视同仁，但由于此前佛寺数量远远多于道观，因此实际上吃了个哑巴亏，有苦说不出。然而这道诏令尚未来得及贯彻实施，玄武门事变爆发了。