基于贝叶斯推理的决策树模型
周亚同,张太镒,卢照敢
（西安交通大学电子与信息工程学院，710049,西安）
摘要:针对决策树(DT)模型缺乏概率背景这一问题,将贝叶斯推理引入DT模型,提出了一种基于贝叶斯推理的决策树(BDT)模型.在假定所含待定参量的先验与似然的前提下,借助贝叶斯推理获得参量的后验,然后运用逆跳马尔科夫链蒙特卡洛算法对后验抽样,最终求出样本属于某一类别的置信度,从而避免了武断判决.BDT模型以抽样代替拆分与剪枝操作,既直观又灵活,同时在抽样时考虑了不同的树结构与递归分割方案,使得分类准确率得以提高.仿真实验结果表明,BDT模型的平均分类准确率与DT模型相比提高了1.7%～3.5%.
关键词:决策树;贝叶斯推理;逆跳马尔科夫链蒙特卡洛;分类准确率;递归分割
中图分类号:TP18文献标识码:A文章编号:0253-987X(2006)08-0888-04