决策树算法也是机器学习中的基础算法之一,它最常被用来解决分类问题,和我们前面所学到的k-近邻算法(分类)一样。那么决策树算法又是怎样进行分类的呢?下面我们通过一个简单的例子来看看决策树是什么:
通过上表,我们可以看到区别鸡鸭鹅的一些特征,相信同学们生活中经常见到这三种小动物,也一下子就能分辨出来。我们现在要来看看决策树它是怎么区别这样小动物的。由上表,我们可以看到有两个特征,可以区分出鸡鸭鹅,分别是头上是否有包、是否有脚蹼。如下图,决策树算法会这样做:
(1)判断小动物是否头上有包,如果有包,那么可以直接得出它是鹅,如果头上没有包,继续下一步判断;
(2)判断小动物是否有脚蹼,如果有,那么它是鸭;如果没有脚蹼,则是鸡。
决策树算法通过已有特征,像我们思考一样,建立一个判断机制,就能简单实现物体的分类了。因为决策流程图很像一棵倒过来的树,因此便叫做决策树。