ID3算法信息熵计算公式中为什么以2为log的底呢,求大神给出具体解释最好有数学推导。
为了二进制计算方便,以2为底可以方便地用二进制小数表达。二进制里0.1就是1/2,0.01就是1/4,0.101就是1/2+1/8=0.625,...