首页 > 试题广场 >

熵是为消除不确定性所需要获得的信息量,投掷均匀正六面体骰子的

[单选题]
熵是为消除不确定性所需要获得的信息量,投掷均匀正六面体骰子的熵是:
  • 1比特
  • 2.6比特
  • 3.2比特
  • 3.8比特
熵的计算就是-p*log(p),log要以2为底才是比特,以e为底单位是奈特
编辑于 2021-11-17 11:53:59 回复(0)
发表于 2021-11-13 14:40:05 回复(0)
由于每个面都是1/6的概率,所以H = - [ 1/6 *㏒₂(1/6) + 1/6 * ㏒₂(1/6) + ... + 1/6 * 

㏒₂(1/6)] = - 1/6㏒₂(1/6)^6 = -㏒₂(1/6) = ㏒₂(2*3) = ㏒₂2 + ㏒₂3 ≈ 2.6Bit

发表于 2023-10-26 17:49:26 回复(0)

信息熵

  • 计算公式:

  • 物理意义:一个信号或系统的不确定性或混乱程度,信息熵较高表示系统较为不确定或混乱
  • 概率分布越趋向于均匀分布,信息熵的值越大,系统不确定性越高;概率分布越集中,信息熵的值越小,系统不确定性越低。
发表于 2024-03-12 15:37:25 回复(0)