1. 信息和信息量
在介绍搜索之前，先介绍两个概念：信息和信息量。
（采用的均是自以为比较通俗易懂的解释，如果感兴趣可以读相关书籍）
1.1 信息是减少不确定性的东西，信息也是增加确定性的东西。
前半句是香农信息定义，后半句是逆香农信息定义。举个栗子，回想下，和一个异性交往的过程。在你遇到TA之前，你不知道这个世界上有这个人的存在，后来你看到了TA的样子，后来你了解了TA的性格、口头禅，往事。然后一步一步，你对TA从丝毫不了解，到逐渐熟识。这期间就是一个你不断获取TA信息的过程，正是这些信息，让你从完全不确定TA是怎样的人，到完全确定TA很适合你。
1.2 信息量是一个信息能减少不确定性的度量，信息量也是一个信息能增加确定性的度量。
关于信息量，有很多数学的描述，但是通俗来讲，可以这么简单理解。举个栗子，证人描述嫌疑犯。A证人的信息是“他是个男人”。B证人的信息是“TA是个高中男生”，C证人的信息是“TA是个长发170左右的高中生。”D证人的信息是“我认识他，他是学校的扛把子陈浩南”。我们直觉能感受到信息量的大小关系为：AP（D），所以信息量的大小关系为：A
