全信息理论与中文信息处理

全信息理论与中文信息处理内容摘要：

电大学学报， 1984 [2] 钟义信， 信息科学原理 ，北京邮电大学出版社， 1988第一版， 1996 第二版， 2020第三版 [3] 钟义信等， 信息科学教程 ，北京市研究生教育重点 精品教材，北京邮电大学出版社， 2020 14 Shannon信息论只关心 “ 噪声中的信号波形复制 ” 问题： X = {xn} 信号 状态 （是 0还是 1。 ） P = {pn} 各种信号状态的 出现方式 n (1,N) Y D I(X。 Y) = H(X) – H(X|Y) H(X) =  pn log pn X n 为什么 Shannon Information不能解决问题。 15 全信息与“认知能力要素” 符号 客体 主体 语法信息 符号序列 （形式结构） 序列内容 序列价值 语义信息 语用信息 在给定 语境 （ 包括 主体 、 客体 、 文本 、 环境 和 常识 ）下， 语 言理解要包含 该语境下的语法、语义、语用三要素。 只当语境足够深广，语法、语义、语用分析才有唯一解。 人的 认知能力 包括：观察力，理解力，目的性。 观察事物的 外部 形式 ，理解事物的内在 含义 ，判断与自身的 利害 关系。 16 全信息自然语言理解的“认知机理” 幼儿识字教学过程：如，教学生认识“ 树 ”这个字。 先教怎么写（符号的 笔划结构 ）；再告诉“树”的真实 样子（事物的 形态结构 ） ，接着告诉“树”的基本特征及树 与草、与花的区别（ 语义 ）；再告诉“树”的用途（ 语用 ）。 明确了用途或害处 （ 语用 ）， 人们才会去关注它。 此后，见到“树”这个字或真的树（ 语法 ），就会在脑海 中联想到它的 语义 和 语用 ；才算 理解 了这个字。 这就是 由“语法”调用“全信息词典” 的过程。 机器可以 模拟这种认知过程。 17 An Example for “Understanding” Sensing Experiencing Thinking Form Value Content Learning the。