信息系统中的熵理论和信息粒度

J4 ›› 2012, Vol. 34 ›› Issue (4): 94-101.

信息系统中的熵理论和信息粒度

滕书华，鲁敏，张军，谭志国，庄钊文

（国防科学技术大学电子科学与工程学院，湖南长沙 410073）

收稿日期:2011-11-05 修回日期:2012-02-10 出版日期:2012-04-26 发布日期:2012-04-25
基金资助:
中国博士后科学基金资助项目(20110481511)；国家自然科学基金资助项目(60972114)

Entropy Theory and Information Granularity in Information Systems

TENG Shuhua，LU Min，ZHANG Jun，TAN Zhiguo，ZHUANG Zhaowen

（School of Electronics Science and Engineering,National University of Defense Technology,Changsha 410073,China）

Received:2011-11-05 Revised:2012-02-10 Online:2012-04-26 Published:2012-04-25

摘要/Abstract

摘要：

不确定性是人工智能中的研究热点，而熵理论和信息粒度是度量信息系统不确定性的两种主要方法。本文在给出信息系统中熵的物理意义基础上，提出了信息系统中熵增加原理，给出了熵和信息粒度的公理化定义，据此构造了两种新的不确定性度量函数—α熵和α粒度，它们是已有熵和粒度度量的进一步推广。研究表明，α熵以及现有的熵度量都是广义熵的特殊形式，而α粒度以及现有的粒度度量都是广义粒度的特殊形式，从而统一、规范和发展了完备与不完备信息系统中的不确定性度量方法。

关键词: 信息系统, 熵, 信息粒度, 粗糙集, 不确定性

Abstract:

One of the most important issues in artificial intelligence is uncertainty. Many uncertainty measuring methods have been put forward and widely used in information systems, such as entropy theory and information granularity, which are two main approaches to study the uncertainty of an information system. In this paper, the physical meaning of entropy and the entropy increase principle in information systems are presented firstly, then the axiom definitions of entropy and information granularity are provided and two new uncertainty measureing functions αentropy and αgranularity using this method are developed. Analysis shows that some of the existing definitions of entropy and information granularity become the special forms of axiom definitions. The results unify, standardize and develop the theory of uncertainty measureing in complete and incomplete information systems.

Key words: information system;entropy;information granularity;rough sets;uncertainty

滕书华，鲁敏，张军，谭志国，庄钊文. 信息系统中的熵理论和信息粒度[J]. J4, 2012, 34(4): 94-101.

TENG Shuhua，LU Min，ZHANG Jun，TAN Zhiguo，ZHUANG Zhaowen. Entropy Theory and Information Granularity in Information Systems[J]. J4, 2012, 34(4): 94-101.

[1]	李猛, 刘姿邑, 宋宇航. 基于双重自表达与最大熵原理的深度子空间聚类算法[J]. 计算机工程与科学, 2024, 46(09): 1685-1692.
[2]	肖振国, 陈林书, 孙少杰, 梅本霞, 柳媛慧, 赵磊. 基于代数粒的聚类方法[J]. 计算机工程与科学, 2024, 46(01): 150-158.
[3]	王晓琦, 赵宣植, 刘增力, . 基于多尺度小波和Tsallis熵的水下图像边缘检测[J]. 计算机工程与科学, 2023, 45(07): 1245-1252.
[4]	王克克, 郭莉丽, 郎静宏 . 基于STAMP模型的风险评估行为安全指标体系[J]. 计算机工程与科学, 2022, 44(08): 1372-1381.
[5]	闫少辉, 施万林, 宋震龙, 王尔童, 孙溪, 黄羿博, . 一个新三维混沌电路设计及其同步控制[J]. 计算机工程与科学, 2022, 44(08): 1409-1417.
[6]	苟平章, 原晨, 张芬. 基于软件定义的WSNs非均匀分簇QoS路由算法[J]. 计算机工程与科学, 2022, 44(02): 227-236.
[7]	李召恺, 马占有, 李健祥, 郭昊. 基于模糊决策过程的模糊计算树逻辑模型检测[J]. 计算机工程与科学, 2022, 44(02): 266-275.
[8]	骆公志, 陈佳馨. 多源覆盖信息系统下的加权广义多粒度粗糙集模型及其应用[J]. 计算机工程与科学, 2021, 43(12): 2231-2237.
[9]	李雨晨, 魏巍, 白伟明, 王达. 基于标签共现关系的多标签特征选择[J]. 计算机工程与科学, 2021, 43(11): 2049-2055.
[10]	李叔敖, 解庆, 马艳春, 刘永坚. 基于路径聚合扩张卷积的图像语义分割方法[J]. 计算机工程与科学, 2021, 43(04): 712-720.
[11]	靳旭文, 李国东. 基于Strcmp分解超Lorenz混沌的图像加密算法[J]. 计算机工程与科学, 2021, 43(03): 456-464.
[12]	罗凡波, 王平, 徐桂菲, 雷勇军, 范烊. 基于多尺度卷积神经网络的人群聚集异常预测[J]. 计算机工程与科学, 2020, 42(12): 2223-2232.
[13]	姜春茂, 刘安鹏. 三支决策视角下的属性约简加速方法[J]. 计算机工程与科学, 2020, 42(12): 2280-2286.
[14]	韩虎, 孙天岳, 赵启涛. 引入自编码机制对抗网络的文本生成模型[J]. 计算机工程与科学, 2020, 42(09): 1704-1710.
[15]	王虹, 李敏赢. 局部广义多粒度粗糙集[J]. 计算机工程与科学, 2020, 42(08): 1463-1471.