文章在对多维交叉分类数据进行粗糙集描述的基础上,提出了用关联信息系数矩阵测度多维定性变量关联性的方法。研究表明,应用关联信息系数矩阵可以更有效地发现多维变量间的关联结构。2006年教育部社会科学研究资助项目(06JA910003

范霄文

郭惠英

Xiamen University Institutional Repository

统计与决策 2008 年第 13 期( 总第 265 期)表 1 2 维列联表X1X2┇XrY1 Y2 ⋯ YcP11 P12 ⋯ P1cP21 P22 ⋯ P2c┇ ┇ ┇ ┇Pr1 Pr2 ⋯ PrcP.1 P.2 ⋯ P.cp1p2┇pr1XY表 2 信息表U/AU1U2┇Uk∑x1 x2 ⋯ xPTyty1y2┇yknPtP1P2┇Pk1基金项目: 2006 年教育部社会科学研究资助项目( 06JA910003)范霄文 1, 2, 郭惠英 2( 1.厦门大学 经济学院 , 福建 厦门 361005; 2.山西财经大学 统计学院 , 太原 030006)摘 要 : 文章在对多维交叉分类数据进行粗糙集描述的基础上 , 提出了用关联信息系数矩阵测度多维定性变量关联性的方法。研究表明 , 应用关联信息系数矩阵可以更有效地发现多维变量间的关联结构。关键词 : 交叉分类数据 ; 关联分析; 粗糙集中图分类号 : C81 文献标识码 : A 文章编号 : 1002- 6487( 2008) 13- 0012- 02粗糙集理论的统计扩展及应用0 引言在对可能包含成百上千变量的海量数据进行数据挖掘时 , 无论是进行最简单的分析还是建立复杂的模型 , 理解数据都是至关重要的一步。对于多维定性变量的关联分析 , 目前统计学领域主要是采用对数线性模型进行分析。但是 , 对于大型数据集 , 一方面数据并非随机抽取 , 利用在随机分布前提下建立的统计理论显然欠妥。另一方面 , 对于出现 0 频数的特殊数据需要特殊的考虑 , 而且对数线性模型选一个“最佳拟合”几乎是不可能的 , 通常只能在一定的显著性水平下选出一个可接受的关联结构模型。为此 , 本文吸收借鉴现有研究成果 , 从粗糙集理论出发 , 将多维交叉分类数据以粗糙集信息表的形式加以描述 , 并在各变量子集等价关系频率分布的基础上测度变量间的关联程度 , 利用关联信息系数矩阵分析多维变量的关联结构。研究表明 , 熵是申农在信息论中提出的一个基本概念和测度 , 是信息、选择和不确定性的度量。利用熵概念 , 建立适用于任意定性变量关联性分析的测度 , 可以有效反映定性变量间的关联程度 , 而应用关联信息系数矩阵并类处理方法则可以在一定程度上解决“组合爆炸”的问题 , 进一步将定性数据统计分析方法的应用领域延伸到了海量数据。1 多维交叉数据的粗糙集模型1.1 多维交叉分类数据的粗糙集描述在传统的统计学方法中 , 2 维交叉分类数据表 1 所示的列联表来描述的。表 1 中 , 变量 X 有 r 类 : X1,X2,⋯,Xr; 变量 Y 有 c 类; 变量X 与 Y 则形成了 r×c类 : {XiXj|i=1,2,⋯,r,j=1,2,⋯,c}。2 维表提供了以下的分布信息:X:X1 X2 ⋯ Xrp1 p2 ⋯ pr# $(ri = 1"pi.=1)Y:Y1 Y2 ⋯ Ycp1 p2 ⋯ pc% &(ci = 1"p.j=1)XY:X1Y1 X1Y2 ⋯ XrYcp11 p12 ⋯ prc% &(cj = 1"ri = 1"pij=1)实质上列联表提供的就是各变量的边缘分布及变量集联合分布的频率或频数分布数据。从粗糙集理论来看 , 高维交叉分类数据可以用粗糙集中的信息系统 S=(U,A,V,f) 的来表示[1]。U={u1,u2,⋯,un}为对象集 , 对应 n 个观测个体 ; A={x1,x2,⋯ ,xp}为 属 性 集 , 对 应 高 维 列 联 表 中 的 变 量 集 , 如 x1 表 示 性别 , x2 表示职业 ; V= Ux∈AVx, Vx 是变量 x 的值域 , 如对应高维列联表中变量 xi 的取值集合 Ti; f:U×A→V 是一个信息函数 , 为每个对象的每个属性赋予一个信息值 , 即)x∈A, u∈U,f(u,x)∈Vx, 即每个观测对象与每个变量取值的映射关系。在信息系统 S 中 , 如果 B*A 是任一子集 , 对于 ui,uj∈U(i≠j), 如果每个属性 x∈B, 有f(ui, x)=f(uj, x)则称在 S 中 , ui 与 uj 关于属性子集 B 是等价的 , 用 RB 表示对象集 U 由属性子集 B 导出的一个等价关系。U 上的等价关系 RB 必然产生 U 上的一个划分 U/B={U1,U2,⋯,Uk}, 即等价关系将研究对象分成 k 个不同的类 , 这些类之间互不相交(Ui∩Uj=!|i≠j), 且任何对象只包含于某一类中。多维交叉分类数据可用信息表的形式加以表示 , 信息表的行对应变量集 A 的等价关系 RA 产生的分类 , 列对应对象的属性及各分类的频数或频率 , 对象的信息是通过映射关系f 来表达。表 2 中 , 一个变量对应一个等价关 系 , 一 个 表 对 应 一 族 等 价 关 系 分类。对于任意的变量子集 B*A, B 包含的变量越多划分越细 , 即当B1*B2*A 时 , U/A≤U/B2≤U/B1U/B=x∈B.U/x从信息表, 我们可以得到任意变量子集 B*A 等价关系 RB的频率分布:RB=x1 x2 ⋯ xkp1 p2 ⋯ pk% &(ki = 1"pi=1) ( 1)从粗糙集理论看 , 实质上多维交叉分类数据提供给我们理 论 新 探12统计与决策 2008 年第 13 期( 总第 265 期)U/Au1u2u3u4u5u6u7u8u9u10u11u12u13u14u15u16u17u18u19u20u21u22u23u24x1111111112222222233333333x2112211221122112211221122x3121212121212121212121212x4111122221111222211112222频数195729632949275323473366475523502437426843523042表 3 洗涤剂爱好调查数据x1x2x3x4x11x20.0011x30.0040.0011x40.0000.0150.0031表 4 1 维变量关联信息系数矩阵x1x2,x4x3x11x2,x40.0031x30.0040.0041表 5 关联信息系数矩阵的就是一族等价关系的频数及频率分布信息。在信息表的基础上, 我们可以得到任意一个变量子集等价关系的频率分布。1.2 变量间的关联信息系数我们知道 , 熵是反映不确定性的测度 , 熵值越大表示不确定性也越大 , 熵值越小不确定性也越小 , 因而 , 熵值的减少说明了不确定性的减少。两个定性变量是否相关 , 也就表现在一个定性变量能否减少另一定性变量的不确定性即熵值。如果一个定性变量使得另一个定性变量的熵值减小 , 则说明两定性变量有关。因此 , 我们可以从这一角度出发构造相关测度 [2]。对于任意一个 m(1≤m≤p)维变量子集 B "A, 根据其等价关系 RB 的频率分布可得变量子集的信息熵 H(B):H(B)=ki = 1#pilog2(pi) ( 2)设有变量子集 B"A 与 C"A, B∪C=D 令 , 且 B∩C=! 则有H(D)=H(B)+H(C|B)=H(C)+H(B|C)=H(BC)根据熵的性质有 :H(B)- H(B|C)=H(C)- H(C|B)=I(B,C)关联信息量 I(B,C)反映了变量子集 B 与 C 的关联程度 ,且可推出:I(B,C)=H(B)+H(C)- H(BC) ( 3)如果变量子集 B 与 C 独立 , 则有H(D)=H(B)+H(C)=H(BC)即 I(B,C)=0。变量间的关联性越强 , 关联信息量 I(B,C)越大。为了可比 , 我们定义[2]关联信息系数测度变量间的关联程度 :IR(B,C)=I(B,C)/ H(B)H(C)& ( 4)显然有 0≤IR(B,C)≤1, 且有 IR(B,C)=IR(C,B)。当变量间完全独立时 , IR(B,C)=0; 当变量间具有函数关系时 , IR( B, C)=1; 关联信息系数越接近于 1, 变量间的关联性愈强。2 多维定性变量的关联性分析多维变量间关联性的分析涉及不 同 维 度 变 量 间 的 关 联 结 构 分 析 。对于 p 维变量而言 , 需要分析的首先是 1 维变量间的关联结构 , 在此基础上 , 进一步分析 2 维变量子集直至维变量集与各维变量子集的关联结构。根据层次模型分析结果可知 , 当变量 xi 与 xj 相互独立时 , 变量子集 B1=(xi,xj)与变量 xk 也独立 , 据此可借鉴聚类分析思想 , 首先计算一维 变 量 子 集 间 的 关 联 信 息 系 数 矩阵 , 测度各变量间关联程度 ; 其次选择关联信息系数最大的变量子集进行并类 ; 然后计算并类后的变量子集与其他变量子集间的关联系数矩阵 , 再选择关联信息系数最大的变量子集进行并类 ; 重复上述步骤 , 直到合并为一类或关联信息系数太小无法并类为止。下面以表 3 所示的Ries 和 Smith 于 1963 年 收 集 的1008 人关于洗涤剂爱好的调查数据为例 , 给出多维定性变量的关联分析方法。表 3 中 , U 为 1008 被调查者的集合 , A={x1,x2,x3,x4} 为变量集 , 由变量集 A 形成的等价关系将 1008 名调查者分成了24 个类别。其中 : x1 表示水的软度 , Vx1={1,2,3}, 1 表示软 , 2 表示中 , 3 表示硬 ; x2 表示以前是否用商标 , Vx1 ={1,2}, 1 表示是 ,2 表示否 ; x3 表示水的温度 , Vx1 ={1,2}, 1 表示高 , 2 表 示 低 ; x4表示喜欢的商标 , Vx1 ={1,2}, 1 表示 X, 2 表示 M; f 表示各个类别的频数。根据表 3, 可以得到等价关系 Rxi 形成的频率分布 , 在此基 础 上 根 据 式 ( 4) 计 算 1 维 变 量 子 集 间 的 IR(xi,xj)(i,j=1,2,3,4), 当 i=j 时 , IR(xi,xj)=1, 结果如表 4 所示。表 4 中 , 各变量间的关联信息系数与 0 较为接近 , 表明变量间的关联性较小。maxIR(xi,xj)=IR(x2,x4)=0.015, 在临界值0.01 下 , 表明 x2 与 x4 间具有一定的关联性 , 其他变量间不具有关联性。将其并类形成子集 B1=(x2,x4)。接下来 , 再计算子集 B1 与剩 余 子 集 间 的 关 联 信 息 系 数 IR(xi,xj)(i=1,3) 矩阵。结果如表 5 所示。表 5 中 , 各变量子集间的关联信息系数均小于 0.01, 表明这些变量子集是独立的 , 不具有关联关系。可得到如图 1 所示的变量关联关系图。结果表明 , 商标偏好与以前用过 M 有关 , 人们乐意用熟悉的商标。3 结论多维定性交叉分类数据的分析 是 统 计 学 有 待 拓 展 的 领 域 , 面对日益增多的海量数据 , 现有的方法急待有所突破。应用粗糙集理论 , 将多维交叉分类数据以信息表描述 , 是将粗糙集分析理论与多维交叉分类数据分析相融合的一种尝试。而在此基础上 , 利用变量子集等价关系的频率分布测度变量间的关联程度 , 通过关联信息系数矩阵的合并可以有效分析出变量的关联结构 , 它即可用于随机获取的数据 , 也可用于非随机的海量数据分析。这一方法是多维定性变量关联分析方法的一种突破 , 但关联关系临界值的确定仍是今后进一步研究的课题。参考文献:[1]张文修 , 仇国芳.基于粗糙集的不确定决策[M].北京 : 清华大学出版社 , 2006.[2]周 光 亚 , 夏 立 显 .非 定 量 数 据 分 析 与 应 用[M].北 京 : 科 学 出 版 社 ,1993.[3]张 尧 庭 译 .离 散 多 元 分 析 ( 第 一 版 ) [M].北 京 : 中 国 统 计 出 版 社 ,1998.( 责任编辑/亦 民)图 1 变量关联关系图理 论 新 探13

粗糙集理论的统计扩展及应用

http://dspace.xmu.edu.cn/bitstream/handle/2288/147312/%e7%b2%97%e7%b3%99%e9%9b%86%e7%90%86%e8%ae%ba%e7%9a%84%e7%bb%9f%e8%ae%a1%e6%89%a9%e5%b1%95%e5%8f%8a%e5%ba%94%e7%94%a8.pdf?sequence=1&isAllowed=y

粗糙集理论的统计扩展及应用

Abstract

Similar works

Full text

Available Versions

Xiamen University Institutional Repository