基于BP神经网络泛化能力的模糊聚类分析

第８卷第２期　金华职业技术学院学报　ＶｏＡＤｒ．２００８　Ｉ．８　Ｎｏ．２　２００８年４月　基于ＢＰ神经网络泛化能力的模糊聚类分析　乔占周　（聊城职业技术学院，山东聊城２５２０００）　摘要：利用专家经验时样本集进行聚类，通常是便捷有效的，为了衡量聚类的可信度，提出了基于ＢＰ神经网络泛　化能力的模糊聚类方法，实例表明，此方法是行之有效的。　关键词：ＢＰ神经网络；模糊聚类；分析　中图分类号：ＴＰ１８３　文献标识码：Ａ　文章编号：１６７１—３６９９（２００８）０２－００３９－０３　引言　样本抽取ｍ个特征，使得麓＝　，…，　Ｔ，ｉ＝１，２，　…，　；其中粕表示第　个样本的第－『个特征值。　人脑具有很强的模糊聚类能力，这种能力是在　结合专家经验，通过对样本特征的分析，将样本　后天的学习中获取的。通过分析样本特征，结合先　聚为ｓ类。并利用重心法，确定聚类中心　，Ｘ：，…　验知识和常识．样本集可被相关领域的专家予以比　ｓ，其中Ｘ　＝ｉｘ　Ｘ　，…，　，ｉ＝１，２，…，ｓ。　较合理的聚类。这种聚类是行之有效的，通常也是　１＿２　ＢＰ神经网络的构建与训练　必要的。　构建三层ＢＰ神经网络，输入层与输出层的神经　然而，由于专家经验的差异，同样是把样本集　元数分别为ｍ和ｓ，选取ｓ与ｍ中间的一个整数作　聚为．ｓ，不同的专家所给的聚类往往是不同的。怎样　为隐含层的神经元数：采用Ｓｉｇｍｏｉｄ函数作为隐含层　来衡量这些聚类的优劣呢？基于此，本文利用人工　和输出层的激活函数；以聚类中心Ｘ　，Ｘ：，…　ｓ为输　神经网络【　－２］进行模糊聚类．以确定不同专家所给聚　入矢量。相应的目标矢量为　类结果的可信度。　＝［１，Ｏ，０，…，Ｏ］　，　＝［Ｏ，１，０，…，Ｏ］　，　＝１基于ＢＰ神经网络泛化能力的模糊　［Ｏ，０，０，…，ｌｒ　其中，　（１≤ｉ≤ｓ）均为Ｓ维矢量，训练网络直到误差　聚类分析法　达到要求。　１．３模糊聚类及可信度　基于ＢＰ神经网络泛化能力的模糊聚类分析法　分别把样本　，　，…，　作为ＢＰ神经网络的输　的思想为：首先．利用专家经验对样本集进行初步聚　入矢量，求得对应的输出矢量为口　，ａ２，…，％，其中　类，确定聚类中心，并构建适宜的ＢＰ神经网络予以　ａ／＝ｈｌ，　，…，　］（ａ＝ｌ，２，…，　），ａ／ｌ，　，…，‰分别为　训练；接着，基于ＢＰ神经网络的泛化能力，将聚类中　心视为样本集上的模糊集．利用训练好了的ＢＰ神经　样本施相对于模糊集　，　：，…　的隶属度。　网络，求出每个样本相对于各个聚类中心的隶属度；　设ａｕ＝ｍａｘ｛ａ￣ｌ，　，…，　｝（　＝１，２，…，　；１≤　≤ｓ），　最后，根据最大隶属原则将样本集进行模糊聚类　即样本筏隶属于模糊集置的程度最高，根据最大隶　（可以验证，所得的模糊聚类与初步聚类是一致的），　属原则，样本以　的程度相对隶属于模糊集　。将　并将所获得的各个最大隶属度的均值，作为聚类的　Ｘ　（ｉ＝１，２，…，　；１≤磊≤ｓ）聚为一类，所得的模糊聚　可信度。由此，可借助可信度的高低，评价出专家经　类与初始聚类是一致的。　验所做聚类的优劣。具体步骤如下。　取　：　±　±：：：±　１．１步聚类，确定聚类中心　，则ｈ可以作为聚类优劣　设样本集　，　：，…，　｝，　为样本容量，每个　的一种衡量指标，定义ｈ为聚类的可信度。　收稿日期：２０ｏ８一Ｏｌ一２４　作者简介：乔占周（１９７９－），男，山东聊城人，助教，主要从事人工智能的研究。　维普资讯 http://www.cqvip.com ４０　金华职业技术学院学报　２　０　０　８在　２实例分析　本例以矿业开发密集程度【。】将迁安各乡镇作　块面积占总面积的百分比和单位面积采矿边界四　个指数．初步确定迁安市矿业开发密集程度为五　级，一级为最密集，五级则几乎没有矿业开发。见　模糊聚类分析，采用单位面积采矿斑块数、采矿斑　表１。　表１迁安各乡镇的矿业开发密集程度　口。　通过分析样本特征，依据专家经验，可作如下　达到误差要求。　聚类：　、　：　—＼　、　ｚ　。各类的聚类中心　。，　，　。，　，　５依次为：　ｉ＼　＼　。　［０．３４３５，０．３４８９，１９．７４７］，［０．４６３７，０．１２５０，１２．２５６］，　，　［０．１３０７，０．０６０７，３．７２２７］，［０．０９８６，０．０２４６，１．６０７６］，　＼　＼　［０．００３１，０．０００１，０．０６９６］．　构建３—４—５三层ＢＰ神经网络，以Ｓｉｇｍｏｉｄ函数　作为隐含层和输出层的激活函数，最大训练次数设　０　５００　１０００　１５００　２００１３　２５００　３【瑚　３５００　４０００　为５０００。误差指标设为１０　．为了加快训练速度，本　图１误差训练记录　文采用加入动量项和学习速率自调整的ＢＰ算法问，　在ＭＡｒＩＩＡＢ环境下。调用神经网络工具箱的　利用训练好了的网络，可以获得绚（１≤Ｚ≤１９）　ｔｒａｌｎｇｄｘ函数训练网络．训练过程中的误差记录如下　相对于模糊集　。，　，　３，　，　５的隶属度（见表２）。　图１所示。分析图１可知，网络训练４３４５次后，即　经计算，聚类的可信度为０．９６９９。可以验证，同样是　维普资讯 http://www.cqvip.com

第２期　乔占周：基于ＢＰ神经网络泛化能力的模糊聚类分析　４１　聚作５类，其它聚类均不及这种聚类方法的可信度　高，从而在将样本聚为５类时，这种聚类为最优的。　同一个样本，不同的专家往往会作出不同的聚类。　利用基于ＢＰ神经网络泛化能力的模糊聚类分析　法．可以对这种凭借专家经验，同样是聚为Ｉｓ类的　不同聚类的优劣进行衡量。这就为最优聚类的确定　提供了一种行之有效的方法。　３结论　样本集被相关领域的专家聚类时，通常并不采　用动态聚类和分级聚类等数学方法，而是凭借相关　领域的经验，去分析样本的特征。由于人脑中的经　验是模糊的，在样本集的边界不确定的情形下，对　利用专家经验，对同一个样本集所作的聚类，　当类数不同时．怎样去衡量它们的优劣呢？对这种　情况，仅仅去考察它们的可信度是不够的，怎样引　入其它的评价指标来解决这个问题是值得研究的。　表２样本相对于模糊集　。，　，　，　，　５的隶属度　参考文献：　［１】冯天瑾．神经网络技术［Ｍ】．青岛：青岛海洋大学出版社，１９９３．　［２］袁曾任．人工神经元网络及其应用［Ｍ】．北京：清华大学出版社，１９９９．　［３］李富平．矿业开发密集程度的模糊聚类分析【Ｊ】．化工矿物与加工，２００３（１０）：９－１１．　［４］杨建刚．人工神经网络实用教程［Ｍ】．杭州：浙江大学出版社，２００１．　Ｆｕｚｚｙ　Ｃｌｕｓｔｅｒ　Ａｎａｌｙｓｉｓ　Ｂａｓｅｄ　ｏｎ　Ｅｘｔｅｎｄｉｎｇ　Ａｂｉｌｉｔｙ　ｏｆ　ＢＰ　Ｎｅｕｒａｌ　Ｎｅｔｗｏｒｋ　ＱＩＡＯ　Ｚｈａｎ－ｚｈｏｕ　（Ｌｉａｏｃｈｅｎｇ　Ｃｏｌｌｅｇｅ　ｏｆ　Ｖｏｃａｔｉｏｎ　ａｎｄ　Ｔｅｃｈｎｏｌｏｇｙ，Ｌｉａｏｃｈｅｎｇ　２５２０００，Ｃｈｉｎａ）　Ａｂｓｔｒａｃｔ：Ｕｓｕａｌｌｙ　ｉｔ　ｉｓ　ｕｓｅｆｕｌ　ｔｏ　ｄｅａｌ　ｗｉｔｈ　ｔｈｅ　ｓａｍｐｌｅ　ｓｅｔ　ｂｙ　ｍｅａｎｓ　ｏｆ　ｅｘｐｅｒｉｅｎｃｅ　ｏｆ　ｅｘｐｅｒｔｓ．Ｉｎ　ｏｒｄｅｒ　ｔｏ　ｔｅｓｔ　ｔｈｅ　ｃｒｅｄｉｂｉｌｉｔｙ　ｏｆ　ｃｌｕｓｔｅｒｉｎｇ，ｔｈｅ　ｐａｐｅｒ　ｐｒｅｓｅｎｔｓ　ｆｕｚｚｙ　ｃｌｕｓｔｅｒ　ａｎａｌｙｓｉｓ　ｂａｓｅｄ　ｏｎ　ｅｘｔｅｎｄｉｎｇ　ａｂｉｌｉｔｙ　ｏｆ　ＢＰ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ．Ａｎ　ｅｘａｍｐｌｅ　ｉｓ　ｇｉｖｅｎ　ｔｏ　ｄｅｍｏｎｓｔｒａｔｅ　ｔｈｅ　ｅｆｆ￣ｃｔｉｖｅｎｅｓｓ　ｏｆ　ｈｔｅ　ｍｅｔｈｏｄ．　Ｋｅｙ　ｗｏｒｄｓ：ＢＰ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ；ｆｕｚｚｙ　ｃｌｕｓｔｅｒ；ａｎａｌｙｓｉｓ