MATLAB实现FCM聚类算法.doc

MATLAB实现FCM聚类算法.doc本文在阐述聚类分析方法的基础上重点研究 FCM聚类算法。FCM算法是一种基于划分的
聚类算法，它的思想是使得被划分到同一簇的对象之间相似度最大， 而不同簇之间的相似度
最小。最后基于 MATLAB实现了对图像信息的聚类。
第1章概述
聚类分析是数据挖掘的一项重要功能， 而聚类算法是目前研究的核心， 聚类分析就是使
用聚类算法来发现有意义的聚类，即 物以类聚”。虽然聚类也可起到分类的作用，但和大
多数分类或预测不同。 大多数分类方法都是演绎的， 即人们事先确定某种事物分类的准则或
各类别的标准，分类的过程就是比较分类的要素与各类别标准， 然后将各要素划归于各类别
中。确定事物的分类准则或各类别的标准或多或少带有主观色彩。
为获得基于划分聚类分析的全局最优结果， 则需要穷举所有可能的对象划分， 为此大多
数应用采用的常用启发方法包括： k-均值算法，算法中的每一个聚类均用相应聚类中对象的
均值来表示；k-medoid算法，算法中的每一个聚类均用相应聚类中离聚类中心最近的对象 来表示。这些启发聚类方法在分析中小规模数据集以发现圆形或球状聚类时工作得很好， 但
当分析处理大规模数据集或复杂数据类型时效果较差，需要对其进行扩展。
而模糊C均值(Fuzzy C-means, FCM)聚类方法，属于基于目标函数的模糊聚类算法的 范畴。模糊 C均值聚类方法是基于目标函数的模糊聚类算法理论中最为完善、应用最为广 泛的一种算法。模糊c均值算法最早从硬聚类目标函数的优化中导出的。 为了借助目标函数
法求解聚类问题，人们利用均方逼近理论构造了带约束的非线性规划函数， 以此来求解聚类
问题，从此类内平方误差和 WGSS(Withi n-Groups Sum of Squared Error) 成为聚类目标函
数的普遍形式。随着模糊划分概念的提出， Dunn [10]首先将其推广到加权 WGSS函数，
后来由Bezdek扩展到加权 WGSS的无限族，形成了 FCM聚类算法的通用聚类准则。 从此这类模 糊聚类蓬勃发展起来，目前已经形成庞大的体系。
第2章聚类分析方法
2-1聚类分析
聚类分析就是根据对象的相似性将其分群， 聚类是一种无监督学习方法,
它不需要先验
的分类知识就能发现数据下的隐藏结构。 它的目标是要对一个给定的数据集进行划分， 这种
划分应满足以下两个特性： ①类内相似性：属于冋一类的数据应尽可能相似。
②类间相异性：
属于不冋类的数据应尽可能相异。图 。
本文在阐述聚类分析方法的基础上重点研究 FCM聚类算法。FCM算法是一种基于划分的

聚类分析是数据挖掘的一项重要功能， 而聚类算法是目前研究的核心， 聚类分析就是使
用聚类算法来发现有意义的聚类，即 物以类聚”。虽然聚类也可起到分类的作用，但和大
多数分类或预测不同。 大多数分类方法都是演绎的， 即人们事先确定某种事物分类的准则或
各类别的标准，分类的过程就是比较分类的要素与各类别标准， 然后将各要素划归于各类别
中。确定事物的分类准则或各类别的标准或多或少带有主观色彩。
聚类分析是归纳的，不需要事先确定分类的准则来分析数据对象， 不考虑己知的类标记。
一般情况下，训练数据中不提供类标记， 因为不知道从何开始，聚类可以用于产生这种标记。 对象根据最大化类内的相似性， 最小化类间的相似性的原则进行聚类或分组， 它通过一些计
算来把观测进行合理的分类， 使得同类的观测比较接近， 不同类的观测相差较多。 所形成的
每个簇可看成一个对象类， 由它可以导出规则。 聚类增强了人们对客观现实的认识， 是概念
描述和偏差分析的先决条件。
2-2主要聚类算法的分类
聚类方法包含很多类型的算法， 主要可以分为划分方法、 层次方法、基于密度的方法、
基于网格的方法和基于模型的方法等几个大类。 H
（1） 划分方法
给定一个包含n个对象或数据行的数据集， 划分方法将数据集划分为 k个子集（划分），
其中每个子集均代表一个聚类，即将数据分为 k组。这些组满足以下要求： 1•每组至少应
包含一个对象；2•每个对象必须只能属于某一组。 后一个要求在一些模糊划分方法中可以放
宽。
给定需要划分的个数 k, 一个划分方法首先创建一个初始划分， 然后利用循环再定位技
术，即通过移动不同划分（组）中的对象来改变划分内容。一个好的划分衡量标准通常是使得 同一个组中的对象 相近”或彼此相关，而不同组中的对象 较远”或彼此不同。
为获得基于划分聚类分析的全局最优结果， 需要穷举所有可能的对象划分，为此大多数
应用采用的常用启发方法包括： k-均值算