基于支持向量机文本分类算法研究.pdf

摘要支持向量机作为一种基于统计学习理论的新型机器学习方法,较好地解决了非线性、高维数、局部极小点等实际问题,是机器学习领域新的研究热点。文本分类是基于内容的自动信息管理的核心技术。文本向量稀疏性大、维数高、特征之间具有较大的相关性,支持向量机对于特征相关性和稀疏性不敏感,处理高维数问题具有较大的优势,因此,支持向量机在文本分类中具有很大的应用潜力。但是,由于文本分类具有类别和样本数目多等特点,因此,支持向量机用于文本分类时仍有许多尚未完全解决的问题。例如,增量学习、兼类分类、训练和分类速度较慢等。本文主要针对支持向量机在文本��灾С窒蛄炕�胬喾掷嗨惴ń�辛搜芯俊U攵怨婺=闲⒗啾鹗�隙嗟募胬嘌��集,提出了一种基于�產�方法的兼类分类算法。该算法用�產�方法训练模糊子分类器,对待分类样本,通过子分类器得到其对应的隶属度向量,依据隶属度向量判定其所属类别。针对规模较大、类别数较少的兼类样本集,提出了一种基于�產�方法的兼类分类算法。该算法用�產�方法训练模糊子分类器,对于待分类样本,通过子分类器得到其对应隶属度矩阵,依据隶属度矩阵每行元素和判定该样本所属类别。针对规模较大、类别数较多的兼类样本集,提出了一种超球支持向量机兼类分类算法。该算法对每一类样本分别训练球超,通过计算待分类样本到各超球球心的距离确定其类别。实验表明,三种算法都能有效地实现兼类分类,扩展了支持向量机的分类能力。��灾С窒蛄炕�隽垦�八惴ń�辛搜芯俊L岢隽艘恢旨尤ɡ嘣隽垦�八惴ǎ�盟�法是对��惴ǖ母慕��ü�尤肜嗳ㄖ担�饩隽艘蛄嚼嘌盗费�静黄胶舛�斐傻男±�别分类精度较低的问题。实验证明,与��惴ㄏ啾龋�盟惴ㄔ诓唤档头掷嗨俣鹊那疤�下,提高了小类别的分类精度。同时,提出了一种新的类增量学习算法,该算法利用超球支持向量机进行分类。增量学习过程中,先对新增类别训练超球,然后对新增样本兼有的历史类别重新训练超球。在很小的样本集,很小的空间代价下实现类增量学习,同时保留了历史训练结果。该算法对单号样本和多标号样本都适用,便于改进和扩充。实验证明,该算法具有较高的训练速度、分类速度和分类精度,增强了支持向量机的学习��灾С窒蛄炕�焖俜掷嗨惴ń�辛搜芯俊T诜治隽讼钟兄С窒蛄考�跫醴椒ǖ幕�础上,提出了一种支持向量机快速分类算法,该算法是对���惴ǖ母慕�8盟惴ɡ�用二分法选取支持向量子集,然后采用变换的方式,用选取的支持向量子集代替全部支分类等实际应用中存在的一些问题进行深入研究,主要工作如下:能力。大连理工大学博士学位论文
持向量进行分类计算。实验结果表明,该算法在不损失分类精度的前提下,进一步缩减了决策函数中的支持向量,提高了支持向量机的分类速度。��阅:�С窒蛄炕�盗匪惴ń�辛搜芯俊U攵源蠊婺Q盗芳��岢隽艘恢掷�米�大违反对选择工作集训练模糊支持向量机的算法。在此基础上,又提出了一种利用目标函数的二阶近似信息选取工作集训练模糊支持向量机的算法。实验表明,两种算法都能实现模糊支持向量机的快速训练。两种算法相比,第二种算法的训练速度更快,训练样本集规模越大,效果越明显。关键词:支持向量机;文本分类;兼类分类;增量学习;超球基于支持向量机的文本分类算法研究
.������衜�鷇��������,����������������������.�����,���������.������.���甅�����大连理工大学博士学位论文������,�������猙������.���������,����,���猯���������,������瓼�����琤�����,����猯����甤�����.�������,������産�����。���猚�����.����甤����������瓼����瑃����猻������畇������.�甀����������瓵�����甌�����瓻��������,�������,�������,�������瑂����甌���猘��猘.��產.����������������.�����瑆��
.��,�����������������.�����篠�����,���������������瑃���.�����;���������;���甃��基于支持向量机的文本分类算法研究�����.����琤����.���瓼������甋��������瑆������畉��������.����.��������.����瓼�����琣����.�������������;�����甌����.�����甀������.������瓵������.����琣����;���—�—
爪乏、�独创性说明作者郑重声明:本博士学位论文是我个人在导师指导下进行的研究工作及取得研究成果。尽我所知,除了文中特别加以标注和致谢的地方外,论文中不包含其