NLPIR语义系统智能挖掘文本数据
发布时间:2017年12月01日
详细说明
随着数据量的高速增长,数据的内在价值日益受到关注。数据量激增已经给各行各业带来深刻影响。目前,网络文本信息本质并没有随时代的变化而变化,但其符号、载体和记录复制方式正在发生翻天覆地变化;电子形式或网络空间中的文本信息正在向综合化方向发展,数字化、多媒体、可视化等正在成为文本信息记录、保存和传播的发展方向。面对这种形势,社会科学的研究方法、研究内容和学科疆界也在发生变化。在海量数据和信息面前,如果没有数据管控,没有数据和知识挖掘、发现、组织、导航、表达的科学化管理过程,数据分析人员就有可能迷失在数据和信息的汪洋大海中。
数据挖掘的应用领域涉及广泛,主要包括数据库系统,基于知识的系统,人工智能,机器学习,知识获取,统计学,空间数据库和数据可现化等领域。
(一)统计学
统计学在数据样本选择、数据预处理及评价抽取知识的步骤中有非常重要的作用。在数据预处理步骤中,统计学提出了估计噪声参数过程中要用的平滑处理的技术,在一定程度上对补足丢失数据有相当的作用。统计学对检测数据分析、聚类和实验数据参数设计上也有用。统计学的工作大多是针对技术和模型的理论方面。于是许多工作是着眼于线性模型、递增的高斯噪声模型、参数估计和严格分类参数模型上。
(二)模式识别
在模式识别工作中,传统上是把注意力集中在符号形式化直接结合实际技术的工作过程中。模式识别主要用于分类技术和数据的聚类技术上。模式识别中的分类和含义分析是对数据挖掘概念形成的开端。多数模式识别的算法和方法对降维、变换和设置都有直接的参考意义。在数据挖掘的步骤中,模式识别比统计学更为重要,因为它强调了计算机算法、更加复杂的数据结构和更多的搜索。典型的数据分类是用一定的分类技术把数据从一个向量空间映射到另外一个向量空间。
(三)人工智能
人工智能对于数据挖掘来说原来一直是在符号的层次上处理数据,而对于连续变量注意较少。在机器学习和基于案例的推理中,分类和聚类算法着重于启发式搜索和非参数模型。对于其结果,并不象模式识别和统计学在数学上的精确和要求严格分析。随着计算机学习理论的发展。人工智能把注意力集中在了表达广义分类的模糊边缘上。机器学习主要是对数据挖掘过程中的数据变量选择处理极有帮助,在通过大量搜索表达式和选择变量上有很大作用。人工智能的其他技术,包括知识获取技术、知识搜索和知识表达在数据挖掘的数据变换、数据选择、数据预处理等步骤中都有作用。
(四)数据库
数据库及其相关技术显然与数据挖掘有直接的关系。数据库是原始数据的处理、储存和操作的基础。随着平行和分布式数据库的使用,对数据