|
|
1网络之后的下一个技术热点
我们现在已经生活在一个网络化的时代，通信、计算机和网络技术正改变着整个人类和社
会。如果用芯片集成度来衡量微电子技术，用CPU处理速度来衡量计算机技术，用信道传输
速率来衡量通信技术，那么摩尔定律告诉我们，它们都是以每18个月翻一番的速度在增长
，这一势头已经维持了十多年。在美国，广播达到5000万户用了38年；电视用了13年；In
ternet拨号上网达到5000万户仅用了4年。全球IP网发展速度达到每6个月翻一番，国内情
况亦然。1999年初，中国上网用户为210万，现在已经达到600万。网络的发展导致经济全
球化，在1998年全球产值排序前100名中，跨国企业占了51个，国家只占49个。有人提出，
对待一个跨国企业也许比对待一个国家还要重要。在新世纪钟声刚刚敲响的时候，回顾往
昔，人们不仅要问：就推动人类社会进步而言，历史上能与网络技术相比拟的是什么技术
呢?有人甚至提出要把网络技术与火的发明相比拟。火的发明区别了动物和人，种种科学技
术的重大发现扩展了自然人的体能、技能和智能，而网络技术则大大提高了人的生存质量
和人的素质，使人成为社会人、全球人。
现在的问题是：网络之后的下一个技术热点是什么？让我们来看一些身边俯拾即是的现象
：《纽约时报》由60年代的10～20版扩张至现在的100～200版，最高曾达1572版；《北京
青年报》也已是16～40版；市场营销报已达100版。然而在现实社会中，人均日阅读时间通
常为30～45分钟，只能浏览一份24版的报纸。大量信息在给人们带来方便的同时也带来了
一大堆问题：第一是信息过量，难以消化；第二是信息真假难以辨识；第三是信息安全难
以保证；第四是信息形式不一致，难以统一处理。人们开始提出一个新的口号：“要学会
抛弃信息”。人们开始考虑：“如何才能不被信息淹没，而是从中及时发现有用的知识、
提高信息利用率？”
面对这一挑战，数据开采和知识发现（DMKD）技术应运而生，并显示出强大的生命力。
2 数据爆炸但知识贫乏
另一方面，随着数据库技术的迅速发展以及数据库管理系统的广泛应用，人们积累的数据
越来越多。激增的数据背后隐藏着许多重要的信息，人们希望能够对其进行更高层次的分
析，以便更好地利用这些数据。目前的数据库系统可以高效地实现数据的录入、查询、统
计等功能，但无法发现数据中存在的关系和规则，无法根据现有的数据预测未来的发展趋
势。缺乏挖掘数据背后隐藏的知识的手段，导致了“数据爆炸但知识贫乏”的现象。
3 支持数据挖掘技术的基础
数据挖掘技术是人们长期对数据库技术进行研究和开发的结果。起初各种商业数据是存储
在计算机的数据库中的，然后发展到可对数据库进行查询和访问，进而发展到对数据库的
即时遍历。数据挖掘使数据库技术进入了一个更高级的阶段，它不仅能对过去的数据进行
查询和遍历，并且能够找出过去数据之间的潜在联系，从而促进信息的传递。现在数据挖
掘技术在商业应用中已经可以马上投入使用，因为对这种技术进行支持的三种基础技术已
经发展成熟，他们是：
- 海量数据搜集
- 强大的多处理器计算机
- 数据挖掘算法
Friedman[1997]列举了四个主要的技术理由激发了数据挖掘的开发、应用和研究的兴趣：
- 超大规模数据库的出现，例如商业数据仓库和计算机自动收集的数据记录；
- 先进的计算机技术，例如更快和更大的计算能力和并行体系结构；
- 对巨大量数据的快速访问；
- 对这些数据应用精深的统计方法计算的能力。
商业数据库现在正在以一个空前的速度增长，并且数据仓库正在广泛地应用于各种行业；
对计算机硬件性能越来越高的要求，也可以用现在已经成熟的并行多处理机的技术来满足
；另外数据挖掘算法经过了这10多年的发展也已经成为一种成熟，稳定，且易于理解和操
作的技术。
4 从商业数据到商业信息的进化
从商业数据到商业信息的进化过程中，每一步前进都是建立在上一步的基础上的。见下表
。表中我们可以看到，第四步进化是革命性的，因为从用户的角度来看，这一阶段的数据
库技术已经可以快速地回答商业上的很多问题了。
以下是数据挖掘的进化历程，每行分别是：
进化阶段 商业问题 支持技术 产品厂家 产品特点
数据搜集(60年代)
“过去五年中我的总收入是多少？”
计算机、磁带和磁盘
IBM,CDC
提供历史性的、静态的数据信息
数据访问(80年代)
“在新英格兰的分部去年三月的销售额是多少？”
关系数据库（RDBMS），结构化查询语言（SQL），ODBC
Oracle、Sybase、Informix、IBM、Microsoft
在记录级提供历史性的、动态数据信息
数据仓库；决策支持(90年代)
“在新英格兰的分部去年三月的销售额是多少？波士顿据此可得出什么结论？”
联机分析处理（OLAP）、多维数据库、数据仓库
Pilot、Comshare、Arbor、Cognos、Microstrategy
在各种层次上提供回溯的、动态的数据信息
数据挖掘（正在流行）
“下个月波士顿的销售会怎么样？为什么？”
高级算法、多处理器计算机、海量数据库
Pilot、Lockheed、IBM、SGI、其他初创公司
提供预测性的信息
数据挖掘的核心模块技术历经了数十年的发展，其中包括数理统计、人工智能、机器学习
。今天，这些成熟的技术，加上高性能的关系数据库引擎以及广泛的数据集成，让数据挖
掘技术在当前的数据仓库环境中进入了实用的阶段。
5 数据挖掘逐渐演变的过程
数据挖掘其实是一个逐渐演变的过程,电子数据处理的初期,人们就试图通过某些方法来实
现自动决策支持,当时机器学习成为人们关心的焦点.机器学习的过程就是将一些已知的并
已被成功解决的问题作为范例输入计算机,机器通过学习这些范例总结并生成相应的规则,
这些规则具有通用性,使用它们可以解决某一类的问题.随后,随着神经网络技术的形成和发
展,人们的注意力转向知识工程,知识工程不同于机器学习那样给计算机输入范例，让它生
成出规则，而是直接给计算机输入已被代码化的规则，而计算机是通过使用这些规则来解
决某些问题。专家系统就是这种方法所得到的成果，但它有投资大、效果不甚理想等不足
。80年代人们又在新的神经网络理论的指导下，重新回到机器学习的方法上，并将其成果
应用于处理大型商业数据库。随着在80年代末一个新的术语，它就是数据库中的知识发现
，简称KDD(Knowledge discovery in database).它泛指所有从源数据中发掘模式或联系的
方法，人们接受了这个术语，并用KDD来描述整个数据发掘的过程，包括最开始的制定业务
目标到最终的结果分析，而用数据挖掘（data mining）来描述使用挖掘算法进行数据挖掘
的子过程。但最近人们却逐渐开始使用数据挖掘中有许多工作可以由统计方法来完成，并
认为最好的策略是将统计方法与数据挖掘有机的结合起来。
数据仓库技术的发展与数据挖掘有着密切的关系。数据仓库的发展是促进数据挖掘越来越
热的原因之一。但是，数据仓库并不是数据挖掘的先决条件，因为有很多数据挖掘可直接
从操作数据源中挖掘信息。
|
|
[复制链接]
发表于 2004-3-15 05:08:33
楼主