> 正文

大数据时代,你该怎么分析数据?

2013年11月29日 10:35:53 来源: 经济参考网
分享到:

  大数据时代究竟意味着什么?更多数据——理论上,全部数据都可以纳入收集、挖掘、分析和利用的范畴。正如牛津大学网络学院互联网研究所治理与监管专业教授维克托·迈尔-舍恩伯格在其所著的《大数据时代》一书中指出的,“我们可以分析更多的数据,有时候甚至可以处理和某个特别现象相关的所有数据,而不再依赖于随机采样”。

  《大数据时代》也指出,海量数据纳入分析,必然意味着甄别、筛除,并由此带来误差和相对精确的结果。“误差”和“相对精确”是什么意思呢?基于计算机和互联网的系统服务、软件服务仍不免出现出错乃至面临崩溃,比如,杀毒软件会发生“错杀”、“误杀”,手机里的防骚扰软件有时会对通讯录里边的已有号码开展拦截,最可靠的电子邮箱仍不免将明明很安全的邮件驱逐到“垃圾邮箱”。

  纽约大学统计系教授冯启思(Kaiser Fung)在《数据统治世界》一书中,对大数据时代到来背景下,数据挖掘分析所需遵循的统计规律及其应用进行了深入而颇具趣味的探讨。冯启思以反兴奋剂组织为例,更深入的探讨了误差和相对精确问题。

  对于反兴奋剂组织而言,“假阴性”、“假阳性”或许是永远无法避免的尴尬,前者指的是服用禁药却通过某种方式主动或检测机构的疏漏,而错误检测为隐性,以类固醇检测为例,每确认一个使用就要漏过十个“假阴性”;后者则指没有服用过禁药的无辜者,却被药检为阳性。“假阳性”与正确的药检隐性的比例达到了1:899。药检检测机构面对的一个消长关系是:假阳性少了,假阴性就多了,反之亦然,即放宽检测的某些指标,可以减少乃至防止无辜者被错检为假阳性的可能;收紧某些指标,就会减少服用禁药者逃过处罚的比率,看上去,这是个均衡的风险等式。实则不然,错检无辜者的假阳性事件,会给体育部门、反兴奋剂组织带来极大压力,招致运动员工会、媒体和公众的强烈抨击;假阴性引起的批评就要少得多,因为没有直接的、个人化的受害者。因此,检测机构会尽量避免假阳性发生,容忍“假阳性”的存在,宁可放过十个,也绝不冤枉一个。

  在一些国家和地区,刑事案件侦办以及反恐机构开展中运用到的测谎,则出现了反向偏向,造成大量的无辜者被认定为罪犯或恐怖主义组织成员,为其没有犯下的罪行错误承担责任。值得注意的是,无论是反兴奋剂检测,还是反恐检查,都较早的体现了大数据海量采集数据的理念,应用并不断更新升级数据挖掘与分析的技术,但仍不能避免假阳性和假阴性两类误差带来的极大代价(经济代价和社会代价),甚至可能因错误检测和冤案葬送公众对反恐体系、司法体制的信心。很显然,大数据时代在误差不可避免的情况下,要在假阳性和假阴性两类误差之间取得某种平衡,让误差造成的社会总成本趋于最低,而这也才是相对精确的要义所在。

  数据挖掘与分析,所对应的是“统计式思维”。冯启思在《数据统治世界》这本书中分别谈及了平均数与差异性、随机模型和相关模型、组别差异、精确与误差、小概率等“统计式思维”涉及到的重要概念。归结他的观点,第一,数据分析要避免陷入平均化误区,要努力辨识发现数据差异性。举例来说,百年一遇的灾害,并不能理解为在一百年内每一年的灾害风险只有1%,事实上很多保险公司在偿付巨灾后的赔款时迅速滑向破产,就源于对灾害风险极端变异性和空间集中性的忽略。第二,要挖掘数据之间的相关性,而不能仅仅停留于因果性。第三,要善于建立标准对数据开展分类分组分析,也就是实现更趋精确的比较。第四,重视风险,但要避免将过多资源投放到防止或争取某些小概率事件发生之上。这些要点不仅是大数据时代值得重视和遵循的数据挖掘分析重要原则,而且也有助于人们更好、更为深入的认识社会复杂系统,借助数据挖掘分析的力量改善工作与生活。

集成阅读

热点推荐

频道推荐

010020080870000000000000011100001329280301