来源:数据分析师 CPDA | 时间:2016-01-13 | 作者:admin
2015年,是大数据飞速发展的一年,在这一年里,大数据的各种活动层出不群,公司企业对于大数据也是信心满满,国家在8月底正式将大数据发展列入国家发展战略国策中,而相对应,作为数据分析主管协会的中数委,不仅在7月召开了第三届数据分析行业峰会,努力将数据技术“落地”,而且在16年初还召开了“2016年数据分析行业发展战略会议”,为数据行业指出了发展方向,提供技术支持。回首2015,国内数据发展迅速平稳,可以简略的用九个关键词进行回答、
①BI——挑战
2015年对于商业智能(BI)分析市场来说,正由传统的商业智能分析快速进入到敏捷型商业智能时代。以QlikView, Tableau和SpotView为代表的敏捷商业智能产品正在挑战传统的IBM Cognos 、SAP Business Objects等以IT为中心的BI分析平台。敏捷商业智能产品也正在进一步细化功能以达到更敏捷、更方便、适用范围更广的目的。
②国家政策——战略
今年中国政府对于大数据发展不断发文并推进,这标志着大数据已被国家政府纳入创新战略层面,成为国家战略计划的核心任务之一:2015年9月,国务院发布《促进大数据发展行动纲要》,大力促进中国数据技术的发展,数据将被作为战略性资源加以重视;2015年10月26日,在国家“十三五”规划中具体提到实施国家大数据战略。
③深度学习/机器学习——崛起
人工智能如今已变得异常火热,作为机器学习中最接近AI( 人工智能 )的一个领域,深度学习在2015年不再高高在上,很多创新企业已经将其实用化:Facebook开源深度学习工具“Torch”、PayPal使用深度学习监测并对抗诈骗、亚马逊启动机器学习平台、苹果收购机器学习公司Perceptio ……同时在国内,百度、阿里,科大讯飞也在迅速布局和发展深度学习领域的技术。
④Sort benchmark 阿里云 ——最快
阿里云在Sort Benchmark(全球科技公司“计算奥运会”之称)的2015年排序竞赛中用不到7分钟(377秒)就完成了100TB的数据排序,打破了Apache Spark的纪录23.4分钟。
⑤Spark——共存
Spark近几年来越来越受人关注,2015年6月15日,IBM 宣布投入超过3500名研究和开发人员在全球十余个实验室开展与Spark相关的项目。
与Hadoop相比,Spark具有速度方面的优势,但是它本身没有一个分布式存储系统,因此越来越多的企业选择 Hadoop 做 大数据平台 ,而 Spark 是运行于 Hadoop 顶层的内存处理方案。Hadoop 最大的用户(包括 eBay 和雅虎)都在 Hadoop 集群中运行着 Spark。Cloudera 和Hortonworks 将 Spark 列为他们 Hadoop发行的一部分。Spark 对于 Hadoop 来说不是挑战和取代相反,Hadoop 是 Spark 成长发展的基础。
⑥Pivotal——开源
2015年2月,Pivotal宣布其大数据套件的三个核心组件开源:基于内存的分布式NoSQL数据库GemFire、基于 Hadoop架构 的大规模并行SQL 分析处理引擎HAWQ、大规模并行处理分析数据库Greenplum。
Pivotal开放其大数据套件核心组件的源代码,最主要原因是Cloud Foundry开源战略成功驱动,部署大数据战场。
⑦Palantir——神秘&多金
2015年7月起Palantir开始发起新一轮融资,达到8.8亿美元,截止目前已经共计融资23.2亿美元,公司估值200亿美元,排名世界第四,仅次于Uber。
Palantir是一家位于加州的大数据科技公司。该公司的技术是在海量信息之间建立联系、寻求有价值的线索,为情报机构提供结论:在摩根大通内部用于定位网络欺诈,在桥水联合基金,Palantir被用来管理1570亿美元的投资基金。该公司曾经帮助美国政府追踪基地组织头目奥萨马·本·拉登。由于其主要客户是政府机构,外界对它的内部状况了解不多。
⑧DBaaS——火爆
随着Oracle 12c R2的推出, 甲骨文 以全新的多租户架构开启了DBaaS(Database-as-a-Service,数据库即服务)新时代,新的数据库让企业可以在单一实体机器中部署多个数据库。在2015年,除了趋势火爆,12c多租户也在运营商、电信等行业投入生产应用。
据分析机构Gartner预测,2012年至2016年公有数据库云的年复合增长率将高达86%,而到2019年数据库云市场规模将达到140亿美元。与传统数据库相比,DBaaS能提供低成本、高敏捷性和高可扩展性等云计算特有的优点。
⑨数据科学家——性感
随着行业的发展,人才显得尤为重要,各公司都期待数据科学专业人才能够挖掘数据信息,来帮助公司开源节流。美国招聘网站Glassdoor的报告称,数据科学家的平均年薪为118709美元(约合人民币737550元),而程序员的平均年薪为64537美元(约合人民币400974元)。
数据科学家能够通过统计变成涉及、开发和调用算法而支持业务决策;管理海量数据;可视化数据以辅助理解。其需要具备三项基本技能:数学/统计、计算机能力、在特定业务领域的知识,被《哈佛商业评论》评委二十一世纪最性感的职业。