当前位置: 首页 > 科技观察

大数据应用的下一阶段发展方向在哪里-

时间:2023-03-16 15:08:39 科技观察

大数据应用发展的下一阶段在哪里?今天,我们的数据管理能力日臻完善,但我们的数据分析能力却相对落后。虽然工具和流程已经到位,但仍然缺乏足够的数据科学家人员。在今天的文章中,我们将重点关注提供真实世界分析的大数据应用程序,同时跟踪它们的发展和当前状态,最终让我们一窥大数据技术的未来。大数据技术的早期采用者预示着有趣的跨行业发展可能性根据《福布斯》杂志2012年的一篇文章,大数据技术的早期采用者主要来自金融服务、电信、制造(尤其是消费品)和政府领域。早期采用者在初始阶段使用他们新安装的大数据基础设施(如HDFS、MapReduce和NoSQL数据库等)试验各种新应用。根据PacificCrest收集的数据,早期采用者往往希望使用这些解决方案来处理数据中心的日志信息(包括服务器、路由器和各种物联网传感器等),旨在进行网络分析和IT系统性能监控。在此基础上,相当一部分企业还尝试利用大数据技术分析财务数据(欺诈检测)和Web数据(情感分析实现个性化体验)。表1大数据应用早期实验方向用例早期采用者比例网络分析29%IT系统日志分析28%传感器数据分析19%Web行为数据分析16%基因组数据分析9%社交媒体情感分析6%欺诈检测6%初步试验对于了解大数据基础设施的好处、潜力和缺点很重要。不过,根据CapGemini2014年发布的一份报告,试水实验的成功率并不高。其失败的主要原因有以下三个:1)数据分散在多个不同的团队中,因此访问比最初的设计更困难。2)数据存放在遗留系统中,很难将其导出到大数据基础设施中。3)缺乏统一清晰的整体数据管理和数据分析方案,工作人员难以从数据中提取信息。随着这些问题得到克服,我们看到最近成功案例变得越来越普遍。事实上,全世界对大数据基础设施及其附加解决方案的兴趣正在迅速上升(见图1)。图1大数据输入数据按行业和地区划分。企业客户的持续投资为初创企业带来了可观的风险投资支持。企业在大数据技术上的投入资金呈增长趋势。根据NewVantage的数据,27%的受访企业表示,到2017年将在大数据项目上的投资超过5000万美元。而2014年,在相同企业对象的调查中,这一比例仅为5.4%。目前,包括医疗、保险、农业、能源、医药、教育、汽车、交通、物流等数万亿美元的行业都在积极探索如何利用大数据工具解决他们面临的现实问题。例如,汽车制造商希望分析消费者的信息娱乐选择以提供更好的车载信息娱乐体验,他们还需要分析车辆性能数据以提供预防性维护建议。此外,无线运营商希望了解消费者如何使用他们的数据来更好地传送内容和创收。考虑到上述企业投资和变革强度,风险投资家更积极地为大数据初创企业提供资金,如图3所示。仅2015年,大数据初创企业的风险投资总额就达到了67亿美元,高于之前的6美元。2014年2014亿美元。图2截至2016年2月的大数据应用总体情况出于同样的原因,大数据初创企业也开始迎来收购潮。其中包括AOL收购Convertro、Google收购Adometry、Apple收购Topsy、Teradata收购AsterData和ThinkBigAnalytics、Salesforce收购Edgespring等。最近,我们还看到微软收购了RevolutionAnalytics,HDS收购了Pentaho,Advance收购了1010Data。此外,小规模收购也层出不穷,包括亚马逊收购Amiato等。如图2所示,风险投资家目前关注大数据基础设施和工具。虽然基础设施和工具部署也显示出旺盛的生命力,但这里我们重点关注大数据应用。大数据应用的兴起信息技术的每一个新兴领域(如商业智能、客户端/服务器计算、云计算和移动计算等)通常都需要经历三个发展阶段:基础设施部署。在大数据领域,此类基础设施负责存储、管理、移动和传输数据。工具部署。在大数据领域,此类工具用于搜索和分析各种形式的大数据,并呈现处理结果。应用程序被引入,通常将基础设施和工具转化为实际功能。按照这种分阶段的方法,许多大型企业已经开始部署大数据基础设施和各种旨在分析收集到的海量数据的工具。既然已经进入应用开发和部署阶段,关注具体的软件就显得尤为重要。到目前为止,我们已经确定了三种主要类型的大数据应用程序:浅层应用程序,包括执行流失分析和围绕通用分析工具(例如Dataminr和DataRobot等)进行开发。这些应用程序由数据科学家支持,以执行严格定义的任务工作流程。这些应用程序通常仅在操作基础上提供浅层分析功能。这些应用程序由分析模型和报告机制驱动,由数据科学家和服务专家开发和维护——通常来自管理咨询公司,他们对相关业务领域和最终用户需求有很好的了解。最终用户通常是业务分析师。可以处理大数据但不能进行任何形式的预测或预测分析的应用程序(例如Socrata和Zuora)。此类应用程序可以水平或垂直定向,为最终用户(主要是业务分析师)提供理解数据和生成报告结论的能力。例如,纽约市使用Socrata系统来创建财务报告。具有嵌入式预测分析的应用程序。此类应用未来将分为以下两类。1.包含由数据科学家开发并定期更新的预测模型。这意味着应用程序提供商必须具有强大的服务能力来支持软件功能。此类应用程序包括AgileOne、OPower、ZephyrHealth、Duetto以及DataXu和MediaMath等在线广告解决方案。2.所使用的预测模型可由应用程序自行构建。此类应用程序供应商包括Oration和Namogoo。属于此类别的应用程序可能是水平的(例如AgileOne和Namogoo)或垂直的(例如OPower、Duetto或Oration)。这三类大数据应用可以说是应用领域的先行者,现在基于它们开始出现第四类洞察应用。上面说的第三种应用是最接近insights的应用,但是两者有一个重要的区别:可以做预测,但不能做insights。也就是说,第三应用无法根据预测结果进行相应的操作。相反,他们依靠用户来识别特定的预测并执行相应的操作。结语虽然障碍依然很多(每一种新兴技术出现后都必然面临挑战),但大数据的早期采用者已经积极投入相关项目,并将其部署在企业业务系统中,以解决各种问题。类的关键问题。为了实现大数据的跨行业处理潜力,各路风险投资家积极为大数据初创企业提供帮助,希望他们的解决方案能够被大型企业客户采用。考虑到大量的大数据基础设施和部署分析工具相继涌现,大多数企业都将目光投向了大数据应用。我们确定的三种特定类型涵盖了新兴的各种新大数据应用程序。他们中的一些人可以提供预测性结论,但他们不能实现洞察力和实际行动。这也是大数据应用还没有完全发展和成熟的一个重要标志。在以后的文章中,我们将更深入地探讨基于洞察力的应用程序——第四种也是最有前途的大数据应用程序类型。原标题:大数据应用的下一步是什么?】