彩票走势图

Storm授权购买
下载:138 收藏:0

Storm (产品编号:13787)

Apache Storm是一个免费、开源的分布式实时计算系统。

标签:

开发商: Apache

当前版本: v0.9.6

产品类型:控件

产品功能:网络通讯

平台语言:

开源水平:不提供源码

本产品的分类与介绍仅供参考,具体以商家网站介绍为准,如有疑问请来电 023-68661681 咨询。

Apache Storm是一个免费、开源的分布式实时计算系统。它能够使处理无限数据流的工作变得更加简单、可靠,可完成Hadoop在批处理上进行的实时处理工作。Storm 非常简单,可用于任何编程语言和许多有趣的应用。

产品质量分析及预测

* 关于本产品的分类与介绍仅供参考,精准产品资料以官网介绍为准,如需购买请先行测试。

关键属性

Storm 实现的一些特征决定了它的性能和可靠性的。Storm 使用 ZeroMQ 传送消息,这就消除了中间的排队过程,使得消息能够直接在任务自身之间流动。在消息的背后,是一种用于序列化和反序列化 Storm 的原语类型的自动化且高效的机制。

Storm 的一个最有趣的地方是它注重容错和管理。Storm 实现了有保障的消息处理,所以每个元组都会通过该拓扑结构进行全面处理;如果发现一个元组还未处理,它会自动从喷嘴处重放。Storm 还实现了任务级的故障检测,在一个任务发生故障时,消息会自动重新分配以快速重新开始处理。Storm 包含比 Hadoop 更智能的处理管理,流程会由监管员来进行管理,以确保资源得到充分使用。

模型

Storm 实现了一种数据流模型,其中数据持续地流经一个转换实体网络(如下图)。一个数据流的抽象称为一个流,这是一个无限的元组序列。元组就像一种使用一些附加的序列化代码来表示标准数据类型(比如整数、浮点和字节数组)或用户定义类型的结构。每个流由一个惟一 ID 定义,这个 ID 可用于构建数据源和接收器 (sink) 的拓扑结构。流起源于喷嘴,喷嘴将数据从外部来源流入 Storm 拓扑结构中。

Flume

接收器(或提供转换的实体)称为螺栓。螺栓实现了一个流上的单一转换和一个 Storm 拓扑结构中的所有处理。螺栓既可实现 MapReduce 之类的传统功能,也可实现更复杂的操作(单步功能),比如过滤、聚合或与数据库等外部实体通信。典型的 Storm 拓扑结构会实现多个转换,因此需要多个具有独立元组流的螺栓。喷嘴和螺栓都实现为 Linux® 系统中的一个或多个任务。

可使用 Storm 为词频轻松地实现 MapReduce 功能。如下图所示,喷嘴生成文本数据流,螺栓实现 Map 功能(令牌化一个流的各个单词)。来自 "map" 螺栓的流然后流入一个实现 Reduce 功能的螺栓中(以将单词聚合到总数中)。

Flume

请注意,螺栓可将数据传输到多个螺栓,也可接受来自多个来源的数据。Storm 拥有流分组 的概念,流分组实现了混排 (shuffling)(随机但均等地将元组分发到螺栓)或字段分组(根据流的字段进行流分区)。还存在其他流分组,包括生成者使用自己的内部逻辑路由元组的能力。

但是,Storm 架构中一个最有趣的特性是有保障的消息处理。Storm 可保证一个喷嘴发射出的每个元组都会处理;如果它在超时时间内没有处理,Storm 会从该喷嘴重放该元组。此功能需要一些聪明的技巧来在拓扑结构中跟踪元素,也是 Storm 的重要的附加价值之一。

除了支持可靠的消息传送外,Storm 还使用 ZeroMQ 最大化消息传送性能(删除中间排队,实现消息在任务间的直接传送)。ZeroMQ 合并了拥塞检测并调整了它的通信,以优化可用的带宽。

更新时间:2016-02-01 17:02:35.000 | 录入时间:2016-02-01 15:23:50.000 | 责任编辑:陈俊吉

相关产品
SocketTools ActiveX Edition

一套使你能够在你的应用程序中添加互联网功能的ActiveX控件。

SocketTools Library Edition

SocketTools库版是一套Windows库,可简化互联网应用开发

SocketTools Subscription

一套用于Windows软件开发的互联网组件和库

TOP Server OPC Server

工业4.0工业控制软件Software Toolbox's OPC和原生HMI设备的连接软件,采用业界领先的Kepware技术。

IoT Solutions

MQTT, Azure, Amazon, Google, Rest, & Edge物联网方案

扫码咨询


添加微信 立即咨询

电话咨询

客服热线
023-68661681

TOP