问题标签 [heron]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
4511 浏览

java - 异常 java.lang.VerifyError: Bad type on operand stack 发生在 Heron

我尝试使用以下代码从 zookeeper 获取 PhysicalPlan:

然后出现异常:java.lang.VerifyError: Bad type on operand stack 发生:

我不知道是什么导致了这个异常。谢谢你的帮助。

0 投票
1 回答
450 浏览

apache-kafka - Apache Heron 中的 Kafka 集成

我正在尝试将 Kafka 与 Heron 拓扑集成。但是,我找不到最新版本的 Heron (0.17.5) 的任何示例。是否有任何可以共享的示例或有关如何实现自定义 Kafka Spout 和 Kafka Bolt 的任何建议?

编辑1:

我相信KafkaSpoutKafkaBolt在 Heron 中被有意弃用,以便为新的Streamlet API 让路。我目前正在查看是否可以使用 Streamlet API构建KafkaSourceKafkaSink 。但是,当我尝试在Source中创建KafkaConsumer时,出现以下异常。

编辑2:

修复了上述问题。我正在初始化KafkaConsumer错误的构造函数。在方法中初始化相同的setup()方法修复了它。

0 投票
1 回答
81 浏览

apache-storm - 如何为在 Heron 中运行的 Storm 拓扑设置组件的资源需求?

最近,我想将 Storm 拓扑迁移到 Heron。但它存在一些问题。
在 Heron 拓扑中,我可以设置 和 的资源componentscontainers例如:

但是在 Storm 拓扑中,我无法设置这些资源需求。因此,当我尝试使用在 Heron 中运行 Storm 拓扑时RoundRobin Packing,它将使用default resource settings以下内容:

但问题是:我的 Heron 集群中的 worker 节点并没有那么多RAM资源Disk。所以当提交 Storm 拓扑时,这个拓扑的状态会是pendingAurora,因为Insufficient: disk or ram.

我对Storm不是很熟悉,可以在Storm拓扑中设置组件的资源需求吗?如果不行,除了增加集群中工作节点的资源容量,还有没有其他办法解决这个问题?任何帮助都非常感谢。

0 投票
2 回答
287 浏览

apache-kafka - 如何修复在 Heron 上运行的 KafkaSpout 中发生的 NullPointerException?

Storm当我运行with KafkaSpoutin的拓扑时Heron,会发生以下exception情况:

拓扑代码如下:

而 NPE 的位置是 KafkaSpout 类中 open 方法的 80 行:

我不知道是什么导致了这个问题以及如何解决它。任何帮助都将不胜感激。

新编辑: 所有导入都指向苍鹭风暴类,但 NPE 仍然发生。

0 投票
2 回答
187 浏览

apache-kafka - 消息在 spout 和 bolt 之间掉线

我已经实现了一个从 Kafka 队列读取消息的苍鹭拓扑。因此,我的拓扑有一个 kafka spout 和一个 bolt,它计算从队列中读取的消息数量。

当我将 say10000消息发送到 kafka 队列时,我可以看到在 heron 拓扑中的 kafka spout 中接收到的所有消息,但是在螺栓处丢失的消息很少。

以下是苍鹭的拓扑设置

任何指针都会有所帮助。

编辑:我正在使用苍鹭的流 API。我用螺栓替换了计数螺栓,但在螺栓log的日志中看到了相同的消息丢失问题log

编辑 2:我通过完全删除 streamlet API 解决了这个问题。我使用基本的 spout 和 bolt API 重新实现了所有内容,并对 spout 进行了确认。这解决了这个问题。我猜这是因为流 API 中的 spout 没有发生确认

0 投票
2 回答
32 浏览

python - 访问 Heron 中的本地文件夹

我已经编写了 Heron 拓扑,它从本地文件夹中获取数据并对其进行处理。但是,除了 .pex 文件中描述的文件夹之外,heron 看不到任何其他文件夹。如何读取 .pex 声明的文件夹之外的数据?

0 投票
2 回答
30 浏览

python - 在 Heron 中同步多个喷口和螺栓

我正在使用英雄。我的拓扑结构如下:

Spout1 -> Bolt1 -> Bolt2

Spout2 ---------> Bolt2

因此,Bolt2 需要来自 Spout2 和 Bolt1 的信息才能发出结果,但是来自 Spout2 的信息比来自 Bolt1 的信息来得快,并且 Bolt2 必须等到如果同时具有 Spout2 和 Bolt1 信息。如何使用 Heron API 同步信息流,以便 Bolt2 仅在所有可用信息之后才发出结果?

0 投票
1 回答
17 浏览

python - Heron TumblingWindowBolt 基于计数而不是秒

Heron 文档说可以根据计数来实现 Tumbling 窗口。但是,heronpy.api.bolt.window_bolt.TumblingWindowBolt 只有 WINDOW_DURATION_SECS 字段。如何根据元组计数实现 TumblingWindowBolt?

0 投票
1 回答
76 浏览

heron - 无法从状态管理器 Heron Tutorial 获取调度程序位置

我正在研究这里的苍鹭教程:https ://apache.github.io/incubator-heron/docs/getting-started/ '

在遇到此错误之前,我并没有走多远:

我对苍鹭很陌生。知道是什么原因造成的吗?

0 投票
2 回答
73 浏览

heron - 如何访问 Heron 中的背压指标(Json 文件)

我想访问一个 JSON 文件,该文件包含拓扑中所有苍鹭实例的所有详细信息(即 heron-ui 中显示的所有数据)。我找不到获取这些详细信息的方法。我特别在寻找背压指标。