问题标签 [heron]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
java - 异常 java.lang.VerifyError: Bad type on operand stack 发生在 Heron
我尝试使用以下代码从 zookeeper 获取 PhysicalPlan:
然后出现异常:java.lang.VerifyError: Bad type on operand stack 发生:
我不知道是什么导致了这个异常。谢谢你的帮助。
apache-kafka - Apache Heron 中的 Kafka 集成
我正在尝试将 Kafka 与 Heron 拓扑集成。但是,我找不到最新版本的 Heron (0.17.5) 的任何示例。是否有任何可以共享的示例或有关如何实现自定义 Kafka Spout 和 Kafka Bolt 的任何建议?
编辑1:
我相信KafkaSpout和KafkaBolt在 Heron 中被有意弃用,以便为新的Streamlet API 让路。我目前正在查看是否可以使用 Streamlet API构建KafkaSource和KafkaSink 。但是,当我尝试在Source中创建KafkaConsumer时,出现以下异常。
编辑2:
修复了上述问题。我正在初始化KafkaConsumer
错误的构造函数。在方法中初始化相同的setup()
方法修复了它。
apache-storm - 如何为在 Heron 中运行的 Storm 拓扑设置组件的资源需求?
最近,我想将 Storm 拓扑迁移到 Heron。但它存在一些问题。
在 Heron 拓扑中,我可以设置 和 的资源components
,containers
例如:
但是在 Storm 拓扑中,我无法设置这些资源需求。因此,当我尝试使用在 Heron 中运行 Storm 拓扑时RoundRobin Packing
,它将使用default resource settings
以下内容:
但问题是:我的 Heron 集群中的 worker 节点并没有那么多RAM
资源Disk
。所以当提交 Storm 拓扑时,这个拓扑的状态会是pending
Aurora,因为Insufficient: disk or ram.
我对Storm不是很熟悉,可以在Storm拓扑中设置组件的资源需求吗?如果不行,除了增加集群中工作节点的资源容量,还有没有其他办法解决这个问题?任何帮助都非常感谢。
apache-kafka - 如何修复在 Heron 上运行的 KafkaSpout 中发生的 NullPointerException?
Storm
当我运行with KafkaSpout
in的拓扑时Heron
,会发生以下exception
情况:
拓扑代码如下:
而 NPE 的位置是 KafkaSpout 类中 open 方法的 80 行:
我不知道是什么导致了这个问题以及如何解决它。任何帮助都将不胜感激。
新编辑: 所有导入都指向苍鹭风暴类,但 NPE 仍然发生。
apache-kafka - 消息在 spout 和 bolt 之间掉线
我已经实现了一个从 Kafka 队列读取消息的苍鹭拓扑。因此,我的拓扑有一个 kafka spout 和一个 bolt,它计算从队列中读取的消息数量。
当我将 say10000
消息发送到 kafka 队列时,我可以看到在 heron 拓扑中的 kafka spout 中接收到的所有消息,但是在螺栓处丢失的消息很少。
以下是苍鹭的拓扑设置
任何指针都会有所帮助。
编辑:我正在使用苍鹭的流 API。我用螺栓替换了计数螺栓,但在螺栓log
的日志中看到了相同的消息丢失问题log
编辑 2:我通过完全删除 streamlet API 解决了这个问题。我使用基本的 spout 和 bolt API 重新实现了所有内容,并对 spout 进行了确认。这解决了这个问题。我猜这是因为流 API 中的 spout 没有发生确认
python - 访问 Heron 中的本地文件夹
我已经编写了 Heron 拓扑,它从本地文件夹中获取数据并对其进行处理。但是,除了 .pex 文件中描述的文件夹之外,heron 看不到任何其他文件夹。如何读取 .pex 声明的文件夹之外的数据?
python - 在 Heron 中同步多个喷口和螺栓
我正在使用英雄。我的拓扑结构如下:
Spout1 -> Bolt1 -> Bolt2
Spout2 ---------> Bolt2
因此,Bolt2 需要来自 Spout2 和 Bolt1 的信息才能发出结果,但是来自 Spout2 的信息比来自 Bolt1 的信息来得快,并且 Bolt2 必须等到如果同时具有 Spout2 和 Bolt1 信息。如何使用 Heron API 同步信息流,以便 Bolt2 仅在所有可用信息之后才发出结果?
python - Heron TumblingWindowBolt 基于计数而不是秒
Heron 文档说可以根据计数来实现 Tumbling 窗口。但是,heronpy.api.bolt.window_bolt.TumblingWindowBolt 只有 WINDOW_DURATION_SECS 字段。如何根据元组计数实现 TumblingWindowBolt?
heron - 无法从状态管理器 Heron Tutorial 获取调度程序位置
我正在研究这里的苍鹭教程:https ://apache.github.io/incubator-heron/docs/getting-started/ '
在遇到此错误之前,我并没有走多远:
我对苍鹭很陌生。知道是什么原因造成的吗?
heron - 如何访问 Heron 中的背压指标(Json 文件)
我想访问一个 JSON 文件,该文件包含拓扑中所有苍鹭实例的所有详细信息(即 heron-ui 中显示的所有数据)。我找不到获取这些详细信息的方法。我特别在寻找背压指标。