我的 Spark Streaming Kafka 接收器程序中出现以下错误:
ERROR actor.OneForOneStrategy: org.jnetpcap.protocol.network.Ip4java.io.NotSerializableException
可能是什么原因?
我的 Spark Streaming Kafka 接收器程序中出现以下错误:
ERROR actor.OneForOneStrategy: org.jnetpcap.protocol.network.Ip4java.io.NotSerializableException
可能是什么原因?
如果在 Spark Streaming 中启用了检查点,那么在 forEachRDD 中调用的函数中使用的对象应该是可序列化的。否则,将出现“错误 OneForOneStrategy。如果我们关闭检查点,代码将运行。
简而言之,此错误表明您的作业中的某些函数引用了一个不可序列化的对象(即org.jnetpcap.protocol.network.Ip4
)。查看Databricks Spark 知识库中的“ERROR OneForOneStrategy”文章,了解如何发生此问题的示例以及各种解决方法/修复的讨论。