elasticsearch - 使用logstash的动态elasticsearch index_type

Question

我正在使用来自 rabbitmq 服务器的 logstash 将数据存储在 elasticsearch 上。

我的 logstash 命令看起来像

logstash -e 'input{
rabbitmq {
    exchange => "redwine_log"
    key => "info.redwine"
    host => "localhost"
    durable => true
    user => "guest"
    password => "guest"
}
}

output {
  elasticsearch {
    host => "localhost"
    index => "redwine"
  }
}
filter {
  json {
    source => "message"
    remove_field => [ "message" ]
  }
}'

但我需要logstash 将数据放入elasticsearch 集群中的不同类型。我所说的类型是：

"hits": {
      "total": 3,
      "max_score": 1,
      "hits": [
         {
            "_index": "logstash-2014.11.19",
            "_type": "logs",
            "_id": "ZEea8HBOSs-QwH67q1Kcaw",
            "_score": 1,
            "_source": {
               "context": [],
               "level": 200,
               "level_name": "INFO",

这是搜索结果的一部分，您可以在其中看到logstash，默认创建一个名为“logs”的类型（_type：“logs”）。在我的项目中，我需要动态类型，并且应该根据输入数据创建。例如：我的输入数据看起来像

{
    "data":"some data",
    "type": "type_1"
}

我需要logstash在elasticsearch中创建一个名为“type_1”的新类型..

我尝试使用 grok ..但无法获得此特定要求。

Answer 1

它以这种方式对我有用

elasticsearch {
    host => "localhost"
    index_type => "%{type}"
  }