5

我正在尝试使用解析 CSV 文件，jackson-dataformat-csv并且我想将数字列映射到 Number java 类型。

CsvSchema schema = CsvSchema.builder().setUseHeader(true)
    .addColumn("firstName", CsvSchema.ColumnType.STRING)
    .addColumn("lastName", CsvSchema.ColumnType.STRING)
    .addColumn("age", CsvSchema.ColumnType.NUMBER)
    .build();

CsvMapper csvMapper = new CsvMapper();  

MappingIterator<Map<String, Object>> mappingIterator = csvMapper
        .readerFor(Map.class)
        .with(schema)
        .readValues(is);        

while (mappingIterator.hasNext()) {
    Map<String, Object> entryMap = mappingIterator.next();
    Number age = (Number) entryMap.get("age");
}

我期待entryMap.get("age")应该是一个Number，但我得到String了。

我的 CSV 文件：

firstName,lastName,age
John,Doe,21
Error,Name,-10

我知道这CsvSchema适用于 POJO，但我需要处理任意 CSV 模式，所以我不能为每种情况创建一个新的 java 类。

有什么方法可以将 CSV 解析为类型Map或Array？

4

2 回答 2

3

目前无法Map使用CsvSchema. 进程使用com.fasterxml.jackson.databind.deser.std.MapDeserializer现在不检查模式。我们可以编写自定义Map反序列化器。GitHub上有一个问题：CsvMapper does not respect CsvSchema.ColumnType when using @JsonAnySetter wherecowtowncoder回答：

在这一点上，模式类型并没有太多用于任何事情，但我同意它应该这样做。

编辑

com.fasterxml.jackson.databind.deser.std.MapDeserializer我决定仔细看看我们可以用幕后使用的事实做些什么。实现Map将处理类型的自定义反序列化器将很难实现和注册，但我们可以使用有关ValueInstantiator. 让我们定义Map一个知道如何处理ColumnType信息的新类型：

class CsvMap extends HashMap<String, Object> {

    private final CsvSchema schema;
    private final NumberFormat numberFormat = NumberFormat.getInstance();

    public CsvMap(CsvSchema schema) {
        this.schema = schema;
    }

    @Override
    public Object put(String key, Object value) {
        value = convertIfNeeded(key, value);
        return super.put(key, value);
    }

    private Object convertIfNeeded(String key, Object value) {
        CsvSchema.Column column = schema.column(key);
        if (column.getType() == CsvSchema.ColumnType.NUMBER) {
            try {
                return numberFormat.parse(value.toString());
            } catch (ParseException e) {
                // leave it as it is
            }
        }

        return value;
    }
}

对于没有构造函数的新类型，no-arg我们应该创建新的ValueInstantiator：

class CsvMapInstantiator extends ValueInstantiator.Base {

    private final CsvSchema schema;

    public CsvMapInstantiator(CsvSchema schema) {
        super(CsvMap.class);
        this.schema = schema;
    }

    @Override
    public Object createUsingDefault(DeserializationContext ctxt) {
        return new CsvMap(schema);
    }

    @Override
    public boolean canCreateUsingDefault() {
        return true;
    }
}

示例用法：

import com.fasterxml.jackson.databind.DeserializationContext;
import com.fasterxml.jackson.databind.MappingIterator;
import com.fasterxml.jackson.databind.ObjectReader;
import com.fasterxml.jackson.databind.deser.ValueInstantiator;
import com.fasterxml.jackson.databind.module.SimpleModule;
import com.fasterxml.jackson.dataformat.csv.CsvMapper;
import com.fasterxml.jackson.dataformat.csv.CsvSchema;

import java.io.File;
import java.io.IOException;
import java.text.NumberFormat;
import java.text.ParseException;
import java.util.HashMap;

public class CsvApp {

    public static void main(String[] args) throws IOException {
        File csvFile = new File("./resource/test.csv").getAbsoluteFile();

        CsvSchema schema = CsvSchema.builder()
                .addColumn("firstName", CsvSchema.ColumnType.STRING)
                .addColumn("lastName", CsvSchema.ColumnType.STRING)
                .addColumn("age", CsvSchema.ColumnType.NUMBER)
                .build().withHeader();

        // Create schema aware map module
        SimpleModule csvMapModule = new SimpleModule();
        csvMapModule.addValueInstantiator(CsvMap.class, new CsvMapInstantiator(schema));

        // register map
        CsvMapper csvMapper = new CsvMapper();
        csvMapper.registerModule(csvMapModule);

        // get reader for CsvMap + schema
        ObjectReader objectReaderWithSchema = csvMapper
                .readerWithSchemaFor(CsvMap.class)
                .with(schema);

        MappingIterator<CsvMap> mappingIterator = objectReaderWithSchema.readValues(csvFile);

        while (mappingIterator.hasNext()) {
            CsvMap entryMap = mappingIterator.next();

            Number age = (Number) entryMap.get("age");
            System.out.println(age + " (" + age.getClass() + ")");
        }
    }
}

以下CSV有效载荷的代码：

firstName,lastName,age
John,Doe,21
Error,Name,-10.1

印刷：

21 (class java.lang.Long)
-10.1 (class java.lang.Double)

它看起来像一个黑客，但我想展示这种可能性。

于 2019-03-12T08:33:17.413 回答
1

你可以使用univocity-parsers来做这类事情。它更快、更灵活：

CsvParserSettingssettings = new CsvParserSettings(); //configure the parser if needed
CsvParser parser = new CsvParser(settings);

for (Record record : parser.iterateRecords(is)) {
    Short age = record.getShort("age");
}

要获取类型化映射，请告诉解析器您正在使用的列的类型是什么：

parser.getRecordMetadata().setTypeOfColumns(Short.class, "age" /*, and other column names*/);

//to get 0 instead of nulls when the field is empty in the file:
parser.getRecordMetadata().setDefaultValueOfColumns("0", "age", /*, and other column names*/);

// then parse
for (Record record : parser.iterateRecords(is)) {
    Map<String,Object> map = record.toFieldMap();
}

希望这可以帮助

免责声明：我是这个库的作者。它是开源和免费的（Apache 2.0 许可证）

于 2019-03-13T02:22:44.897 回答