当前位置:首页 » 《休闲阅读》 » 正文

在Java中基于GeoTools的Shapefile读取乱码的问题解决办法

27 人参与  2024年10月02日 08:42  分类 : 《休闲阅读》  评论

点击全文阅读


目录

前言

1、Shapefile属性字段编码的情况:

一、Shp文件常见的字符集编码

1、System编码

2、ISO-8859-1编码

3、UTF-8编码 

二、GeoTools解析实战

1、未进行字符处理

2、乱码问题的解决

3、转码支持

4、属性字段编码结果

三、总结


前言

        文件编码(File Encoding)是指文件在计算机中存储时所使用的字符编码方式。字符编码是将字符(如字母、数字、标点符号等)转换成计算机可以直接存储和处理的数字或二进制代码的过程。不同的编码方式决定了文件中字符如何被表示和存储,以及这些字符如何被不同的软件或系统正确地读取和显示。在进行空间数据处理的时候,通常会涉及大量的空间数据,为了更加详细且准确的描述这些空间数据,我们通过会配置一些属性数据。

        Shapefile属性字段的编码通常指的是存储在shapefile的dbf(数据库文件)中的属性数据的字符编码方式。Shapefile是一种用于存储地理空间数据的文件格式,它由多个文件组成,其中dbf文件用于存储每个几何形状的属性数据。

1、Shapefile属性字段编码的情况:

默认编码:
        在不同的软件或库中,shapefile的默认编码可能有所不同。例如,ArcGIS Desktop在较新版本(如10.2.1及以后)中,shapefile (.DBF) 的编码页的默认设置为UTF-8(UNICODE)。而在一些其他软件或库中,如Java GDAL库,默认可能使用ISO-8859-1编码,这会导致中文等非西欧字符出现乱码问题。
编码设置:
        在使用某些软件或库处理shapefile时,可以通过设置来改变属性字段的编码方式。例如,在Java GDAL库中,可以通过调GDAL.SetConfigOption("SHAPE_ENCODING","UTF-8")来设置GDAL库的默认编码为UTF-8,从而避免中文属性乱码的问题。在ArcGIS中,虽然默认编码可能是UTF-8,但也可以通过修改注册表中的dbfDefault值来指定不同的编码方式。不过,这种方法主要影响ArcGIS Desktop生成的shapefile和dBASE文件的编码类型,且仅对ArcGIS Desktop生效。
编码转换:
        如果已经存在编码不匹配的shapefile文件,可能需要通过编码转换工具来修改其属性字段的编码方式。例如,可以使用FME Workbench等GIS数据转换工具来转换shapefile的编码。也可以使用编程方式,如利用geotools等库来读取原始编码的shapefile文件,并以新的编码方式重新写入数据,从而实现编码的转换。
注意事项
        在处理shapefile属性字段编码时,需要确保整个处理流程中的编码方式一致,以避免出现乱码或数据丢失等问题。如果shapefile文件是从不同来源获取的,可能需要先确认其编码方式,以便在后续处理中正确读取和写入数据。在进行编码转换时,应谨慎操作,以免损坏原始数据。建议在转换前备份原始文件,并在转换后进行验证以确保数据的完整性和准确性。

        本文主要讲述使用Java编程语言进行地理信息数据解析的时候,遇到Shapefile的属性信息乱码的几种情况,以及根据不同的编码设置来进行属性信息的解析。博文首先介绍采用不同的字符集编码的shapefile文件,然后在Qgis中打开属性表,查看相关的字符展示情况,接着说明在Java当中调用Geotools时,为经过字符编码处理和经过字符编码处理后的对比,让大家熟悉在Geotools的开发过程中,掌握字符编码的设置。

一、Shp文件常见的字符集编码

        为了讲解使用不同的编码来展示空间数据,我们首先来介绍基础的数据,即三份不同的空间数据格式,其格式都是shapefile的。但是在不同的空间记录中,其字段的值是采用不同的编码的。在这里,采用QGIS这款软件来进行属性数据的展示,方便大家了解日常中的数据展示。

1、System编码

        第一种要介绍的就是System的编码方式,这里采用的是用我国的Lake图层信息,首先我们在Qgis中打开这份数据来看一下,文件的本地路径为:

F:\vector_data\地理数据20240912\地理数据20240912\水系河流\1 全国1-5级标准河流-wgs84\主要湖泊面文件\Lake.shp

        将数据在Qgis软件中打开可以看到其主要的源信息描述如下:

        可以在编码一栏中看到,这份文件的编码是System的。 为了看到其里面的属性信息,可以右键点击shp数据,点击打开属性表就可以看到这份数据的完整的数据信息,打开后相关信息如下所示:

        在上图的红线框中很明显可以看到,有一列叫NAME的,它的值是有乱码的,并没有是我们常见的编码。 因此这算是乱码的第一种情况。

2、ISO-8859-1编码

        第二种也是常见的ISO-8859-1编码,这里准备的数据是一份湖南省的乡镇边界数据,其在文件磁盘中目录如下,:

C:\BaiduDownload\湖南省\湖南省_乡镇边界.shp

        同样的,我们使用QGis软件打开上面的乡镇边界.shp文件,打开后可以看到很明确的字符编码信息:

        同样的我们使用QGIS来进行属性数据的打开查看, 详细如下图所示:

3、UTF-8编码 

        这应该算是比较标准的编码方式,如果进行数据制作的时候,都是统一采用UTF-8的模式,那么这种方式无疑是最好的,估计也不存在字符编码的问题了。

        这个时候,在QGIS中打开属性表,其属性字段的内容是正常可以直接预览的,详情如下图所示。

        当然,字符编码的处理方式根据项目的不同,也会有不同的设置,种类繁多,不甚枚举,这里仅以这几项为例作为例子来讲解,如果以后在开发过程中,遇到这种情况,可以根据实际来进行编码的扩充和修复。 

二、GeoTools解析实战

        在上面的一节中,我们简单的对三种不同的编码方式的shapefile文件进行了简单的介绍,本节则重点介绍如何使用Java开发语言,使用GeoTools的开发组件进行编码的处理和转换,将属性数据可以成功读取到我们的应用程序中。在这里需要统一说明的是,在进行数据的处理和转换的时候,为了进行数据的演示,我们仅将数据的前10行数据记载处理,这样如果有乱码的问题,我们就可以直接进行干预,通过修改其它的字符集函数的方式来保证文字的识别与处理。

1、未进行字符处理

        首先我们来加载UTF-8的矢量数据,测试一下使用UTF-8的情况下,如何使用GeoTools的方法来进行属性表格的解析。下面来看如何使用GeoTools来进行空间属性数据的解析与展示,关键代码如下所示:

/*** * 不做任何处理展示shp文件数据详情* * @param shpFile shp文件地址* @throws Exception*/protected static void showShpDetails(String shpFile) throws Exception {File file = new File(shpFile);if (!file.exists()) {System.out.println("文件不存在");return;}ShapefileDataStore store = new ShapefileDataStore(file.toURI().toURL());String typeName = store.getTypeNames()[0];// 创建一个Query对象Query query = new Query(typeName);// 设置查询返回的最大特征数为10query.setMaxFeatures(10);SimpleFeatureSource featureSource = store.getFeatureSource();// 执行查询SimpleFeatureCollection simpleFeatureCollection = featureSource.getFeatures(query);SimpleFeatureIterator itertor = simpleFeatureCollection.features();// 遍历featurecollectionwhile (itertor.hasNext()) {SimpleFeature feature = itertor.next();Collection<Property> p = feature.getProperties();Iterator<Property> it = p.iterator();// 遍历feature的propertieswhile (it.hasNext()) {Property pro = it.next();if (null != pro && null != pro.getValue()) {String field = pro.getName().toString();String value = pro.getValue().toString();System.out.println(field + "===" + value);}}System.out.println("-----------------------------------------------------");}}

        在上面的代码中,需要注意的地方就是,我们想要在查询的时候只查10条,那么就需要使用到GeoTools的查询Query对象,通过结合Query对象来实现只查10条。10条的设置是个经验值,可以根据服务器的速度和性能来进行平衡,可以一次处理更多的数据。运行测试用例来看其读取的结果如下:

        可以看到,在IDE的控制台中,读取出来的空间属性信息都是乱码。 

2、乱码问题的解决

        要想解决乱码的问题,首先要找到根源。我们需要对属性信息字段进行字符集编码的控制。因此我们在互联网上查询一下,时候有相应的方案。在这里哪怕不管具体的方案,也要了解为什么会出现这个问题。我们来看下ShapefileDataStore这个对象,这个对象是有一个关于字符集的编码的,如下所示:

         如果看过源码的话,各位小伙伴会发现,在GeoTools中有默认的编码集,即:Charset charset = DEFAULT_STRING_CHARSET;

public static final Charset DEFAULT_STRING_CHARSET =            (Charset) ShapefileDataStoreFactory.DBFCHARSET.getDefaultValue();

        其实现的实际逻辑代码如下:

/*** Optional - character used to decode strings from the DBF file. If none is provided, the* factory will instruct {@link ShapefileDataStore} to try to guess a charset from CPG file,* before using a default value.** @see ShapefileDataStore#setTryCPGFile(boolean)*/public static final Param DBFCHARSET =       new Param(           "charset",           Charset.class,           "character used to decode strings from the DBF file",           false,           StandardCharsets.ISO_8859_1,           new KVP(Param.LEVEL, "advanced")) {         /*         * This is an example of a non simple Param type where a custom parse method is required.        *         * @see org.geotools.data.DataStoreFactorySpi.Param#parse(java.lang.String)         */         @Override         public Object parse(String text) throws IOException {              return Charset.forName(text);         }         @Override         public String text(Object value) {              return ((Charset) value).name();         }      };

        通过上面的代码可以看到,这里使用的默认编码是:StandardCharsets.ISO_8859_1,也就是ISO-8859-1的方式。

3、转码支持

        了解了乱码的产生原理之后,我们来进行相应的代码转换,关于编码的转换有两种方式,第一种统一在Store一层就进行转码。这样比较单一,也比较简单。第二种就是在每一个value中进行编程式转码,这样不仅麻烦,而且效率低。为了支持全局处理编码等,我们将函数进行已统一的封装,增加了自定义编码的支持:

/*** *展示shp文件数据详情* * @param shpFile      shp文件地址* @param unifySetting 是否统一设置字符* @param chartSet     需要设置的字符编码* @throws Exception*/protected static void showShpDetails(String shpFile, boolean unifySetting, String chartSet) throws Exception {File file = new File(shpFile);if (!file.exists()) {System.out.println("文件不存在");return;}ShapefileDataStore store = new ShapefileDataStore(file.toURI().toURL());String typeName = store.getTypeNames()[0];// 创建一个Query对象Query query = new Query(typeName);// 设置查询返回的最大特征数为10query.setMaxFeatures(10);if (unifySetting) {store.setCharset(Charset.forName(chartSet));// 设置中文字符编码}SimpleFeatureSource featureSource = store.getFeatureSource();System.out.println(featureSource);// 执行查询SimpleFeatureCollection simpleFeatureCollection = featureSource.getFeatures(query);SimpleFeatureIterator itertor = simpleFeatureCollection.features();// 遍历featurecollectionwhile (itertor.hasNext()) {SimpleFeature feature = itertor.next();Collection<Property> p = feature.getProperties();Iterator<Property> it = p.iterator();// 遍历feature的propertieswhile (it.hasNext()) {Property pro = it.next();if (null != pro && null != pro.getValue()) {String field = pro.getName().toString();String value = pro.getValue().toString();if (!unifySetting) {// byte[]bytes= value.getBytes("iso8859-1");byte[] bytes = value.getBytes();value = new String(bytes, chartSet);}System.out.println(field + "===" + value);}}System.out.println("-------------------------------------------------------------");}}

4、属性字段编码结果

        下面对集中情况的属性数据进行解析,将输出的成果在编辑器的控制台进行综合展示。

        可以在控制台中看到以下的数据都是正常的,

org.geotools.data.shapefile.ShapefileFeatureStore@1b6e1effthe_geom===POINT (113.24947489555838 28.625229546432124)名称===南门桥(公交站)大类===交通设施服务中类===公交车站小类===公交车站相关地址===星通2路省===湖南省市===长沙市区===长沙县WGS84_经===113.249474896WGS84_纬===28.6252295464

        同理,其它的数据如湖南省乡镇边界数据,我们使用编码后来查看具体的输出。

        同样的,在控制台中可以看到以下的输出,

gml_id===layer_township_pg.15847Name===星子镇layer===乡镇code===441882101000grade===4----------------------------------------------------------------------gml_id===layer_township_pg.15849Name===三水瑶族乡layer===乡镇code===441882201000grade===4

        同样的,编码方式是ISO-8859-1的数据经过编码后正常显示。 到此,使用Java语言进行GeoTools解析Shp文件的属性信息时乱码的问题得到解决。

三、总结

        以上就是本文的主要内容,本文主要讲述使用Java编程语言进行地理信息数据解析的时候,遇到Shapefile的属性信息乱码的几种情况,以及根据不同的编码设置来进行属性信息的解析。博文首先介绍采用不同的字符集编码的shapefile文件,然后在Qgis中打开属性表,查看相关的字符展示情况,接着说明在Java当中调用Geotools时,为经过字符编码处理和经过字符编码处理后的对比,让大家熟悉在Geotools的开发过程中,掌握字符编码的设置。行文仓促,定有许多不足之处,如有不当之处,还恳请各位专家和博主在评论区留言支持,不胜感激。

        博文在写作过程中,参考以下,在此表示表示:

        1、shapefile与字符集编码设置。

        2、java gdal 创建shapefile属性中文乱码。

        3、shapefile与字符集编码设置。

        4、GeoTools读取shp文件中文乱码解决方案汇总。


点击全文阅读


本文链接:http://zhangshiyu.com/post/167050.html

<< 上一篇 下一篇 >>

  • 评论(0)
  • 赞助本站

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

关于我们 | 我要投稿 | 免责申明

Copyright © 2020-2022 ZhangShiYu.com Rights Reserved.豫ICP备2022013469号-1