索引的建立不需要看主键有几个字段,而是看你的查询条件经常用到哪几列,
如果经常同时用到好几列,就可以在这几列上建联合索引,
如果查询条件经常都只是用到某一个字段,只需要在该字段上建一个单独索引
建议提前检查,为yellow直接提醒运维去维护为green。不过我这边用的es6.2.3yellow是正常查询的。建议你检查一下环境配置应该不是yellow的问题。试了一下;为red都可以正常查询的(java代码查询结果和下图es-head查询结果一致)
,代码主要逻辑如下:// 读取要导入数据的文件
BufferedReader br = new BufferedReader(new FileReader(
"D:\\test\\test.txt"))
String json = null
int count = 0
// 开启批量插入
BulkRequestBuilder bulkRequest = client.prepareBulk()
while ((json = br.readLine()) != null) {
bulkRequest.add(client.prepareIndex("test", "all")
.setSource(json))
// 每一千条提交一次
if (count % 1000 == 0) {
bulkRequest.execute().actionGet()
System.out.println("提交了:" + count)
}
count++
}
bulkRequest.execute().actionGet()
System.out.println("插入完毕")
br.close()
登录后复制
运行后发现一个问题,我100多万条的数据,导入到es中怎么生成了1000多万条,而且还是在没有完全导入的情况下
然后用小批量数据导入到es,再把这些数据导出来,发现有好多重复的数据
为什么会重复呢,原因是在每一千条提交一次代码这块,第一次一千条提交了,并没有把bulkRequest置空,所以第二次提交的时候,会提交两千条,包括第一次已经提交的一千条,然后我们自己也没有设置_id,所以es会自动给数据生成一个_id,即使是重复的数据,搞清楚了原因,下面来说解决方法,主要有两种:
第一种就是在提交了一千条后,对bulkRequest进行重置,因为bulkRequest并没有重置的方法,所以可以新建一个bulkRequest,类似于重置,具体代码如下:
// 读取要导入数据的文件
BufferedReader br = new BufferedReader(new FileReader(
"D:\\test\\test.txt"))
String json = null
int count = 0
// 开启批量插入
BulkRequestBuilder bulkRequest = client.prepareBulk()
while ((json = br.readLine()) != null) {
bulkRequest.add(client.prepareIndex("test", "all")
.setSource(json))
// 每一千条提交一次
if (count % 1000 == 0) {
bulkRequest.execute().actionGet()
//此处新建一个bulkRequest,类似于重置效果
bulkRequest = client.prepareBulk()
System.out.println("提交了:" + count)
}
count++
}
bulkRequest.execute().actionGet()
System.out.println("插入完毕")
br.close()
登录后复制
第二种就是自己设置_id,确保每一条数据只有一个_id,这样的话,即使数据重复了,因为_id是一样的,所以es会进行更新,这样的话并没有从根源上解决数据重复的问题,只是重复数据会更新,这样的话效率会慢,具体代码如下:
// 读取要导入数据的文件
BufferedReader br = new BufferedReader(new FileReader(
"D:\\test\\test.txt"))
String json = null
int count = 0
// 开启批量插入
BulkRequestBuilder bulkRequest = client.prepareBulk()
while ((json = br.readLine()) != null) {
//设置_id为count
bulkRequest.add(client.prepareIndex("test", "all",
String.valueOf(count)).setSource(json))
// 每一千条提交一次
if (count % 1000 == 0) {
bulkRequest.execute().actionGet()
//此处新建一个bulkRequest,类似于重置效果
System.out.println("提交了:" + count)
}
count++
}
bulkRequest.execute().actionGet()
System.out.println("插入完毕")
br.close()
登录后复制
建议使用第一种方法,效率会快很多。