附录:基于scoll+bulk+索引别名实现零停机重建索引
实现思路:
基于alias对client透明切换index,新建一个别名索引
PUT /index索引/_alias/index别名索引client对my_index进行操作
创建一个新索引,reindex操作完成之后,切换index索引 到 新index索引
POST /_aliases
{
"actions": [
{ "remove": { "index": "index索引", "alias": "index别名索引" }},
{ "add": { "index": "新index索引", "alias": "index别名索引" }}
]
}重建索引过程
一个field的mapping的数据类型是不能被修改的,如果要修改一个Field字段类型,那么应该重新按照新的mapping,建立一个index,然后将数据批量查询出来,重新用bulk api写入index中。
批量查询的时候,建议采用scroll api,并且采用多线程并发的方式来reindex数据,每次scoll就查询指定日期的一段数据,交给一个线程即可 。
1)一开始,依靠dynamic mapping,插入数据,但是不小心有些数据是2017-01-01这种日期格式的,所以title这种field被自动映射为了date类型,实际上它应该是string类型的
PUT /my_index/my_type/3
{
"title": "2017-01-03"
}通过查看mapping,你会发现tittle字段被自动的mapping成了date类型
(2)当后期向索引中加入string类型的title值的时候,就会报错
结果会报错:
(3)因为mapping的字段类型是不能修改的,只能新增字段才能制定字段类型,如果此时想修改title的类型,是不可能的
试图修改
结果返回错误:
(4)此时,唯一的办法,就是进行reindex,也就是说,重新建立一个索引,将旧索引的数据查询出来,再导入新索引
(5)如果说旧索引的名字,是old_index,新索引的名字是new_index,终端假如php应用,已经在使用old_index进行操作,传统的想法你会把new_index弄好之后,做一个切换,修改使用的index为new_index,切换的过程中需要停止php应用的调用。这个过程中,就会导致php应用停机,导致服务可用性降低
。
(6)所以说,es中采用使用一个别名alias_index ,这个别名是指向旧索引的,php应用先继续使用着,php应用先用alias_index alias来操作,此时实际指向的是旧的my_index。
(7)新建一个index,调整其title的类型为string
(8)使用scroll api将数据批量查询出来
返回结果:
(9)采用bulk api将scoll查出来的一批数据,批量写入新索引
(10)反复循环8~9,查询一批又一批的数据出来,采取bulk api将每一批数据批量写入新索引
(11)将alias_index alias切换到my_index_new上去,php应用会直接通过index别名使用新的索引中的数据,php应用程序不需要停机,零提交,高可用
(12)测试直接通过alias_index别名来查询,是否ok
Last updated
Was this helpful?