如何在elasticsearch更新之前检查属性?
来源:stackoverflow
时间:2024-04-17 11:15:36 413浏览 收藏
今天golang学习网给大家带来了《如何在elasticsearch更新之前检查属性?》,其中涉及到的知识点包括等等,无论你是小白还是老手,都适合看一看哦~有好的建议也欢迎大家在评论留言,若是看完有所收获,也希望大家能多多点赞支持呀!一起加油学习~
我已经看了官方文档,没找到办法。
我到es的数据来自kafka,有时可能会出现故障。过去,来自kafka的消息被解析并直接插入或更新具有特定ID的ES doc。为了避免旧数据覆盖新数据,我必须检查具有特定ID的文档是否已经存在并且该文档的某些属性是否满足条件。然后我执行更新操作(或插入)。
我现在正在做的是“更新前搜索”。
在更新文档之前,我从 ES 中搜索具有特定 ID 的内容(包含在 kafka msg 中)。然后检查该文档是否满足条件(例如 update_time 是否较旧?)。最后我更新了文档。我将 refresh
设置为 true
以立即更新索引。
我担心什么?
看起来是事务性的。
如果只有一个线程同步执行,是否有可能当我处理下一条消息时,上一条消息处理中更新的文档不会在 ES 上刷新?
如果我有多个线程消费kafka消息,更新前如何检查?我可以使用脚本来解决这个问题吗?
解决方案
这是一种可能性,因为索引每秒刷新一次(默认情况下),因此既不建议也不保证减小此值,也不会保证给您带来所需的结果,因为 Elasticsearch 不是为此设计的。
如果要更新的字段数量非常有限,您可以使用脚本。就我个人而言,我发现脚本最适合单字段更新,并且对于角落用例来说也是如此,不应该将其用作一般实践。除此之外,您将面临与 RDBMS 世界中的存储过程相同的风险。它使数据管理整体不稳定,并且从长远来看更难以维护/扩展系统。
您的用例最适合 Elasticsearch 提供的开箱即用的乐观锁定支持。请查看 Elasticsearch Versioning Support 了解完整详细信息。
您可以很好地使用内置文档版本如果并发是您需要解决的唯一问题。但是,如果您需要的不仅仅是并发性(无序消息传递和相应的 ES 更新),那么您应该使用应用程序/域特定字段,因为内置版本无法按原样工作。
您可以很好地使用任何应用程序特定的(数字)字段作为版本字段,并在文档更新期间将其用于乐观锁定。如果您使用这种方法,请特别注意该索引的所有插入、更新、删除操作。从版本控制支持中引用 AS-IS - 在使用外部版本控制时,请确保始终将当前版本(和 version_type)添加到任何索引、更新或删除调用中。如果您忘记了,Elasticsearch 将使用其内部系统来处理该请求,这将导致版本错误地增加
我建议您首先评估内置版本,如果它满足您的需求,请使用它。这将使整体设计变得更加简单。如果内置版本不能满足您的要求,请考虑将应用程序特定版本作为第二个选项。
到这里,我们也就讲完了《如何在elasticsearch更新之前检查属性?》的内容了。个人认为,基础知识的学习和巩固,是为了更好的将其运用到项目中,欢迎关注golang学习网公众号,带你了解更多关于的知识点!
-
502 收藏
-
502 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
139 收藏
-
204 收藏
-
325 收藏
-
477 收藏
-
486 收藏
-
439 收藏
-
357 收藏
-
352 收藏
-
101 收藏
-
440 收藏
-
212 收藏
-
143 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 508次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习