登录
首页 >  Golang >  Go问答

如何在elasticsearch更新之前检查属性?

来源:stackoverflow

时间:2024-04-17 11:15:36 413浏览 收藏

今天golang学习网给大家带来了《如何在elasticsearch更新之前检查属性?》,其中涉及到的知识点包括等等,无论你是小白还是老手,都适合看一看哦~有好的建议也欢迎大家在评论留言,若是看完有所收获,也希望大家能多多点赞支持呀!一起加油学习~

问题内容

我已经看了官方文档,没找到办法。

我到es的数据来自kafka,有时可能会出现故障。过去,来自kafka的消息被解析并直接插入或更新具有特定ID的ES doc。为了避免旧数据覆盖新数据,我必须检查具有特定ID的文档是否已经存在并且该文档的某些属性是否满足条件。然后我执行更新操作(或插入)。

我现在正在做的是“更新前搜索”。

在更新文档之前,我从 ES 中搜索具有特定 ID 的内容(包含在 kafka msg 中)。然后检查该文档是否满足条件(例如 update_time 是否较旧?)。最后我更新了文档。我将 refresh 设置为 true 以立即更新索引。

我担心什么?

看起来是事务性的。

  1. 如果只有一个线程同步执行,是否有可能当我处理下一条消息时,上一条消息处理中更新的文档不会在 ES 上刷新?

  2. 如果我有多个线程消费kafka消息,更新前如何检查?我可以使用脚本来解决这个问题吗?


解决方案


这是一种可能性,因为索引每秒刷新一次(默认情况下),因此既不建议也不保证减小此值,也不会保证给您带来所需的结果,因为 Elasticsearch 不是为此设计的。

如果要更新的字段数量非常有限,您可以使用脚本。就我个人而言,我发现脚本最适合单字段更新,并且对于角落用例来说也是如此,不应该将其用作一般实践。除此之外,您将面临与 RDBMS 世界中的存储过程相同的风险。它使数据管理整体不稳定,并且从长远来看更难以维护/扩展系统。

您的用例最适合 Elasticsearch 提供的开箱即用的乐观锁定支持。请查看 Elasticsearch Versioning Support 了解完整详细信息。

您可以很好地使用内置文档版本如果并发是您需要解决的唯一问题。但是,如果您需要的不仅仅是并发性(无序消息传递和相应的 ES 更新),那么您应该使用应用程序/域特定字段,因为内置版本无法按原样工作。

您可以很好地使用任何应用程序特定的(数字)字段作为版本字段,并在文档更新期间将其用于乐观锁定。如果您使用这种方法,请特别注意该索引的所有插入、更新、删除操作。从版本控制支持中引用 AS-IS - 在使用外部版本控制时,请确保始终将当前版本(和 version_type)添加到任何索引、更新或删除调用中。如果您忘记了,Elasticsearch 将使用其内部系统来处理该请求,这将导致版本错误地增加

我建议您首先评估内置版本,如果它满足您的需求,请使用它。这将使整体设计变得更加简单。如果内置版本不能满足您的要求,请考虑将应用程序特定版本作为第二个选项。

到这里,我们也就讲完了《如何在elasticsearch更新之前检查属性?》的内容了。个人认为,基础知识的学习和巩固,是为了更好的将其运用到项目中,欢迎关注golang学习网公众号,带你了解更多关于的知识点!

声明:本文转载于:stackoverflow 如有侵犯,请联系study_golang@163.com删除
相关阅读
更多>
最新阅读
更多>
课程推荐
更多>