字节序问题与浮点数
来源:stackoverflow
时间:2024-03-23 08:33:32 395浏览 收藏
在开发 Tormenta 中,我遇到一个字节序问题,涉及按顺序存储浮点数。虽然正浮点数的字节序符合预期,但负浮点数的顺序却出现混乱。为了解决这个问题,需要同时翻转符号位和反转负浮点数的顺序。一种解决方案是使用 math.float64bits() 将浮点数转换为 uint64 值,然后对该值进行按位运算。如果浮点数为正,则将最高位与 0x8000000000000000 异或;如果为负,则将所有位与 0xffffffffffffffff 异或。另一种方法是直接对序列化后的浮点数字节进行异或操作,对正浮点数仅异或第一个字节,对负浮点数异或所有字节。
我正在开发 Tormenta (https://github.com/jpincas/tormenta),它由 BadgerDB (https://github.com/dgraph-io/badger) 支持。 BadgerDB 按字节顺序存储键(字节片)。我正在创建包含需要按顺序存储的浮点数的键,以便我可以正确使用 Badger 的键迭代。我没有扎实的计算机科学背景,所以有点力不从心。
我对浮点数进行编码,如下所示:binary.Write(buf, binary.BigEndian, myFloat)
。这对于正浮点数来说效果很好 - 关键顺序是您所期望的,但是对于负浮点数,字节顺序会崩溃。
顺便说一句,整数也存在同样的问题,但我可以通过使用 b[0] ^= 1 << 7
翻转 int 上的符号位来相对轻松地解决这个问题(其中 b
是 []byte
持有对 int 进行编码的结果),然后在检索密钥时翻转回来。
虽然 b[0] ^= 1 << 7
也会翻转浮点数上的符号位,从而将所有负浮点数放在正浮点数之前,但负浮点数的顺序不正确(向后)。需要翻转符号位并反转负浮点数的顺序。
这里在 StackOverflow 上提出了类似的问题:Sorting float-point value using their byte-representation,并且一致同意的解决方案是:
将所有正数与 0x8000... 进行异或,将负数与 0xffff... 进行异或。 这应该翻转两者的符号位(因此负数先行),然后反转负数的顺序。
但是,这远远超出了我的位翻转技能水平,因此我希望 Go 位忍者可以帮助我将其转换为一些 Go 代码。
解决方案
使用 math.float64bits()
您可以使用 math.Float64bits()
,它返回一个 uint64
值,该值与传递给它的 float64
值具有相同的字节/位。
一旦有了 uint64
,对其执行按位运算就很简单:
f := 1.0 // some float64 value bits := math.float64bits(f) if f >= 0 { bits ^= 0x8000000000000000 } else { bits ^= 0xffffffffffffffff }
然后序列化 bits
值而不是 f
float64 值,就完成了。
让我们看看它的实际效果。让我们创建一个包含 float64
数字及其字节的包装类型:
type num struct { f float64 data [8]byte }
让我们创建这些 num
的切片:
nums := []*num{ {f: 1.0}, {f: 2.0}, {f: 0.0}, {f: -1.0}, {f: -2.0}, {f: math.pi}, }
序列化它们:
for _, n := range nums { bits := math.float64bits(n.f) if n.f >= 0 { bits ^= 0x8000000000000000 } else { bits ^= 0xffffffffffffffff } if err := binary.write(bytes.newbuffer(n.data[:0]), binary.bigendian, bits); err != nil { panic(err) } }
这就是我们如何按字节对它们进行排序:
sort.slice(nums, func(i int, j int) bool { ni, nj := nums[i], nums[j] for k := range ni.data { if bi, bj := ni.data[k], nj.data[k]; bi < bj { return true // we're certain it's less } else if bi > bj { return false // we're certain it's not less } // we have to check the next byte } return false // if we got this far, they are equal (=> not less) })
现在让我们看看按字节排序后的顺序:
fmt.println("final order byte-wise:") for _, n := range nums { fmt.printf("% .7f %3v\n", n.f, n.data) }
输出将为(在 Go Playground 上尝试):
final order byte-wise: -2.0000000 [ 63 255 255 255 255 255 255 255] -1.0000000 [ 64 15 255 255 255 255 255 255] 0.0000000 [128 0 0 0 0 0 0 0] 1.0000000 [191 240 0 0 0 0 0 0] 2.0000000 [192 0 0 0 0 0 0 0] 3.1415927 [192 9 33 251 84 68 45 24]
没有 math.float64bits()
另一种选择是首先序列化 float64
值,然后对字节执行 xor 操作。
如果数字为正(或零),则将第一个字节与 0x80
进行异或,其余字节与 0x00
进行异或,这基本上对它们不执行任何操作。
如果数字为负数,则将所有字节与 0xff
进行异或,这基本上是按位求反。
实际操作:唯一不同的部分是序列化和 xor 操作:
for _, n := range nums { if err := binary.Write(bytes.NewBuffer(n.data[:0]), binary.BigEndian, n.f); err != nil { panic(err) } if n.f >= 0 { n.data[0] ^= 0x80 } else { for i, b := range n.data { n.data[i] = ^b } } }
其余的都是一样的。输出也将是相同的。在 Go Playground 上试试这个。
本篇关于《字节序问题与浮点数》的介绍就到此结束啦,但是学无止境,想要了解学习更多关于Golang的相关知识,请关注golang学习网公众号!
-
502 收藏
-
502 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
139 收藏
-
204 收藏
-
325 收藏
-
477 收藏
-
486 收藏
-
439 收藏
-
357 收藏
-
352 收藏
-
101 收藏
-
440 收藏
-
212 收藏
-
143 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 508次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习