Rustynum随访:新鲜见解和正在进行的发展
时间:2025-02-17 16:03:18 467浏览 收藏
IT行业相对于一般传统行业,发展更新速度更快,一旦停止了学习,很快就会被行业所淘汰。所以我们需要踏踏实实的不断学习,精进自己的技术,尤其是初学者。今天golang学习网给大家整理了《Rustynum随访:新鲜见解和正在进行的发展》,聊聊,我们一起来看看吧!
大家好!
继上次介绍Rustynum之后,我将分享最近几周的开发进展。Rustynum是一个轻量级的NumPy替代品,使用Rust编写,并采用MIT许可证开源发布在GitHub上。它利用Rust的SIMD特性,实现更快的数值计算,同时保持体积小巧(Python wheel约300KB)。本文将重点介绍开发过程中的心得体会,以及新增的文档和教程。
简要回顾
如果您错过了之前的公告,Rustynum的主要特性包括:
- 利用Rust的SIMD指令集
- 高性能
- Rust的内存安全特性,无需GC开销
- 小巧的发布包大小(远小于NumPy wheel)
- 类似NumPy的接口,方便Python用户迁移
更多信息请访问Rustynum官网或查看我之前在dev.to发表的文章。
开发人员视角:最新进展
- 矩阵操作改进
我投入大量精力确保矩阵操作的便捷性。能够以最小的代码改动,实现NumPy的矩阵向量乘法或矩阵矩阵乘法等操作,是一个主要目标。.dot()
函数和@
运算符都支持这些操作。
- 查看相关教程: Rustynum中的高级矩阵操作
以下是一个快速示例:
import rustynum as rnp
matrix = rnp.numarray([i for i in range(16)], dtype="float32").reshape([4, 4])
vector = rnp.numarray([1, 2, 3, 4], dtype="float32")
# 使用dot函数
result_vec = matrix.dot(vector)
print("矩阵向量乘法结果:", result_vec)
可以看到,这与NumPy的工作流程非常相似。基准测试显示,Rustynum在处理小型和中等数据集时,速度通常与NumPy相当,有时甚至更快。对于大型矩阵,我仍在进行优化。
- 常用分析任务加速
除了矩阵乘法,我还持续改进mean()
、min()
、max()
和dot()
等操作的性能。这些函数是SIMD加速的主要目标。此外,还有一个教程演示如何用Rustynum替换特定的NumPy调用,这对于解决Python循环瓶颈非常有用。
- 示例:
import numpy as np
import rustynum as rnp
# 生成测试数据
data_np = np.random.rand(1_000_000).astype(np.float32)
data_rn = rnp.numarray(data_np.tolist(), dtype="float32")
# NumPy方法
mean_np = data_np.mean()
# Rustynum方法
mean_rn = data_rn.mean().item()
print("NumPy均值:", mean_np)
print("Rustynum均值:", mean_rn)
虽然Python的开销有时会抵消Rust的原生速度优势,但在许多情况下,Rustynum仍然表现出性能优势。
- 新增教程:现实世界示例
为了更好地展示Rustynum的优势,我添加了几个新的教程,涵盖了现实世界的编码场景:
- 高级矩阵操作 - 重点讲解点积、矩阵向量乘法和矩阵矩阵乘法。
- 替换核心NumPy调用 - 演示如何将NumPy的
mean
、min
、dot
替换为Rustynum。 - 简化机器学习预处理 - 探索机器学习中的缩放、标准化和特征工程。
最后一个教程是我个人最喜欢的,它涵盖了机器学习管道中常见的预处理步骤,只需将NumPy调用替换为Rustynum即可。
- 缩放代码片段示例:
def min_max_scale(array):
col_mins = []
col_maxes = []
for col_idx in range(array.shape[1]):
col_data = array[:, col_idx]
col_mins.append(col_data.min())
col_maxes.append(col_data.max())
scaled_data = []
for col_idx in range(array.shape[1]):
col_data = array[:, col_idx]
numerator = col_data - col_mins[col_idx]
denominator = col_maxes[col_idx] - col_mins[col_idx] or 1.0
scaled_col = numerator / denominator
scaled_data.append(scaled_col.tolist())
return rnp.concatenate(
[rnp.numarray(col, dtype="float32").reshape([array.shape[0], 1]) for col in scaled_data],
axis=1
)
这段代码展示了Rustynum如何高效地进行行/列操作。缩放后,数据仍然可以被馈送到您喜欢的机器学习框架中。
正在进行的工作
- 大型矩阵优化
我注意到,对于非常大的矩阵(例如10k×10k),Rustynum的当前代码路径与NumPy相比,尚未完全优化。这仍然是一个活跃的开发领域。Rustynum还处于早期阶段,我希望引入进一步的并行化或基于块的乘法技术,以提升大型矩阵的性能。
- 扩展数据类型
Rustynum目前支持float32
和float64
,以及一些整数类型。我正在考虑添加更强大的整数支持,例如用于索引或小型转换的整数类型。同时,如果社区有需求,高级数据类型(例如复数)也可能会被加入。
- 文档和API增强
Rustynum.com上的文档网站包含API参考和路线图,我正在持续改进。如果您发现任何缺失的内容,或者有特定用例的考虑,请随时在GitHub上提交问题或Pull Request。
- Rustynum的主要目标
Rustynum最初只是我将Rust和Python结合起来的学习项目。由于我每天都在从事机器学习相关工作,因此我希望Rustynum能够取代我日常工作中部分NumPy的例程。我们正在逐渐实现这个目标。我开始添加更多关于如何在机器学习管道中集成Rustynum的教程。
- 快速代码示例:机器学习集成
以下是一个简短的示例,展示了Rustynum如何融入数据管道:
import numpy as np
import rustynum as rnp
from sklearn.linear_model import LogisticRegression
# 1) 使用NumPy创建合成数据
train_np = np.random.rand(1000, 10).astype(np.float32)
labels_np = np.random.randint(0, 2, size=1000)
# 2) 转换为Rustynum进行快速缩放
train_rn = rnp.NumArray(train_np.flatten().tolist(), dtype="float32").reshape([1000, 10])
# 基本缩放 (计算每列的最小值和最大值)
scaled_rn = []
for col_idx in range(train_rn.shape[1]):
col_data = train_rn[:, col_idx]
mn = col_data.min()
mx = col_data.max()
rng = mx - mn if (mx != mn) else 1.0
scaled_col = (col_data - mn) / rng
scaled_rn.append(scaled_col.tolist())
train_scaled_rn = rnp.concatenate(
[rnp.NumArray(col, dtype="float32").reshape([1000, 1]) for col in scaled_rn],
axis=1
)
# 3) 转换回NumPy用于scikit-learn
train_scaled_np = np.array(train_scaled_rn.tolist(), dtype=np.float32)
# 4) 训练逻辑回归模型
model = LogisticRegression()
model.fit(train_scaled_np, labels_np)
print("模型系数:", model.coef_)
这个脚本展示了Rustynum如何以Pythonic的方式处理数据转换,然后您可以将数组传递给其他库。
总结
扩展Rustynum的功能,并探索Rust与Python集成如何实现高性能计算,是一个非常有趣的过程。最近的教程展示了Rustynum如何在数据科学或机器学习任务中部分替代NumPy,尤其是在处理较小或中等大小数组的任务中。
- 访问Rustynum.com查看教程
- 在GitHub上贡献代码或报告问题
- 分享您的反馈
感谢您的关注,期待听到Rustynum如何帮助到您的项目!
祝您编程愉快!
Igor
今天关于《Rustynum随访:新鲜见解和正在进行的发展》的内容介绍就到此结束,如果有什么疑问或者建议,可以在golang学习网公众号下多多回复交流;文中若有不正之处,也希望回复留言以告知!
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
339 收藏
-
184 收藏
-
197 收藏
-
343 收藏
-
324 收藏
-
479 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 507次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习