【Rust日报】2025-07-19 Burn - 深度学习框架和张量库 | CubeCL - Rust 开发 GPU 计算内核

苦瓜小仔发表于 2025-07-20 16:50

Tags：日报

Burn - Rust 深度学习框架和张量库 | CubeCL - Rust 开发 GPU 计算内核

Burn 是一个用 Rust 构建的深度学习框架和张量库，最新发布的 0.18.0 版本达到了两个重要的性能里程碑。

最先进的多平台矩阵乘法内核：
- 引入了复杂的矩阵乘法内核引擎，性能与 cuBLAS 和 CUTLASS 相媲美，同时支持更广泛的 GPU。
- 这是大量工作的成果，尽管许多人不推荐这样做，但团队坚信需要自主实现深度学习框架的核心部分以实现最佳性能。
- 发布了详细的基准测试技术文章。见 https://burn.dev/blog/sota-multiplatform-matmul/
动态图灵活性与静态图融合能力：
- 优化了张量编译引擎，引入新的搜索机制以优化动态图。
- 重新排序操作以最大化优化机会，包括死代码消除，提高了对不同张量操作序列的适应性。
- 利用 Rust 的类型系统和所有权规则，实现了动态执行中的图操作和优化。
改进的可靠性：
- 扩展了 CI 测试套件，解决了多线程、延迟求值和异步执行问题。
- 实施了自动性能回归测试，确保平台演变过程中的稳定性。
CubeCL 0.6.0：
- 同步发布了 CubeCL 0.6.0，包含大量错误修复、新功能和项目重构。
- 新增了内核模块（如 cubecl-matmul、cubecl-convolution 等），计划添加 cubecl-attention 以加速 Transformer 模型。
- 改善了 CubeCL 的文档和可用性，发布了新的用户手册。

CubeCL 的目标是减轻编写高度优化且可跨硬件移植的计算内核的痛苦。目前，如果您希望在跨平台的同时获得最佳性能，则尚无合适的解决方案。

您要么必须为不同的硬件编写自定义内核，通常使用不同的语言，例如 CUDA、Metal 或 ROCm。为了解决这个问题，我们创建了一个即时编译器 (JIT)，它具有三个核心功能：自动矢量化、编译时间和自动调优！

借助 CubeCL，您可以使用 Rust 编程 GPU，利用零成本抽象来开发可维护、灵活且高效的计算内核。CubeCL 还附带优化的运行时，可管理任何平台的内存管理和惰性执行。

Burn 仓库：https://github.com/tracel-ai/burn

CubeCL 仓库：https://github.com/tracel-ai/cubecl

Reddit：https://www.reddit.com/r/rust/comments/1m37b0d/burn_0180_important_performance_milestones/

文章：《Figma 通过 Rust 中的内存优化显著提升了文件加载速度并降低了内存使用》

Figma 文件由节点组成，每个节点是一个属性映射（Map<u16, u64>）。优化前，该映射占文件内存使用量的 60% 以上。Figma 团队用一个扁平的、排序的向量（Vec<u16, u64>）替换了默认的 BTreeMap，尽管从理论上讲，向量的插入时间复杂度更高，但实际文件反序列化速度提升了 20%，内存使用量降低了 25%。

此外，团队还尝试了另一种优化方法：利用 x86 指针的未使用的顶部 16 位存储字段 ID，将字段 ID 和指针合并为一个 64 位数字。这种方法进一步降低了内存使用量（约 5%），但由于潜在的内存风险，尚未投入生产。

阅读：https://www.figma.com/blog/supporting-faster-file-load-times-with-memory-optimizations-in-rust/