shimmy v2.0：纯 Rust WebGPU 推理引擎，无 Python 无 llama.cpp
shimmy 是一个纯 Rust 实现的本地 LLM 推理引擎，提供 100% OpenAI API 兼容端点，原生支持 GGUF 格式。v2.0 引入全新的 Airframe 引擎——基于 WGSL 的纯 Rust GPU 推理运行时，无需 C++ 工具链；v2.1 带来 TurboShimmy INT4 KV 量化，KV cache 显存占用降低约 7 倍，4 GB GPU 即可运行 Llama-3.2-3B。
• 单一二进制，零 Python / llama.cpp 依赖 • 完整 OpenAI API 兼容（SDK、流式、工具调用） • WebGPU 后端跨平台，永久免费承诺
原文链接：https://github.com/Michael-A-Kuykendall/shimmy
Pydantic 出品：monty，用 Rust 实现的极简 Python 解释器，专为 AI Agent 代码执行
Pydantic 团队发布实验性项目 monty——用 Rust 实现的最小化安全 Python 解释器，专为 LLM / AI Agent 生成代码执行场景设计，启动时间为微秒级。
• 完全隔离宿主（文件系统、环境变量、网络均由开发者显式控制）
• 内置 Astral ty 类型检查，支持现代 Python 类型注解
• 支持在外部调用处序列化解释器状态，可持久化恢复
• 相比容器沙箱，延迟和复杂度大幅降低
原文链接：https://github.com/pydantic/monty
Symposium 加入 Rust Innovation Lab：自动为 AI Agent 安装 Rust crate 扩展
Rust Foundation 旗下 Rust Innovation Lab 迎来第二个正式项目 Symposium。它根据项目的 Rust 依赖，自动发现并安装对应的 MCP 服务器、技能扩展等 Agent 工具，让 crate 作者能直接影响 Agent 侧的开发体验。
• 集中式 recommendations 仓库，描述各 crate 对应扩展
• 项目配置 hook 后自动扫描依赖、安装匹配扩展
• 支持自定义仓库；未来支持 crate 直接打包插件
• 由 Niko Matsakis 主导，已获 RIL 正式托管
原文链接：https://rustfoundation.org/media/welcoming-symposium-to-the-rust-innovation-lab/
Rust Foundation Maintainers Fund 落地：Maintainer in Residence 正式启动
随着 RFC #3931 获批，Rust 基金会与项目组合作的 RFMF（Rust Foundation Maintainers Fund） 正式运转：
• Funding 团队：协调资金渠道，联络 Rust 项目成员与企业赞助方 • Maintainer in Residence：为编译器、标准库、Cargo、Clippy 等核心维护者提供稳定资金支持，专注大规模重构、代码审查、Issue 分类与导师辅导 • 目标：让维护者获得近全职资助，保障 Rust 长期健康发展
原文链接：https://blog.rust-lang.org/2026/06/02/launching-the-rust-foundation-maintainers-fund/
From Rust中文社区 Mike
社区学习交流平台订阅：
评论区
写评论还没有评论