< 返回版块

Mike Tang 发表于 2024-11-27 06:48

fastembed-rs - AI嵌入库

FastEmbed的Rust实现,提供了快速的文本嵌入、图像嵌入和候选项重新排序功能。它具有以下主要特性:

  1. 支持同步使用,无需依赖Tokio。
  2. 使用@pykeio/ort进行高性能的ONNX推理。
  3. 使用@huggingface/tokenizers进行快速编码。
  4. 支持使用@rayon-rs/rayon进行批量嵌入生成和并行计算。
  5. 默认模型是Flag Embedding,在MTEB排行榜上排名靠前。
  6. 提供多种文本嵌入模型、图像嵌入模型和重新排序模型可供选择。
  7. 易于安装和使用,提供了使用示例。
  8. 采用Apache 2.0许可证。

该库的快速特性来自于使用量化模型权重、ONNX运行时推理引擎以及避免了对Hugging Face Transformers的依赖。

https://github.com/Anush008/fastembed-rs

Rust稳定2024版本将于 2025年2月20日发布

这是一个来自Rust语言GitHub仓库的Pull Request,目的是为Rust 1.85版本(预计于2025年2月20日发布)稳定2024年版本。一些主要内容包括:

  1. 稳定2024版本,这是Rust的一个重要里程碑。

  2. 获得了rust项目团队的大力支持和欢呼,认为这是令人振奋的成果。

  3. 经过团队的审查,该PR被批准合并。

  4. 合并后,会继续后续工作,如更新文档、Cargo、rustfmt等。

这是Rust新年版本发布的一个关键步骤,标志着2024版本正式进入发布流程,为下一个发布版本的到来做准备。

https://github.com/rust-lang/rust/pull/133349

--

From 日报小组 Mike

社区学习交流平台订阅:

评论区

写评论

还没有评论

1 共 0 条评论, 1 页