Moonweb 是 Rust 开发一个 WEB 应用支持动态装载和使用多种大语言模型。

现在的 Moonweb 支持的模型已经多达6个

• meta-llama/Meta-Llama-3-8B-Instruct
• lmms-lab/llama3-llava-next-8b
• Qwen/Qwen2-7B-Instruct
• Qwen/Qwen2-1.5B-Instruct
• microsoft/Phi-3-medium-4k-instruct
• black-forest-labs/FLUX.1-schnell

作为 Rust 开发的多模型工具，很容易就通增加模型服务的方式将 Flux 模型加入到了 moonweb。

项目地址：

https://github.com/Lyn-liyuan/moonweb

项目介绍相关文章：

Moonweb 增加了 FLUX.1-schnell 模型服务

https://zhuanlan.zhihu.com/p/712612056

Moonweb 开发笔记

https://zhuanlan.zhihu.com/p/707069283