在上次 "我与RUST十年"的征文中,我简单介绍一个团队的项目,与Vector PK 的日志解析引擎。 上周我们对外正式开源了。 希望rustcc的 兄弟们,给我们一点关注和支持。欢迎大家参与, 对于想学习rust 这是一个不错的机会,我会定期跟社区开发者分享 rust 学习和讨论项目的设计和技术决策,对于个人的提升会很有帮助的。
https://github.com/wp-labs
官网:https://warpparse.ai/
WarpParse 以 Apache 2.0 协议正式开源:性能超越 Vector 数倍的新一代日志解析引擎
在云原生与可观测性需求爆发的当下,日志解析作为运维、研发和安全分析的核心环节,工具的性能与易用性直接决定了业务效率。
2026 年 1 月 23 日,我们在中国长沙正式开源发布 WarpParse —— 一款面向可观测性、安全、实时风控和数据平台团队的高性能 ETL 引擎。WarpParse 采用 Rust 构建,经过严格的基准测试验证,在吞吐量、资源消耗和易用性等多个维度全面超越 DataDog 旗下的 Vector,达到业界领先水平。
一、核心优势
1. 吞吐量全面领先
基于 Linux(AWS EC2 c5a.2xlarge)和 Mac(Apple M4)双平台的基准测试,WarpParse 相比 Vector 实现了显著的性能提升:
| 平台 | 纯解析场景 | 解析+转换场景 |
|---|---|---|
| Linux | 1.56x - 7.67x | 1.34x - 7.65x |
| Mac | 1.42x - 8.68x | 1.35x - 8.12x |
测试涵盖 File -> BlackHole 和 TCP -> BlackHole 两种数据拓扑,覆盖 Nginx、AWS ELB、Sysmon JSON、APT Threat、Mixed Log 五类典型日志场景。
在处理大体积日志(如 3KB 的 APT 威胁日志,File -> BlackHole 拓扑)时,WarpParse 的 MPS(每秒处理数据量)可达 438 MiB/s(Linux)和 1109 MiB/s(Mac),性能优势尤为突出。

2. 资源消耗大幅降低
在同等负载下(20,000 EPS,Mixed Log 混合日志场景),资源对比如下:
| 指标 | WarpParse | Vector-VRL | Logstash |
|---|---|---|---|
| CPU | 54% / 56% | 173% / 180% | 276% / 396% |
| 内存 | 60 MB / 66 MB | 162 MB / 166 MB | 1190 MB / 1223 MB |
WarpParse 的 CPU 占用仅为 Vector 的 1/3,内存占用低至 37%,相比 Logstash 更是节省超过 95% 的内存。

3. 规则更简洁,上手更轻松
WarpParse 提供两种革命性的领域特定语言:
WPL(Warp Parse Language):强类型解析 DSL,内置逻辑感知算子,比正则表达式更精准高效。以 Nginx JSON 日志解析为例:
| 引擎 | 规则大小 |
|---|---|
| WPL | 162B |
| VRL (Vector) | 419B |
| Logstash | 470B |
WPL 还支持 alt(择一容错)、opt(可选匹配)、some_of(循环探测)等元信息,提供远超正则的容错能力。
OML(Object Modeling Language):声明式建模语言,支持:
read(非破坏性读取)与take(破坏性读取)双模式- 强类型安全与自动类型推断
- 链式管道处理与模式匹配
- 原生 SQL 集成,实时查询数据库进行数据富化
二、WarpParse 能做什么?
1. 日志解析与转换
- 各类安全设备、安全系统的日志解析
- 各类基础设施、中间件、应用的日志解析
- 实时数据富化,利用 OML 的 SQL 集成能力完成知识信息增强
2. 数据灵活路由
- 支持多种连接器:Kafka、MySQL、Elasticsearch、ClickHouse、Doris、VictoriaMetric、VictoriaLog 等
- 支持数据复制和过滤,满足多路分发需求
- 基于规则和转换模型的智能路由
3. 灵活的部署模式
- 边缘部署:极低的资源占用,适合在边缘节点进行就近计算
- 中心集群:强大的处理性能、无状态特性,支持中心节点集群式横向扩展
4. 成本优化
从资源占用和人力投入双维度降低企业成本:
- 减少服务器资源消耗,降低硬件和云服务开支
- 简洁的 DSL 减少运维和研发人员在日志处理上的时间投入
三、配套工具
WpEditor:专为 WPL 和 OML 设计的可视化编辑器,支持在线使用和本地下载,让规则编写更加高效直观。
- 在线版本:https://editor.warpparse.ai
- 下载地址:https://github.com/wp-labs/wp-editor/releases
四、开源与社区
WarpParse 以 Apache 2.0 协议完全开源,所有核心能力免费向个人和企业开放,无需授权即可商用。
我们期待与全球开发者共建高效、轻量的日志解析生态,欢迎前往 GitHub 下载体验、提交 Issue、贡献代码!
https://github.com/wp-labs
社区交流群

评论区
写评论还没有评论