< 返回版块

seeker-zuo 发表于 2026-01-28 16:27

Tags:ETL, 日志解析

在上次 "我与RUST十年"的征文中,我简单介绍一个团队的项目,与Vector PK 的日志解析引擎。 上周我们对外正式开源了。 希望rustcc的 兄弟们,给我们一点关注和支持。欢迎大家参与, 对于想学习rust 这是一个不错的机会,我会定期跟社区开发者分享 rust 学习和讨论项目的设计和技术决策,对于个人的提升会很有帮助的。

https://github.com/wp-labs

官网:https://warpparse.ai/


WarpParse 以 Apache 2.0 协议正式开源:性能超越 Vector 数倍的新一代日志解析引擎

在云原生与可观测性需求爆发的当下,日志解析作为运维、研发和安全分析的核心环节,工具的性能与易用性直接决定了业务效率。

2026 年 1 月 23 日,我们在中国长沙正式开源发布 WarpParse —— 一款面向可观测性、安全、实时风控和数据平台团队的高性能 ETL 引擎。WarpParse 采用 Rust 构建,经过严格的基准测试验证,在吞吐量、资源消耗和易用性等多个维度全面超越 DataDog 旗下的 Vector,达到业界领先水平。

一、核心优势

1. 吞吐量全面领先

基于 Linux(AWS EC2 c5a.2xlarge)和 Mac(Apple M4)双平台的基准测试,WarpParse 相比 Vector 实现了显著的性能提升:

平台 纯解析场景 解析+转换场景
Linux 1.56x - 7.67x 1.34x - 7.65x
Mac 1.42x - 8.68x 1.35x - 8.12x

测试涵盖 File -> BlackHole 和 TCP -> BlackHole 两种数据拓扑,覆盖 Nginx、AWS ELB、Sysmon JSON、APT Threat、Mixed Log 五类典型日志场景。

在处理大体积日志(如 3KB 的 APT 威胁日志,File -> BlackHole 拓扑)时,WarpParse 的 MPS(每秒处理数据量)可达 438 MiB/s(Linux)和 1109 MiB/s(Mac),性能优势尤为突出。

2. 资源消耗大幅降低

在同等负载下(20,000 EPS,Mixed Log 混合日志场景),资源对比如下:

指标 WarpParse Vector-VRL Logstash
CPU 54% / 56% 173% / 180% 276% / 396%
内存 60 MB / 66 MB 162 MB / 166 MB 1190 MB / 1223 MB

WarpParse 的 CPU 占用仅为 Vector 的 1/3,内存占用低至 37%,相比 Logstash 更是节省超过 95% 的内存。

3. 规则更简洁,上手更轻松

WarpParse 提供两种革命性的领域特定语言:

WPL(Warp Parse Language):强类型解析 DSL,内置逻辑感知算子,比正则表达式更精准高效。以 Nginx JSON 日志解析为例:

引擎 规则大小
WPL 162B
VRL (Vector) 419B
Logstash 470B

WPL 还支持 alt(择一容错)、opt(可选匹配)、some_of(循环探测)等元信息,提供远超正则的容错能力。

OML(Object Modeling Language):声明式建模语言,支持:

  • read(非破坏性读取)与 take(破坏性读取)双模式
  • 强类型安全与自动类型推断
  • 链式管道处理与模式匹配
  • 原生 SQL 集成,实时查询数据库进行数据富化

二、WarpParse 能做什么?

1. 日志解析与转换

  • 各类安全设备、安全系统的日志解析
  • 各类基础设施、中间件、应用的日志解析
  • 实时数据富化,利用 OML 的 SQL 集成能力完成知识信息增强

2. 数据灵活路由

  • 支持多种连接器:Kafka、MySQL、Elasticsearch、ClickHouse、Doris、VictoriaMetric、VictoriaLog 等
  • 支持数据复制和过滤,满足多路分发需求
  • 基于规则和转换模型的智能路由

3. 灵活的部署模式

  • 边缘部署:极低的资源占用,适合在边缘节点进行就近计算
  • 中心集群:强大的处理性能、无状态特性,支持中心节点集群式横向扩展

4. 成本优化

从资源占用和人力投入双维度降低企业成本:

  • 减少服务器资源消耗,降低硬件和云服务开支
  • 简洁的 DSL 减少运维和研发人员在日志处理上的时间投入

三、配套工具

WpEditor:专为 WPL 和 OML 设计的可视化编辑器,支持在线使用和本地下载,让规则编写更加高效直观。

  • 在线版本:https://editor.warpparse.ai
  • 下载地址:https://github.com/wp-labs/wp-editor/releases

四、开源与社区

WarpParse 以 Apache 2.0 协议完全开源,所有核心能力免费向个人和企业开放,无需授权即可商用。

我们期待与全球开发者共建高效、轻量的日志解析生态,欢迎前往 GitHub 下载体验、提交 Issue、贡献代码!

https://github.com/wp-labs

社区交流群

社区

评论区

写评论

还没有评论

1 共 0 条评论, 1 页