3作者: cosm0030 天前原帖
我开发了 qlog,因为我厌倦了等待 grep 在数十亿条日志中搜索。 qlog 使用倒排索引(类似于搜索引擎)在毫秒级别内搜索数百万条日志行。它的速度比 grep 快 10 到 100 倍,而且比设置 Elasticsearch 简单得多。 功能: - 闪电般的索引速度(使用 mmap 每秒处理超过 100 万行) - 在索引数据上进行亚毫秒级搜索 - 具有上下文行的美观终端输出 - 自动检测 JSON、syslog、nginx、apache 格式 - 零配置 - 离线工作 - 纯 Python 示例: ``` qlog index './logs/*/*.log' qlog search "error" --context 3 ``` 我在 10GB 的日志上进行了测试,它的速度始终比 grep 快 3750 倍。索引存储在本地,因此重复搜索是瞬时的。 演示:运行 `bash examples/demo.sh` 来查看实际效果。 GitHub: [https://github.com/Cosm00/qlog](https://github.com/Cosm00/qlog) 非常适合每天搜索日志的开发人员和 DevOps 人员。 欢迎提问!