跳到主要内容

GitHub 事件数据质量实测:GH Archive 与 OpenDigger 还可靠吗?

· 阅读需 19 分钟
wubx
Data AI

阿里云 MaxCompute 文档里有一个案例:用 GitHub 公共事件数据,给开源数据库做热度和活跃度排名。我想在 Databend Cloud 上用最新数据复现它。

这次我没有手写 SQL:AI Agent Evot 通过 Databend 官方的 databend-cloud skill 操作 Databend Cloud,我用自然语言提要求,建表、导入和检查的 SQL 都由 Evot 生成并执行。

动手前,我让 Evot 先导入一个小时试试:2026 年 10 月 24 日 0 点(UTC)。

GH Archive(按小时归档 GitHub 公共事件的公开数据集)的这个文件里,一条 Push 都没有。换成 OpenDigger 的同名文件,有 288,431 条 Push——但按记录里的 created_at,没有一条属于这个小时,全部是前一天的。

两份数据导入时都是零错误、零重复,问题出在数据本身。这一小时的样本里,有三个会直接影响排名的问题:

  1. GH Archive 会整类缺失事件:这一小时没有 Push、Create、Delete。
  2. 归档小时不等于事件时间:OpenDigger 文件中只有 33.47% 的事件属于该小时;GitHub 官方 API 的响应里,也能看到同样的类型错位。
  3. 关键字段已被 GitHub 官方裁剪:事件里已经没有 commit 数、PR 语言和代码增删。

一句话结论:近期的 GitHub 事件数据适合观察趋势、发现线索,不适合直接做精确统计和排名。

范围说明:结论来自两个来源各一个完整小时文件,加上少量邻近小时和 API 抽查,不是全站长期审计。第 3 点有 GitHub 官方公告;前两点是实测现象,根因尚未完全确定。

Databend 数据写入实测:从 3千行/秒 到 230万行/秒,4种方式该怎么选

· 阅读需 14 分钟
wubx
Data AI

Databend 云原生湖仓同时支持私有化和公有云两种部署形态,因此在写入方式上也共提供了4方式种选择。本文一方面通过性能测试认识不同形态的性能差异,另一方面也尝试理解这些设计背后的原因,进而体会如何结合业务场景选择最适合的写入方式。

Databend 北京 meetup 技术交流总结

· 阅读需 7 分钟
wubx
Data AI

在 AI 大火的背景下,数据库公司基本都在规划着如何与 AI 结合,也就有了这次活动。我想约一下同行朋友一起交流,看看 Data + AI 或是 AI + Data 这两个方向会碰撞出什么样的结果。本次活动邀请到:

  • BoHu (张雁飞) Databend Labs 联合创始人 《Databend 技术演进之路》
  • 白珅 《Databend 向量索引:加速 AI 应用的数据引擎》
  • 李仲舒 TiDB 社区架构师 《AI 时代,一栈式数据底座 TiDB 赋能企业数智化转型》
  • 赵燕 亚信 数据产品部 架构师 《数据平台向 AI Native 的演进》

使用 Databend Cloud 归档 OceanBase 数据数据库

· 阅读需 8 分钟
wubx
Data AI

数据归档: 随着生产数据库数据量增大,对于备份和性能都带来比较严重的影响,可以通过归档的方案,可以将主库中早期不使用的数据,如早期订单或日志移动到归档库中。减少生产数据库的数据大小,提升生产数据库的性能。 数据归档是生产数据中面临的一个重要工作,在本篇文章中使用 Databend Cloud 归档 OceanBase, 同理也适用于: MySQL, TiDB, PostgreSQL, Oracle, SQL Server 等。 使用工具: db-archiver 数据存储: 用户端的 bucket 中 计算资源: Databend Cloud 按需付费

基于 Databend 构建数据可信空间展望

· 阅读需 8 分钟
wubx
Data AI

随着大数据收集和存储技术的解决,公司和企业的数据量也在不断增加,但只有将更多数据组合起来,才能产生更大的价值。本篇文章结合 Databend 在某省级大数据交易所落地后的经验,探讨对数据交易的理解及可信数据空间做一些展望。。

玩转 Databend 中 UDF

· 阅读需 9 分钟
转载
优秀文章

作者: sundy

Databend 作为新一代云原生数据仓库,提供了六百多个内置函数,满足了大部分用户的需求。然而,随着业务的增长,需求也变的日新月异,内置的函数可能无法服务用户变化的需求。在这种场景下, Databend 提供了多种用户自定义函数(UDF)实现方式,满足不同场景下的数据处理需求。

Kubekey 环境中 Etcd 集群搭建及维护

· 阅读需 5 分钟
wubx
Data AI

etcd 是一个分布式、高可用的键值存储系统,专为配置管理、服务发现和分布式协调而设计。它由 CoreOS 团队开发,使用 Go 语言编写,并基于 Raft 一致性算法实现数据一致性和高可用性。etcd 是 Kubernetes 等云原生生态系统的核心组件,用于存储集群的元数据和配置信息。本篇文章用于记录 kubekey 环境 etcd 故障修复。

使用 OpenDAL 直接写对象存储

· 阅读需 2 分钟
wubx
Data AI

一般下载文件上传 S3 的实现流程为: 下载文件到本地盘,然后调用 s3 相关的 SDK 然后上传到 S3 中,这里的面的瓶颈很容易出现下载文件到本地盘时,出现本地盘成为瓶颈,这里使用给大家推荐 OpenDAL 可以直接写远程的 S3.

SeaTunnel MySQL-CDC Research

· 阅读需 12 分钟
wubx
Data AI

SeaTunnel 是一个非常易用、超高性能的分布式数据集成平台,支持实时海量数据同步。 每天可稳定高效地同步数百亿数据,已被近百家企业应用于生产,在国内较为普及。

Databend 是一款云原生存算分离的数据平台。

本文主要分析 SeaTunnel MySQL-CDC 及其 Sink 输出的数据格式,并探讨两者后续和 Databend 整合的可行性。