5种最常用的数据摄入方法
在你编写任何转换之前,在你构建预测模型之前,或者在你运行Spark管道之前,你必须做的就是获取数据。
SpringBoot 消息重试机制:失败消息自动重试
在分布式系统中,网络抖动、服务超时、资源繁忙等问题时有发生。想象一下:用户下单后,订单消息发送失败,导致库存没有扣减...支付成功后,通知消息丢失,导致订单状态没有更新...这些问题如果处理不当,很容易造成数据不一致!
【Kafka 源码手记】01 从消息队列到 Event Streaming
写这个系列之前,我觉着有必要先搞清楚一件事:Kafka 出现之前,世界是什么样的。
Kafka 用了 15 年,其实一直不会"排队"
Kafka 用了 15 年,其实一直不会"排队"。不是段子。这个全球最流行的分布式消息系统,从设计第一天起就不支持队列语义——直到 2026 年 2 月,Apache Kafka 4.2 发布,一个叫共享组(Share Group)的特性正式 GA。
彻底搞定Kafka死信队列&消息堆积!生产故障排查+优化全套方案
前面我们讲完了 Spring Boot 接入Kafka 和 Kafka幂等性解决方案,解决了「消息重复」问题。但线上Kafka还有两个致命生产事故:1. 消息异常、脏数据无限重试,导致服务卡死、日志刷屏;2. 突然出现大量消息堆积,数据延迟、业务超时、队列雪崩。
Kafka 磁盘一直涨,明明配了 7 天过期,为什么三个月前的数据还在?
凌晨两点,监控报警:Kafka 磁盘使用率 92%。你揉着眼睛打开配置文件,白纸黑字写着 retention.ms=604800000,七天后自动过期。可你随手查了一下分区里最早的消息——三个月前。配置没写错,Kafka 也没出 bug。
运维必看!Kafka集群性能压测保姆级教程(建议收藏)
做运维的都懂,小型公司里没有专门的测试工程师,很多“额外活”都得自己做。其中,Kafka几乎是一个绕不开的消息中间件,它的性能直接决定了整个业务的稳定性,一旦出现吞吐不足、延迟过高,背锅的还是运维。
一张图掌握 Kafka 核心原理
面对海量数据与高并发场景,如何构建高吞吐、高可用、可扩展的实时数据系统?Kafka 核心原理速查指南,带你快速掌握分布式消息与事件流处理的关键技术!