物联网 · 盛世宏博 · 边缘采集

分布式温湿度采集里,网络抖动、平台升级、专线割接、远程站点链路不稳是常态。真出问题往往不是“当时没数据”,而是:
所以断点续传的设计目标只有一句话:边缘侧离线期间,数据一条不丢、时间不乱、补传不冲击平台、不干扰实时链路。
故障类型 | 表现 | 风险 | 兜底策略 |
|---|---|---|---|
平台不可达 | TCP 连不上/拒绝 | 数据无处上送 | 本地缓存 + 指数退避重连 |
网络抖动 | 时通时断、RTT 抖动 | 半包、乱序、重复 | 单连接串行 + 序号去重 |
平台重启/升级 | 端口通但业务未就绪 | 连接成功却写入失败 | 健康检查探针 + 写确认 |
网关进程崩溃 | 整机采集停摆 | 缓存与采集双失 | systemd 看门狗 + 落盘前 WAL |
传感器离线 | 单台无响应 | 点位空洞 | 质量戳 COMM_LOST,不写缓存假值 |
断电重启 | 全站重启 | 缓存易失、时间回跳 | 持久化 + RTC + 启动补传 |
关键区分:平台断 ≠ 传感器断。传感器离线要标质量戳,不能拿“最后值”填坑;平台断才走缓存补传。
传感器(RJ45/Modbus TCP)
│ 轮询采集(并发池 + 超时 + 质量戳)
▼
┌──────────────────────────────────────────────┐
│ 边缘网关 │
│ ① 采集层 → 原始帧 + dev_ts + gw_ts + seq │
│ ② WAL → 追加写日志(先落盘再入队) │
│ ③ 环形缓存 → SQLite / 文件分片(带水位线) │
│ ④ 上传层 → 实时通道 + 补传通道(双队列) │
│ ⑤ 状态机 → ONLINE / SUSPECT / OFFLINE / │
│ RECOVERING / BACKFILLING │
└──────────────────────────────────────────────┘
│ MQTT(实时,QoS1) + HTTPS(补传,批量)
▼
平台:去重(seq+dev_ts) → 时间校准 → 分流入库
├─ 实时流 → 告警引擎(只吃实时)
└─ 补传流 → 历史库(打 backfill 标记)核心设计:实时与补传走两条独立队列、两个主题。补传数据永不进实时告警引擎,这是防止“历史告警刷屏”的根本手段。
{
"seq": 1048721,
"dev_id": "IDC-A03-R05-TH01",
"ip": "192.168.90.11",
"point": {"temp": 22.35, "humi": 51.20, "dew": 12.10},
"raw": {"temp": 2235, "humi": 5120},
"quality": "GOOD",
"dev_ts": 1760620805123,
"gw_ts": 1760620805180,
"plat_ts": null,
"firmware": "2.3.1",
"crc": "a9f3c2"
}字段设计要点:
seq:网关侧单调递增序号,补传去重的唯一依据 dev_ts:设备采样时间(设备有 RTC 就用设备时间,没有则用网关接收时间) gw_ts:网关入库时间,用于计算链路延迟 raw + point:原始寄存器值与换算值双存,便于回溯缩放错误 quality:GOOD / SUSPECT / COMM_LOST / OUT_OF_RANGE / STALE crc:整条记录校验,防存储介质位翻转 时间以设备采样时间为准,平台入库时间只做辅助。断网重连后若用网关时间覆盖,曲线会出现“时间坍塌”。
方案 | 优点 | 缺点 | 适用 |
|---|---|---|---|
SQLite(WAL 模式) | 事务安全、可索引查询、单文件易备份 | 高频写需调优 | 推荐主力 |
文件分片(每 N 分钟一个 .jsonl) | 简单、抗损坏、按文件补传 | 查询弱 | 大批量站点 |
环形内存 + 周期快照 | 快 | 断电丢数据 | 仅做二级缓冲 |
建议:SQLite 为主 + 文件分片为灾备,双写代价可控。
PRAGMA journal_mode=WAL;
PRAGMA synchronous=NORMAL;
PRAGMA busy_timeout=5000;
PRAGMA wal_autocheckpoint=2000;
CREATE TABLE IF NOT EXISTS env_data (
seq INTEGER PRIMARY KEY,
dev_id TEXT NOT NULL,
temp REAL,
humi REAL,
dew REAL,
raw_t INTEGER,
raw_h INTEGER,
quality TEXT NOT NULL,
dev_ts INTEGER NOT NULL,
gw_ts INTEGER NOT NULL,
uploaded INTEGER NOT NULL DEFAULT 0,
crc TEXT
);
CREATE INDEX idx_upload ON env_data(uploaded, dev_ts);
CREATE INDEX idx_dev_ts ON env_data(dev_id, dev_ts);关键点:uploaded 字段 + 索引,让补传查询走覆盖索引,不扫全表。
单条记录 ≈ 320 字节
32 点 × 1次/分钟 × 1440 分钟 ≈ 4.6 万条/天 ≈ 15MB/天
缓存 7 天 ≈ 105MB,设上限 2GB 可存约 4 个月
水位线:
70% → 正常
85% → 告警“缓存积压”,提示检查链路
95% → 淘汰最老已上传记录(DELETE uploaded=1 ORDER BY dev_ts LIMIT N)
100% → 停写非关键点位(慢变量),保证快变量与告警不丢淘汰只删已上传的,未上传记录永不自动丢弃——宁可停采集也不删未传数据。
def on_sample(rec):
db_insert(rec) # 1. 同步落盘(事务提交)
upload_queue.put(rec) # 2. 再进内存队列顺序反了会怎样:进程在“已入队未落盘”时崩溃,这条数据既没上传也没存,永久丢失。
采集正常
┌──────────► ONLINE ──────────┐
│ │ 上传连续失败 3 次
│ ▼ │
│ SUSPECT ────────► OFFLINE(平台不可达)
│ │ │ 探活成功
│ │ ▼
│ │ RECOVERING(校验时间/配置)
│ │ │ 校验通过
│ │ ▼
│ │ BACKFILLING(补传队列优先)
│ │ │ 追平水位
└──────────────┴─────────────────┘状态含义:
import random, time
class Backoff:
def __init__(self, base=2.0, cap=120.0):
self.base, self.cap = base, cap
self.attempt = 0
def next(self):
self.attempt += 1
delay = min(self.cap, self.base ** self.attempt)
return delay * (0.8 + 0.4 * random.random()) # ±20% 抖动
def reset(self):
self.attempt = 0要点:
BATCH = 500 # 每批条数
RATE = 20 # 每批间隔 ms,避免打满上行带宽
def backfill(db, uploader, last_seq):
while True:
rows = db.query(
"SELECT * FROM env_data WHERE uploaded=0 AND seq>? "
"ORDER BY seq LIMIT ?", (last_seq, BATCH))
if not rows:
return True
ok_seq = uploader.upload_batch(rows) # 返回成功的最大 seq
if ok_seq is None:
return False # 失败,退避后重试
db.exec("UPDATE env_data SET uploaded=1, plat_ts=? WHERE seq<=?",
(time.time() * 1000, ok_seq))
last_seq = ok_seq
time.sleep(RATE / 1000)三个必须:
(dev_id, seq) 为唯一键,重复包直接丢弃不报错 补传限速:按站点上行带宽算,控制在 30% 以内,别把实时通道一起挤死。
网关做对了,平台不配合照样乱。平台需要:
-- 历史表加唯一约束,天然幂等
ALTER TABLE env_history ADD CONSTRAINT uk_dev_seq UNIQUE (dev_id, seq);
-- 入库分流
IF backfill = true THEN
INSERT INTO env_history (...) ; -- 只进历史库
ELSE
INSERT INTO env_realtime (...) ; -- 进实时表 + 触发告警引擎
INSERT INTO env_history (...) ;
END IF;平台侧还要做:
seq 不连续即告警“网关丢数”,比在线率更真实 dev_ts 小于该设备最后入库时间则丢弃或隔离 plat_ts - dev_ts 作为链路健康指标,P99 超阈值预警 断电重启会同时打死三样:内存队列、未刷盘 WAL、系统时钟。
对策:
synchronous=NORMAL + WAL:崩溃最多丢最后若干条,且库不损坏 Restart=always + WatchdogSec=30s [Service]
ExecStart=/usr/bin/python3 /opt/gw/main.py
Restart=always
RestartSec=5
WatchdogSec=30s指标 | 含义 | 阈值建议 |
|---|---|---|
cache_usage_ratio | 缓存水位 | >85% 告警 |
cache_pending_rows | 未上传条数 | >50 万告警 |
backfill_lag_seconds | 补传落后时长 | >10min 告警 |
upload_success_rate | 上传成功率 | <99% 告警 |
seq_gap_count | 序号断号数 | >0 即告警 |
clock_drift_ms | 网关与 NTP 偏差 | >500ms 告警 |
db_write_p99_ms | 落盘延迟 | >50ms 预警 |
这些指标走同一条 MQTT 通道上报(独立 topic),平台看不到指标就等于盲开。
用例 | 操作 | 期望 |
|---|---|---|
平台进程停 10min | systemctl stop platform | 缓存完整、恢复后自动补传、无重复 |
拔网线 30min | 断开上联 | 采集不停、缓存不丢、退避不打满日志 |
网关 kill -9 | 强制杀进程 | WAL 未损坏、重启后 seq 连续 |
断电拔插 | 直接断电 | 库可打开、时钟校验后才写入 |
平台返回 500 | mock 持续报错 | 退避生效、不死循环 |
补传中途再断 | 补到一半断网 | 断点续传,不从头重发 |
补传数据入库 | 检查告警引擎 | 不触发任何新告警 |
重复投递 | 同一批发两次 | 平台幂等丢弃,条数不翻倍 |
时间回跳 | 手动改系统时间 | 采集拒绝写入并告警 |
dev_ts 单调递增,无时间倒流 backfill 标记,不触发告警 (dev_id, seq) 平台侧无重复 分布式温湿度采集的断点续传与本地缓存,落成四句话:
数据模型上:一条记录带齐 seq + dev_ts + gw_ts + quality + raw,序号是去重的命根,采样时间是曲线的命根。
缓存设计上:先落盘再入队,SQLite WAL 为主、文件分片为灾备,水位线明确,只淘汰已上传。
传输策略上:实时与补传双通道隔离,指数退避加抖动,分块限速,服务端按 seq 幂等。
平台配合上:唯一约束兜底,补传标记分流,断号检测代替在线率,链路延迟做健康指标。
最后记住那条底线:
断网时数据可以晚到,但不能不到、不能错序、不能冒充实时。
缓存不是“存起来再说”,是让平台在恢复之后,还能诚实还原现场那几个小时到底发生了什么。
关键词:分布式采集、Modbus TCP、断点续传、本地缓存、SQLite WAL、序号幂等、双通道分流、指数退避、水位线淘汰、时钟同步
标签:#ModbusTCP #断点续传 #本地缓存 #边缘网关 #SQLiteWAL #幂等去重 #补传限速 #状态机 #动环采集 #断网自治
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。