ProbeGate 是国产模型自治 agent 的 per-span 探针校验兜底门——把模型自报不确定度与机器可校验的 Autohand Code 探针配对,仅当双信号同时触发才路由人工。源自 Show HN「教会模型知道自己错在哪」命题,但拒绝信任黑盒自白。
calibration ai-safety abstention model-uncertainty coding-agent human-handoff agent-guardrails ai-radar llm-uncertainty abstention-gate probe-validation
-
Updated
Aug 3, 2026 - Python