企业级安全与 AI 可信架构(防泄露 · 零侵入 · 抗幻觉)
对企业用户而言,引入 AI 管理生产数据库最核心的三个顾虑是:① 生产数据和表结构会不会泄露给大模型?② AI 会不会越权改库或绕过审批?③ 大模型产生幻觉乱报或胡写 SQL 怎么办?
Yearning v4 从底层架构而不是提示词口号上回答了这三个问题,并配套完整的纵深防御体系。
一、结合 AI 后,如何保证生产数据与表结构零泄露?
Yearning v4 的 AI 预审、数据库 AI 助手与 SQL 性能诊断三条 AI 链路均受 双轨隐私隔离(default 云端脱敏轨道 vs. san 内网原生轨道) 严格治理:
1. 公有云模型(default 轨道):六重防泄露机制
2. 内网完全私有化模型(san 轨道)与跨轨道防回退
- 企业可在内网 GPU 服务器(RFC1918 私网段,受
addrguardDNS 重绑定与 SSRF 防护)通过 vLLM / Ollama 部署本地SAN-2B/SAN-4B/SQL-Audit-Nano模型,实现 0 字节出内网。 default与san绑定各自独立的隐私契约哈希(PrivacyContractHashDefaultvs.PrivacyContractHashSAN)。即使配置了「内网主模型 + 公有云备用模型」的混合链,系统也会在发往每个端点前从原始数据独立构造载荷:为内网san准备的未脱敏载荷绝不会在故障转移时回退发送给公有云 Provider。
二、如何保证 AI 零侵入性(不改库、不越权、不破坏治理)?
Yearning v4 坚持 「AI 只负责风险分析、草稿辅助与证据综合;结构化契约掌控全部审批、执行与审计」 的不可违背边界:
此外,平台实行 提交即冻结 与 管理面不越权业务面(admin_is_not_business_override = true):工单一旦提交,含内置超级管理员 admin 在内的任何人都不能修改审批链、转交、加签或代执行。
三、如何防止 AI 幻觉(抗乱报、抗误拦、抗胡写 SQL)?
企业用 AI 审核最怕两种幻觉:「假阳性误拦正常发版」 与 「假阴性漏放高危 SQL 或瞎写错语法」。Yearning v4 通过五重工程护栏系统性消除幻觉影响:
- 三类发现分权治理(防假阳性误杀 + 防假阴性放行):
policy_finding(强制规则命中):48 条内置规则、绑定技能或作用域命中的 DBA 内部经验实际违规,一律确定性归为Critical并阻断提交(2008),不依赖模型主观情绪打分。proven_invalid_execution(运行时证明无效):由可信 Go 运行时结合完整表结构与语句顺序证明必定执行失败(如删除不存在的表),确定性Critical阻断。agent_observation(模型自由观察):大模型的开放建议强制封顶Medium,仅供审批人参考,永远不会因模型幻觉独自阻断合法上线。
- 元数据缺失强制
partial(Fail-Closed):当目标库表结构缺失、截断或有效性为unknown时,状态锁定为partial阻断提交并给出原因,绝不允许模型在「看不见表」的情况下臆断放行。 - 执行计划事实核验(
ValidateNoHallucinatedPlanFacts):服务端校验 AI 输出引用的表名、索引名与执行计划事实确实来自本次只读工具的真实返回,拦截凭空捏造的索引或行数结论。 - 强 Schema 输出校验 + 方言 AST 二次验真:
- AI 预审响应必须符合严格 JSON Schema,格式违规直接拦截(
2009 REVIEW_SCHEMA_INVALID)。 - 数据库 AI 助手生成的每一条 SQL 在展示前必须通过 TiDB SQL Parser /
pg_query_go方言 AST 解析、授权对象边界检查与类型化占位符核对;出现未知占位符、越权表列或语法错误直接拒绝生成草稿(6004)。 INSERT/UPDATE缺NOT NULL必填列时强制向用户追问澄清,严禁编造业务值;SQL 优化严禁虚构未实测的性能倍率,改变语义时必须显式给出语义差异警示。
- AI 预审响应必须符合严格 JSON Schema,格式违规直接拦截(
- 自定义技能发布前 Eval 门禁:管理员新建或修改自定义 Prompt 技能从
draft启用时,系统执行内联 Eval 校验,防止含糊提示词污染线上预审。