AI 护栏

通俗解释

护栏包括内容过滤、敏感信息检测、权限控制、工具白名单、输出格式校验和人工审核。护栏不是百分百安全,但能降低明显风险。高风险场景要默认拒绝,而不是依赖模型自觉。