越狱

通俗解释

越狱与提示词注入的区别是:越狱针对模型自身的安全策略,注入针对应用的控制流。常见手法包括虚构场景、要求“只输出研究用途”、分段拼接和编码混淆。防御需要模型层安全训练、输入输出过滤、多轮上下文监控和高风险领域的人审。安全评估应使用持续更新的攻击集,而不是一次性测试;模型更新后必须回归。