使用 GPT 的担忧之一是它可能会受到攻击而产生恶意内容，从而导致错误讯息的传播、舆 论操纵和诈欺。 在这个专案中，我们强调测试平台在满足基于人工智慧的模型的安全需求 方面的重要性。 该计画建议专门针对 GPT 攻击创建测试平台。 探索的一种重要攻击技术是 提示注入，其中精心设计的提示操纵 GPT 忽略指令或执行意外操作。 尽管正在发现有关攻 击技术的新研究，但针对即时注入攻击的防御仍处于早期阶段。 该计画的另一个建议是开 发评估框架来衡量即时注入攻击的影响、成功机率和加权弹性得分。 可交付成果包括攻击 资料集的建构、每次攻击的平均影响指标的测量、攻击成功机率的计算以及加权弹性分数 的确定。 此外，我们还将评估 3 种常见的 GPT 模型，包括不同国家开发的线上版本和在地 化版本。