导读 目前，市场上有多种大型语言模型，包括Google、OpenAI、xAI、Anthropic 等。 Meta 就是这样的公司之一，它拥有 LlamaV2 7B 语言模型...
目前，市场上有多种大型语言模型，包括Google、OpenAI、xAI、Anthropic 等。 Meta 就是这样的公司之一，它拥有 LlamaV2 7B 语言模型。一家名为 Deep Keep 的公司对 LlamaV2 7B 语言模型进行了风险评估
Deep Keep是人工智能原生信任和风险安全管理(TRiSM)的领先提供商。这是一家致力于评估人工智能模型相关风险的公司。该公司的人工智能安全“保护机器学习管道，以促进公正、无错误、安全和值得信赖的人工智能解决方案。”
对于这些大型语言模型，准确性和安全性极其重要。许多企业都依赖这些大型语言模型来尽可能准确和安全。这就是为什么 Deep Keep 的评估显示出一些危险信号有点可怕。
提示注入是指用户通过操纵提示让 LLM 产生意想不到的响应。 DoS 攻击是指您让 LLM 一次性使用过量的令牌。