Meta 推出 Purple Llama 检测套件,可评估 AI 模型安全水准
发表于:2024-11-11 作者:千家信息网编辑
千家信息网最后更新 2024年11月11日,CTOnews.com 12 月 8 日消息,据 Meta 官方新闻稿,Meta 昨日推出一款名为 Purple Llama 的 AI 检测套件,号称提供了一系列工具,可帮助开发者检测自家 AI 安全
千家信息网最后更新 2024年11月11日Meta 推出 Purple Llama 检测套件,可评估 AI 模型安全水准▲ 图源 Meta
CTOnews.com 12 月 8 日消息,据 Meta 官方新闻稿,Meta 昨日推出一款名为 Purple Llama 的 AI 检测套件,号称提供了一系列工具,可帮助开发者检测自家 AI 安全性,并"负责任地部署生成式 AI 模型与应用程序"。
CTOnews.com获悉,Purple Llama 套件目前提供"CyberSec Eval"评估工具、Llama Guard"输入输出安全分类器",Meta 声称,之后会有更多的工具加入这一套件。
Meta 介绍称,Purple Llama 套件旨在规范自家 Llama 语言模型,也能够作用于其它友商的 AI 模型,这一套件的名称由来,是基于安全领域的"紫队概念"。
Meta 声称,紫队是"攻击红队和防御蓝队"的结合,而 Purple Llama 套件的作用,就是在评估和缓解 AI 模型的潜在威胁,"兼顾攻击和防御策略"。
具体而言,Purple Llama 套件目前能够量化大模型在网络安全风险的指标,评估可能存在的代码漏洞,并为模型的安全性提供见解,此外还能检查并过滤模型的输入和输出内容,防止黑客"越狱"相关模型。
Meta 表示,未来该公司将持续检测 AI 模型的安全性,除了持续完善 Purple Llama 套件外,Meta 还将与微软、AMD、亚马逊、谷歌、英特尔、英伟达等公司合作,计划将 Purple Llama 评估套件整合进行业模型评估基准中。
模型
套件
安全
评估
检测
安全性
工具
作用
公司
攻击
输入
输出
防御
代码
名称
基准
就是
应用程序
开发者
指标
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
手机软件的服务器异常
联游网络安全黑板报
云计算数据库共享文件挂载
武汉电脑软件开发
吉林免费进销存软件开发
csgo的服务器有什么用
更大服务器
10万用户量用户数据库多大
网络安全概论课思维导图
湖南相关数据库
十八楼数据库刘耀文
软件开发所需的人工单价
查看当前所使用的数据库
xml 数据库 保存数据
网络安全维护去哪个城市
android软件开发测试
db2数据库导出几个文件
软件开发项目经理讲工作流程
安卓软件开发就业前景
绍兴软件开发如何收费
医疗设备硬件软件开发外包
戴尔服务器换盘
岳阳傲丁网络技术有限公司好吗
武汉数据库核心技术全国领先
工程师和软件开发区别
新增北京字跳网络技术
服务器用处理器
网络安全事件怎么办
通信网络技术包括什么网络
战舰世界手机查说数据库
相关文章
- 25 周年纪念作,情怀拉满但诚意欠缺:《勇者斗恶龙 怪物仙境 3》
- 联想拯救者 Y700 2023 平板推送 ZUI 15.0.723 系统灰度测试:新增“USB 网络共享”,优化底部小白条
- Streacom 推出 SG10 高端被动散热机箱:可解热 600W,1300 美元
- 3D 角色扮演策略游戏《少女前线 2:追放》公测开启,安卓、iOS、PC 多端互通
- 新能源车市:价格战开局,价值战结束
- 雪天这样拍,照片更为味道
- Cybertruck:未来物种重新定义汽车
- 2022 年我国未成年网民规模突破 1.93 亿,普及率达 97.2%
- 上映 7 天,《名侦探柯南:黑铁的鱼影》内地票房破亿、豆瓣 6.6 分
- 小岛工作室推出《死亡搁浅》联名手机手柄,预计明年发售