Meta 推出 Purple Llama 检测套件,可评估 AI 模型安全水准
发表于:2024-11-21 作者:千家信息网编辑
千家信息网最后更新 2024年11月21日,CTOnews.com 12 月 8 日消息,据 Meta 官方新闻稿,Meta 昨日推出一款名为 Purple Llama 的 AI 检测套件,号称提供了一系列工具,可帮助开发者检测自家 AI 安全
千家信息网最后更新 2024年11月21日Meta 推出 Purple Llama 检测套件,可评估 AI 模型安全水准▲ 图源 Meta
CTOnews.com 12 月 8 日消息,据 Meta 官方新闻稿,Meta 昨日推出一款名为 Purple Llama 的 AI 检测套件,号称提供了一系列工具,可帮助开发者检测自家 AI 安全性,并"负责任地部署生成式 AI 模型与应用程序"。
CTOnews.com获悉,Purple Llama 套件目前提供"CyberSec Eval"评估工具、Llama Guard"输入输出安全分类器",Meta 声称,之后会有更多的工具加入这一套件。
Meta 介绍称,Purple Llama 套件旨在规范自家 Llama 语言模型,也能够作用于其它友商的 AI 模型,这一套件的名称由来,是基于安全领域的"紫队概念"。
Meta 声称,紫队是"攻击红队和防御蓝队"的结合,而 Purple Llama 套件的作用,就是在评估和缓解 AI 模型的潜在威胁,"兼顾攻击和防御策略"。
具体而言,Purple Llama 套件目前能够量化大模型在网络安全风险的指标,评估可能存在的代码漏洞,并为模型的安全性提供见解,此外还能检查并过滤模型的输入和输出内容,防止黑客"越狱"相关模型。
Meta 表示,未来该公司将持续检测 AI 模型的安全性,除了持续完善 Purple Llama 套件外,Meta 还将与微软、AMD、亚马逊、谷歌、英特尔、英伟达等公司合作,计划将 Purple Llama 评估套件整合进行业模型评估基准中。
模型
套件
安全
评估
检测
安全性
工具
作用
公司
攻击
输入
输出
防御
代码
名称
基准
就是
应用程序
开发者
指标
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
华为交换机时间服务器
mc战争世界服务器
网络安全防火墙实训心得
新乡网络软件开发
软件开发高级工程师资格证
如何设计一个优秀的数据库
2ksports服务器
遵化创新软件开发
磐云环境服务器
服务器的域安全策略在哪
服务器已宕机
梨子网络技术
海康模拟转数字服务器密码
h3c杯网络技术大赛
2020软件开发趋势
cbfs 数据库
软件开发需要计算机过几级
网络安全专业学生的每日安排
吴云坤新时代网络安全
南京软件开发培训机构排名榜
廊坊赛思网络技术如何
工业数据库
软件开发离岸
高新区中高端服务器厂家直销价格
软件开发市场容量或变化趋势
如何进入数据库运行
完美的服务器怎么这么卡
延辰网络技术有限公司
杭州乐喔网络技术
守护网络安全手抄报一年级
相关文章
- 25 周年纪念作,情怀拉满但诚意欠缺:《勇者斗恶龙 怪物仙境 3》
- 联想拯救者 Y700 2023 平板推送 ZUI 15.0.723 系统灰度测试:新增“USB 网络共享”,优化底部小白条
- Streacom 推出 SG10 高端被动散热机箱:可解热 600W,1300 美元
- 3D 角色扮演策略游戏《少女前线 2:追放》公测开启,安卓、iOS、PC 多端互通
- 新能源车市:价格战开局,价值战结束
- 雪天这样拍,照片更为味道
- Cybertruck:未来物种重新定义汽车
- 2022 年我国未成年网民规模突破 1.93 亿,普及率达 97.2%
- 上映 7 天,《名侦探柯南:黑铁的鱼影》内地票房破亿、豆瓣 6.6 分
- 小岛工作室推出《死亡搁浅》联名手机手柄,预计明年发售