千家信息网

华硕计划推出基于英伟达芯片的本地化 AI 服务,可“确保数据安全”

发表于:2024-11-22 作者:千家信息网编辑
千家信息网最后更新 2024年11月22日,CTOnews.com 5 月 30 日消息,据多个媒体报道,华硕推出了一项名为 AFS Appliance 的 AI 的服务,基于英伟达芯片,可允许企业用户在探索生成式 AI 潜力的同时掌控自己的数
千家信息网最后更新 2024年11月22日华硕计划推出基于英伟达芯片的本地化 AI 服务,可“确保数据安全”

CTOnews.com 5 月 30 日消息,据多个媒体报道,华硕推出了一项名为 AFS Appliance 的 AI 的服务,基于英伟达芯片,可允许企业用户在探索生成式 AI 潜力的同时掌控自己的数据。

华硕的这项新服务的特别之处在于:所有硬件都将安装在企业客户自己的设备中,从而确保数据安全和控制。这个 AI 计算平台的构建基于英伟达的芯片技术,将由华硕运营并提供数据更新。

众所周知,像 OpenAI 这类 AI 服务的一大顾虑是,它们是通过在线数据提供服务的,存在暴露敏感信息的可能。例如,之前三星电子发现员工将敏感代码上传到 OpenAI 的 ChatGPT 平台后便禁止员工使用该平台。

图源 Pexels

据介绍,华硕将在 AFS 硬件上预装自家大语言模型 Formosa。据称,这个模型相当于 ChatGPT 3.5,主要是以繁体中文进行培训。

华硕云端暨台智云总经理吴汉章在采访中表示,公司拟将这项服务的价格定在每月 6000 美元(CTOnews.com备注:当前约 42480 元人民币)左右。最高规格的方案将采用 DGX AI 超级电脑平台,每月费用则在 10000 美元(当前约 70800 元人民币)左右。

他预计,这项服务将率先在中国台湾地区争取 30 到 50 家企业客户,并在今年底拓展国际业务。

台智云此前于本月中旬发布大型语言模型 Formosa,并宣布推出全方位的企业级生成式 AI 解决方案,提供快速调动 AI 超级电脑算力、容易优化模型与弹性部署模型的方案(AI Foundry Service, AFS)系列服务。

吴汉章表示:"英伟达是我们的合作伙伴,将加快企业采用这项技术的速度,在 ChatGPT 之前,企业不知道为什么需要这么大的运算能力。由于对访问其专有数据的敏感性,大多数企业将在自己的场所部署生成式人工智能。而正因为这涉及最敏感的资料,他们需要一个智慧脑袋在自己的控制和管理之下。"

0