研究显示 ChatGPT 可为科学假说生成虚假数据集,对学术诚信造成威胁
发表于:2024-09-24 作者:千家信息网编辑
千家信息网最后更新 2024年09月24日,CTOnews.com 11 月 24 日消息,据《自然》杂志当地时间周三报道,本月初发表在《美国医学会眼科学杂志》上的一篇论文中,作者使用了聊天机器人 GPT-4 和高级数据分析工具 ADA 创建了
千家信息网最后更新 2024年09月24日研究显示 ChatGPT 可为科学假说生成虚假数据集,对学术诚信造成威胁图源 Pexels
CTOnews.com 11 月 24 日消息,据《自然》杂志当地时间周三报道,本月初发表在《美国医学会眼科学杂志》上的一篇论文中,作者使用了聊天机器人 GPT-4 和高级数据分析工具 ADA 创建了一个虚假的临床试验数据集,从而支持一个"未经证实"的科学主张。
CTOnews.com注:ADA 是一种结合了 Python 的模型,可用来执行统计分析、创建可视化数据。
报道称,论文作者要求 GPT-4 和 ADA 生成一个有关角膜炎患者的数据集,并让它支持"深层前部角膜移植(DALK)在视力和眼睛成像测试方面比穿透性角膜移植(PK)效果更好"的结论。
由 AI 生成的数据包括 160 名男性参与者和 140 名女性参与者的实验结果,并支持了上述结论,然而这个结果与真正临床试验显示的结果不符。
专家对该虚假数据集进行了详细检查,并发现其中存在明显捏造迹象。英国曼彻斯特大学生物统计学家杰克・威尔金森表示,"要创建至少表面上看似可信的数据集似乎很容易,在未经训练的人看来,这'肯定是'一个真实的数据集。"
参与这份研究报告的作者承认,这一数据集在经过"仔细观察"之后就可发现其中存在的缺陷,但如果读者快速查看这些数据集的话,就"很难识别出"数据中的非人类来源。
由 AI 编造的"可信数据"增加了研究人员和期刊编辑对学术研究诚信的担忧。《EMBO Reports》杂志主编 Bernd Pulverer 表示,"现实中的同行评审往往不会对数据进行全面的重新分析,因此不太可能发现利用人工智能精心设计的完整性漏洞。"他补充说,期刊需要更新质量检查,以识别 AI 生成的合成数据。
数据
生成
研究
作者
杂志
结果
角膜
分析
支持
虚假
参与者
可信
期刊
未经
结论
论文
临床
检查
移植
统计
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
行业软件开发常用的平台
服务器固态盘解压缩太慢
服务器运维管理服务器
浙江云蚁网络技术
互联网科技农牧行业
南昌网络安全技术培训课程
大学男生计算机网络技术
数据库表的关联含义
rose数据库
英国服务器地址
2018互联网科技博览会
如何旧电脑做服务器
洛阳公安局网络安全大队地址
ibond数据库
数据库主键是不是唯一的
网络安全工程师几年
如何做到网络安全英语作文
串口服务器与plc
南京智客会网络技术有限公司
风车即时聊天软件开发
数据库字段语法大全
安擎服务器风扇转速在哪里改
浙江云蚁网络技术
lol手游苹果区服务器爆满
blender软件开发时间
我的世界服务器炸鱼视频
外包到银行软件开发好不好
临沂尚帝网络技术服务
服务器数据同步在线
软件开发程序员渣男
相关文章
- 25 周年纪念作,情怀拉满但诚意欠缺:《勇者斗恶龙 怪物仙境 3》
- 联想拯救者 Y700 2023 平板推送 ZUI 15.0.723 系统灰度测试:新增“USB 网络共享”,优化底部小白条
- Streacom 推出 SG10 高端被动散热机箱:可解热 600W,1300 美元
- 3D 角色扮演策略游戏《少女前线 2:追放》公测开启,安卓、iOS、PC 多端互通
- 新能源车市:价格战开局,价值战结束
- 雪天这样拍,照片更为味道
- Cybertruck:未来物种重新定义汽车
- 2022 年我国未成年网民规模突破 1.93 亿,普及率达 97.2%
- 上映 7 天,《名侦探柯南:黑铁的鱼影》内地票房破亿、豆瓣 6.6 分
- 小岛工作室推出《死亡搁浅》联名手机手柄,预计明年发售