政府副总理陈留光接见华为集团副总裁 党十三届九中全会公报(第一号) 为九龙江平原制定迫切措施 越南胡志明市与澳大利亚伙伴加强对接 越南是21世纪成功经济体 绿色经济和数字经济是越中关系的突破 成功拍卖8100两黄金 来自信贷渠道的资金潜伏风险 希望世卫协助提高医疗能力 加快国会第98号《决议》落实进度 西宁省以高新技术农业发展经济 南部东区致力引进优质投资资金 为企业提供更多参加碳市场商机 促进越南电子市场蓬勃发展 使用来源不详产品损财伤身 美国考虑公认越南为市场经济国家 欢迎美国公认越南市场经济

部分 AI 系统已擅长“说谎”

据新华社报导,人工智能(AI)系统是否会欺骗人类,一直是各方都关心的问题。

(示意图:互联网)
(示意图:互联网)

近期美国麻省理工学院一个研究团队称,部分AI系统已经学会如何欺骗人类,其中包括部分号称已被训练成乐于助人和诚实的系统。该研究成果发表在美国细胞出版社旗下的《模式》杂志上。文章第一作者、美国麻省理工学院AI安全领域博士后彼得‧派克和他的同事们分析了一些文献,重点关注了AI系统传播虚假资讯的方式通过习得性欺骗,它们系统地学会了“操纵”他人。

  研究人员发现的最引人注目的AI系统欺骗例子是元宇宙平台公司的“西塞罗”AI系统,它被设计在一个虚拟外交战略游戏中作为人类玩家的对手。尽管元宇宙平台公司声称,“西塞罗”AI系统“在很大程度上是诚实和乐于助人的”,并且在玩游戏时“从不故意背刺”它的人类盟友,但该公司发表的论文资料显示,该系统并没有公平地玩游戏。研究人员表示,虽然AI系统在游戏中作弊似乎是无害的,但它可能会导致“欺骗性AI能力的突破”,并在未来演变成更高级的AI欺骗形式◆

相关阅读