无人机自主攻击 霍金预言恐成真

0 Comments

霍金2017年11月表示,除非找到监管方法,否则AI的出现可能是“我们文明史上最糟糕的事件”。这已经不是霍金第一次对AI表示担忧,早在2014年,霍金就说原始AI技术很有用,身患渐冻症无法发声的他,用来交流的语音装置也包含了AI技术。但霍金担心先进的AI可能会匹敌或超越人类,“受生物进化缓慢的限制,人类无法(与AI)竞争,将被取代。”

霍金的预言彼时曾受到质疑,例如伦敦大学学院教授洛夫就反驳说,“如果我们要担心人类的未来,我们应该关注真正的挑战,例如气候变化和大规模杀伤性武器,而不是幻想中的杀手AI机器人。”

然而短短几年间,洛夫所谓的“幻想中的杀手机器人”成为现实。联合国安理会去年3月发布报告,指出一架由土耳其STM公司生产的Kargu-2自杀型无人机在完全自主模式下,于2020年3月在利比亚战场追捕并攻击了一名反对派士兵。Kargu-2具有人脸识别功能,据报是针对“反恐和非对称战争场景”而设计的。

2021年12月,联合国召开《特定常规武器条约》(CCW)审查会议,但美国和印度等国拒绝签订禁用杀手AI机器人的法定协议,联合国最终未能就限制致命全自动武器系统达成协议。


发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注