污水泵厂家
免费服务热线

Free service

hotline

010-00000000
污水泵厂家
热门搜索:
行业资讯
当前位置:首页 > 行业资讯

比机器人还危险禁止人工智能武器迫在眉睫

发布时间:2020-02-14 06:47:29 阅读: 来源:污水泵厂家

智能武器的危险之处在于,软件工程师可以很轻松地给它重新编程,使其成为滥杀无辜的机器。

最近一段时间,很多知名人士都对人工智能武器表示了抵制,但他们给出的原因却比较偏颇,认为机器人有朝一日将会控制人类。这种说法其实并不合理,至少在短期内不合理。但是,人工智能武器所蕴含的危险,也确实不是那种常规的、由人类操控的武器可以比拟的。因此要求禁止人工智能武器的呼吁,也理应获得大家的声援。

迫在眉睫的危险

从谷歌无人驾驶汽车的身上,我们可以一瞥人工智能的未来。现在你试想一下:一个凶恶的黑社会团伙偷走了一辆这样的车,在其顶端加装了一门火炮,然后给车辆重新编程,把炮口对准公众。如此一来,它就成为了一件人工智能武器。

各国政府的眼睛是雪亮的,当然不会看不到这种武器的潜力。美国海军今年宣布计划开发无人机武器,而韩国的Super aEgis II自动炮塔,俄罗斯的Platform-M 战斗机器也双双亮相。

但人工智能武器不会是政府的独家秘制。现在人人都可以买得到搭载GoPro 相机的四轴无人飞行器。现在想象一下,有人开发了一个简单的软件,可以让它自动飞行。而那个邪恶的黑社会组织,就是可以把无人驾驶汽车改装成武器的犯罪团伙,当然也可以把枪支搭载在无人机上面,给它重新编程,然后让它飞到拥挤的公共场所去杀人。

这就是人工智能武器近在眼前的危险,:它们很容易被人利用,改装成滥杀无辜的机器,其危害性远远超过了同样的、但需要有人操作的武器。

机器本身并不可怕

斯蒂芬·霍金、宇宙学家马克斯·特格马克以及伊隆·马斯克和其他很多人都签署了“未来生活”(Future of Life)请愿书,要求禁止制造使用人工智能武器。今年1月,马斯克捐款 1000万美元给发起该请愿的机构。4月份,联合国召开了“杀手机器人”会议,不过没有产生任何具有持久性的政策决定。“未来生活”请愿信指出,人工智能武器的危险非常具体,不出几年就有可能导致灾难,需要马上采取行动来加以避免。可惜的是,它并没有明确指出,有哪些人工智能武器已经出现在了地平线上。

很多人担心会出现“终结者”那样的世界末日场景:机器人具有了像人类一样的能力,能够完全依靠自己与世界交互,而且这些机器人试图征服世界。

物理学家、皇家天文学家马丁·里斯爵士就警告说,灾难性的场景,比如“愚蠢的机器人不按指令行事,或一个网络自己有了主见。”他在剑桥的同事、哲学家休·普莱斯也表达了类似的担忧,觉得当智能“不受生物学限制”时,人类可能无法生存。在两人的推动下,剑桥大学组建了生存风险中心(Centre for the Study of Existential Risk),以图避免人类的生存遭受如此巨大的威胁。

这些问题当然很值得研究。但是,它们远不如人工智能武器问题那么迫在眉睫。

我们很快就能开发出类似于人类的人工智能了吗?几乎所有的标准答案都是:不是很快。很多媒体都说,雷丁大学的聊天机器人尤金·古斯特曼(Eugene Goostman)是真正的人工智能,因为它真的让一些人以为它是一个13岁的男孩。但是,聊天机器人和真正的“像人类一样的智能?”还差多远呢?计算机科学家斯科特·阿伦森(Scott Aaronson)的第一个问题就把尤金难住了:“是鞋盒大呢,还是珠穆朗玛峰大?”

尽管这样,还是有很多人都在“未来生活”请愿信上签了名,明确表示要抵制人工智能武器。原因在于:与拥有自我意识的计算机网络不同,在无人驾驶汽车上架机枪现在就可能出现。

人工智能武器的问题,不在于它们将会控制世界,而在于它们非常容易被重新编程,因此任何人都能够以低得惊人的预算,制作出一台滥杀无辜的高效机器。可怕的不是机器本身,而是黑客可以用比较适中的价格,用它们来做什么样的事情。

容易被改造和利用

不妨想象一下:一个正在崛起的的暴君,决心辣手摧毁反对派,他拥有一个数据库,知道每个人对他的忠诚度高低,以及地址和照片。在以前,暴君需要一支军队来完成这个任务,而还需要贿赂士兵,或者给他们洗脑,才能让他们枪杀无辜者。

而以后,暴君只需要花上几千美元,购买一些搭载自动枪械的无人机,就可以如愿以偿了。依照摩尔定律(自从晶体管的发明以来,1美元成本的计算能力是呈指数级增长的),人工智能无人机的价格某一天会降到和一支AK-47差不多。给四个软件工程师洗洗脑,其中就有三个有能力给无人机重新编程,让它们前去附近异见者的住处和工作场所,当场射杀他们。无人机犯错误的可能性更小一些,而且也不需要贿赂或者洗脑,最重要的,它们的工作效率比人类士兵高得多。在国际社会还没有来得及做出任何反应之前,野心勃勃的暴君就已经血洗了反对派阵营。

自动化大幅提高了效率,因此对于任何想要犯下这种暴行的疯子来说,人工智能武器的门槛也降低了。当年的独裁者需要动用一整支军队才能做到的事情,现在只要有点钱的人就能办到了。

有兴趣研发这种武器的制造商和政府可能会声称,他们可以提供出色的保障措施,以确保这些机器不能被重新编程,不会遭到黑客攻击。对于这种说法,我们最好是保持怀疑态度。电子投票机、自动取款机、蓝光光盘播放机,甚至飞驰在高速公路上的汽车,尽管都曾标榜自己有很高的安全性,最近却都已被黑客攻破。历史事实已经证明,在计算设备和试图改变其利用方式的黑客之间,赢家往往是黑客。人工智能武器不可能会是例外。

禁用人工智能武器

1925年签订的国际条约禁止在战争中使用化学武器和生物武器。而中空弹(Hollow Point Bullet)早在1899年就被禁用,因为这些武器会导致极大的、不必要的痛苦。它们特别容易导致平民伤亡。比如公众可能会吸入毒气,医生在尝试取出中空弹时可能会受伤。这些武器很容易给无辜者造成痛苦和死亡,所以它们遭到了禁用。

是否有某种类型的人工智能机器同样也应该被禁用呢?答案是肯定的。如果一种人工智能机器可以很便宜、很容易地改造成高效的无差别大杀器,那么我们就应该制定禁止它的国际公约。这样的机器与放射性金属在本质上没有什么不同。它们都可以和平利用,造福人类。但是我们必须小心翼翼地对它们加以管控,因为它们很容易被改造成毁灭性武器。不同的是,对人工智能机器进行改造,将其用于破坏性目的,远比把核电站的反应堆改成核武容易得多。

我们应该禁止人工智能武器,这不是因为它们全都具有不道德的属性,而是因为人们可以利用在网上找到的资料,把人工智能武器改装成“狰狞的嗜血怪物”。只需一段简单的代码,就可以把很多人工智能武器转变成不亚于化学武器、生物武器和空心弹的杀人机器。

广州注册公司章程

注册公司企业

注册公司资金要求

注册公司代理注册