AI experts join Elon Musk, Stephen Hawking, call for killer-robot ban）11月9日消息，据CNBC报导，理解人工智能（AI）潜力的科学家对刺客机器人（也被称作自律武器）感到不安。今年8月份，还包括特斯拉电动汽车公司(Tesla)和美国太空探寻技术公司SpaceX首席执行官伊隆马斯克(Elon Musk)在内的100多名科技界领袖签订了一封公开信，敦促联合国禁令研发和用于人工智能武器。马斯克也数次在推特上特别强调，他担忧AI全球军备竞赛不会造成第三次世界大战。

图：2009年3月18日，在日本东京举办的Terminator Exhibition展出上，电影《终结者2》(terminator 2)中经常出现的机器人T-800全尺寸图像不久前，知名物理学家斯蒂芬霍金(Stephen Hawking)也收到警告，特别强调监管AI的重要性。他在里斯本举办的网络峰会上说道:除非我们学会如何为应付和防止潜在风险作好打算，否则AI有可能是人类文明历史上最差劲的事件。它带给了危险性，比如强劲的自律武器，或者是少数人反抗绝大多数人的新方法。11月2日，来自加拿大和澳大利亚的数百名AI专家重新加入了马斯克和霍金的行列，向各自的政府递交了公开信，呼吁他们反对联合国禁令自律武器的行动。

加拿大社区给加拿大总理贾斯汀特鲁多（Justin Trudeau）的信中写到:正如你所告诉的，AI研究（还包括研发需要继续执行智能任务机器的尝试）在过去十年里获得了难以置信的变革。传统AI归功于机器学习的很快发展，使AI社区的雄心新的重燃，它们期望生产出有需要在人类监督或介入下展开简单操作者的机器。这封信认为，AI技术的发展有可能在许多领域协助社会变革，还包括交通、教育、公共卫生、艺术、军事以及医学等。

但某种程度的技术被应用于武器上，有可能产生令人恐怖的后果。信中写到：AI具备革命性的意义。这些改变（无论是实际还是潜在情况下）拒绝我们的解读，以及更加多的道德注目。

正是出于这些原因，加拿大AI研究团体敦促你和你的政府让加拿大沦为世界上第20个赞成AI武器化的国家。可怕的自律武器系统，从要求目标的合法性和部署可怕武力的角度，都在避免有意义的人类掌控，这似乎违反了我们的道德底线。澳大利亚AI社区在给国家领导人的公开信中，也以类似于的语气和措辞传达了某种程度的忧虑。

信中称之为：正如许多AI和机器人公司(还包括澳大利亚公司)最近呼吁的那样，自律武器系统可能会沦为战争的第三次革命。如果它们发展一起，将不会造成武装冲突的规模以比以往任何时候都更大，而且在时间上比人类能解读得更慢。

可怕的后果是，机器（而不是人类）将要求目标的轮回。澳大利亚AI社区无法忽视AI被用作这种用途，我们只是想研究、建构和增进其有益的用途。

本文来源：kaiyun·开云，kaiyun·开云(官方)app下载安装ios/安卓通用版/手机版-www.hwalik.com