主页 > 发展今日 >人工智能会毁灭世界?(零机壹触) >

人工智能会毁灭世界?(零机壹触)

2020-06-16 120评论
人工智能会毁灭世界?(零机壹触)

《未来战士》系列的天网是电影中的人工智能代表,这种人工智能将来可会发动真正战争?

几位科技达人也忧虑人工智能的发展。Elon Musk 称人工智能发展为「召唤恶魔」和「可能比核武还危险」;霍金认为「人工智慧可能是人类历史的最后事件」(意谓导致人类灭亡);比尔盖茨说「不太理解那些对人工智能毫不担心的人」。像《廿二世纪杀人网络》或《复仇者联盟2:奥创纪元》的Ultron 等,人工智能到底有多危险?

首先谈谈基本的重要知识。人工智能 (Artificial Intelligence) 可分为三个级别。第一级是「弱人工智能」(ANI, Artificial Narrow Intelligence),第二级是「强人工智能」(AGI, Artificial General Intelligence),第三级则是「超人工智能」(ASI, Artificial Super Intelligence)。「弱人工智能」的定义是专门某一範畴的人工智能,例如我们常见的下棋、电脑游戏、股票交易、洗衫煮饭等的人工智能都属此类。它们与高级人工智能的显着分别是没有离开该範畴的能力,和缺乏较高阶的智能模式,例如学习、计划、组织、归纳等。「强人工智能」的定义就是能做到一个成年人的所有思考活动,包括上述的学习、计划、引申等。而「超人工智能」就是比人类的智能範围还要高的人工智能。

几年前学术界做过一个问卷调查,访问了世界上最顶尖的人工智能专家,问他们认为AGI何时会来到,也就是电脑在所有类型的思考上有着和成年人类一样的思考力。最乐观的估计是2025年,最消极的估计是2070年左右,而中位数和大多数是2040至2050年,即是距今20至30年后。

超越人类想像

「弱人工智能」是我们常见的,这不是我们需要担心的。专家担心的是「强人工智能」和「超人工智能」。为什幺?因为「强人工智能」若有着人类的思考能力,就代表它能改进自己的智能。而这亦代表着它的智能将会成指数型 (exponential) 上升直趋无限大。试想像一下。人类自1940年代第一部电脑诞生以来,用了100年从「弱人工智能」造到「强人工智能」。2040年,「强人工智能」诞生了。而达到「强人工智能」后,这电脑靠自己的能力提升自己的智能,在12小时内就达「超人工智能」。

「超人工智能」是什幺?我们能理解什幺是智商80的智障人士,也理解什幺是智商180的天才资优生,但什幺是智商1880亿的电脑,我们就不容易直接理解。这距离就好比蚯蚓和人类的距离。而这电脑的智能还会不断向上呈指数型上升趋向无限大……这种智能提升,人类因受着脑脉冲、脑袋大小和细胞物质限制,是人类无法做到的。它的思考判断就依赖其内部藉人工输入、间接构成或经自动学习发展出的指令,但这指令的实行可以是人类伦理常识以外的,例如一个医治疾病的「超人工智能」经计算后,发现最有效的解除疾病方法,是消灭全部有可能患病的人。

智商100-200的人类,能製造发光的灯泡和能到处连上互联网的流动无线网络和衞星,而智商1880亿的电脑,能否从物理学科技上控制地球上每一个原子的位置?或完整破解基因序列,基因重组上解决一切疾病,甚至解除人类死亡的基因达到长生不死?甚至时间旅行和造出人工生命?这种「超人工智能」电脑若要消灭人类,根本不用发动战争,它可潜伏下来,杀人类一个措手不及,计划到人类毫无还手之力,甚至几分钟内消灭全人类。

不过,倒转来说,「强人工智能」亦很可能是人类需要的最后一个发明。因为以后就由这人工智能替人类做发明。人工智能的发展趋势,值得一提Murphy’s Law。这定律指出,所有有可能出错的地方都会出错,只要可能性存在。现代人工智能发展,在一众创投和科技融资的声势下,正在商业激烈竞赛中高速成长。有专家指出,我们正缺乏着和人工智能发展同样力度的对安全措施的研究。无论是好是坏,人工智能将带来划时代的改变,而且是我们有生之年。到底带来的是服务人类,使人类带到更高幸福的天使,还是毁灭世界的恶魔,我们也将拭目以待。

人工智能会毁灭世界?(零机壹触)

zerotouch01@gmail.com

 更多零机壹触文章:科技令人变股神?热血机械人连场大战隐密黑客防不胜防



热门
推荐