找回密码
 1分钟注册发帖

QQ登录

只需一步,快速开始

[世界各地] 霍金等科学家呼吁注意人工智能(AI)的安全性及其社会后果

[复制链接]
湘草咖啡 发表于 2015-1-15 03:09:44 | 显示全部楼层 |阅读模式
据英国《金融时报》12日报道,近日,包括霍金及企业家埃伦•马斯克(Elon Musk)等在内的数位科学家、企业家及与人工智能领域有关的投资者联名发出了一封公开信,警告人们必须更多地注意人工智能(AI)的安全性及其社会效益。
! Z/ E8 H" x, u4 e# H0 |' s
3 L6 _8 B8 \( A( b: I* t这封发自生命未来研究所(Future of Life Institute,简称FLI)的公开信还附带了一篇论文,其中建议应优先研究“强大而有益”的人工智能。目前,人们日益担心机器的智力和能力可能会超过创造它们的人类,从而影响到人类的就业,甚至影响到人类的长期生存。5 F4 v( i8 ?" S! n3 o$ v

) W5 P* G5 F6 V+ z+ _7 _这封公开信表示:“由于人工智能的巨大潜力,开展如何在规避其潜在陷阱的同时获取其好处的研究十分重要。我们的人工智能系统,必须按照我们的意愿工作。”
9 _% _5 d6 [& M( m5 o" q- y
1 k6 |; `# l7 O! G据悉,FLI于2014年由包括Skype联合创始人让•塔林(Jaan Tallinn)在内的志愿者创立。成立该研究所的目的一方面是为了促进对“未来乐观图景”的研究,一方面则是为了“降低人类面临的现存风险”。其中,在开发与人类相当的人工智能技术过程中出现的那些风险,将是该所关注的重点。
/ o) e; t6 L  J& H0 w
! r3 V4 r, n& i& B: hSpaceX和特斯拉(Tesla)的共同创始人马斯克、著名演员摩根•弗里曼(Morgan Freeman)以及宇宙学家史蒂芬•霍金都是FLI科学顾问委员会的委员。马斯克表示,他相信不受控制的人工智能“可能比核武器更危险”。% s3 a4 A# b# x% X3 r4 @6 E; M( }

5 b- Y& C. q% p( J3 Y8 Q这封FLI公开信上的其他署名者还包括机器智能研究所(Machine Intelligence Research Institute)的执行主任吕克•米尔豪泽(Luke Muehlhauser),麻省理工学院(MIT)物理学教授、诺贝尔奖得主弗兰克•维尔切克(Frank Wilczek),人工智能企业DeepMind和Vicarious的幕后主管,以及几名谷歌(Google)、IBM和微软(Microsoft)的员工。; n( j6 s! I/ Y3 |& P

" s) Z4 I( a1 ^1 b2 K0 @; i这封信并不以一封兜售恐惧心理为目的。与此相反,它十分谨慎地同时强调了人工智能的积极面和消极面。! x; Y( ]" {9 G
% C- U# @8 h- J, y
信中写道:“如今存在的一个广泛共识是,人工智能研究正在稳步进展之中,它对社会的影响也很可能会逐渐增大。人类文明所能提供的一切都是人类智慧的结晶。这种智慧被人工智能可能提供的工具放大后,我们能做到什么是我们无法想象的,不过那样的话根除疾病和贫困将不再是遥不可及的。从这个意义上说,人工智能有巨大的潜在好处。”
, N* Y# Y" ?: X5 c! T/ F" i' H
4 K' [$ w  e( U5 _: k7 z: o/ O6 J目前,人工智能研究的部分好处已经成为现实,其中包括语音识别和图像识别,以及自动驾驶的汽车。在硅谷,部分人估计如今从事人工智能业务的初创企业超过了150家。) ]! U, l  E" [" ?# {
4 K4 W$ l2 L7 L! V, }4 \; |8 Z' @
鉴于人工智能正吸引越来越多的投资,许多创业家和谷歌等企业都在盼望着能通过建立会自主思考的电脑,获得巨额回报。对于这种局面,FLI警告说,人们或许应“及时”将更多注意力集中在人工智能的社会后果上,不仅要从计算机科学的角度开展研究,还要从经济、法律及信息安全的角度开展研究。& V) n; Q. d  b) I8 f
% g5 q; V2 m, }

$ ~0 v/ ^5 T6 S
回复

使用道具 举报

周末荡漾 发表于 2015-5-18 03:46:46 | 显示全部楼层
霍金等科学家呼吁注意人工智能(AI)的安全性及其社会后果
回复

使用道具 举报

炎凉 发表于 2015-7-30 21:09:45 | 显示全部楼层
不错不错.,..我喜欢
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 1分钟注册发帖

本版积分规则

重要声明:“百事牛www.BestKnew.com”的信息均由个人用户发布,并以即时上载留言的方式运作,“百事牛www.BestKnew.com”及其运营公司对所有留言的合法性、真实性、完整性及立场等,不负任何法律责任。而一切留言之言论只代表留言者个人意见,并非本网站之立场。由于本网受到“即时上载留言”运作方式所规限,故不能完全监察所有留言,若读者发现有留言出现问题,请联络我们。

Archiver|小黑屋|百事牛

GMT+8, 2025-4-28 23:04 , Processed in 0.022628 second(s), 16 queries .

Powered by Discuz! X3.5

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表