第03版:健康e刻 上一版3  4下一版
浙一互联网医院推出七大服务平台
发展人工智能有了共同准则
我国自主研发人形机器人具有视觉功能
南京“12320”建成一站式医疗服务平台
一场微信群里的生死救援
河南眼科分级诊疗走上智慧互联路
 
3上一篇  下一篇4 版面导航   2017 年 2 月 18 日 星期 放大 缩小 默认        

发展人工智能有了共同准则

1月初,在Benificial AI 2017的会议上,近2000名产学研领袖和中坚力量共同联名发布人工智能(AI)23条原则,从研究问题、伦理价值观和长期问题三个角度宏观地为AI发展提出规定。面对AI可能会被误用和威胁人类的担忧,这23条原则被期待能确保AI走在“正轨”,以获得更加健康的发展。本版特邀几位行业人士和行业关注者,谈一谈他们对这一原则发布意义的理解和感想。

AI领袖发声

应该设计高度自动化的AI系统,确保在操作过程中它们的目标和行为与人类价值观保持一致。价值一致非常重要。机器人不会尝试违反人性,但是它们会对人类告诉它们要做的事进行优化。所以我们需要确保机器人所优化出的世界是我们想要的。

——Anca Dragan

(加州大学伯克利分校教授)

我认为,最大的危险在于,人们或许会以一种不负责任或者恶意的方式来处理AI,我指的是一些人为了个人利益会这么做。通过在全世界普及一个更加平等的社会,我认为我们可以减少这些危险。在一个充满暴力、充满不平等的社会中,AI 的误用,或者有人不负责任地使用AI的概率整体都会大增。让人人都能从AI受益是安全问题的核心。

——Yoshua Bengio

(蒙特利尔大学教授)

致命自动化武器的军备竞赛应该被禁止。我不是战争的支持者,我认为战争是极端危险的。显然,我认为,AI 技术有着巨大潜力,但是,即便只是我们今天能掌握的技术,已经不难想象,AI可能会被用于破坏性的事务。我不希望我对这一领域的贡献,或者任何我们发展的技术会伤害到任何人,被用于开发武器或者是发动战争。哪怕我们的技术只是让武器杀伤力更强,我也不希望。

——Stefano Ermon

(斯坦福大学助理教授)

没有强制性业界需要自我约束

□Airdoc创始人 张大磊

今天人工智能有多火,我们都能够看到,可是在过去数十年并非如此。去年的麦肯锡报告公布,中国只有不到25%的人工智能从业者拥有超过10年的行业经验,而在美国这一比例也只有50%,多数都是近年来加入人工智能行业的。从2010年到2014年,人工智能初创公司的风险投资额增加了20倍以上。英国知名物理学家史蒂芬·霍金在2014年12月说,人工智能可能会终结人类,但它是把双刃剑,也可以帮助治愈癌症及减缓全球变暖,随着人工智能爆发式增长,这个行业迫切需要一个行业行为准则和标准。

在我们真正接触人工智能之前,它已经在科幻小说中出现了很多次,很多科幻电影都将人工智能定位成反派,这让我们见识到人工智能会给人类带来多么大的危害。1940年,科幻作家阿西莫夫对机器人做出规定,提出机器人三原则,主要是为了保护人类。

相比较机器人三原则,此次Benificial AI 2017会议发布的人工智能23条原则不仅是从安全角度思考人工智能的发展,核心目的更是确保人类的利益不受损害,即人工智能如何应用对人类更有价值。到目前为止,已有2999位人工智能领域的专家签字,其中1059位是人工智能/机器人技术研究人员,1940位是人工智能团队的重要人员。

人工智能已经为世界各地的人们提供了日常使用的有益工具,它的持续发展,须以23条原则为指导,在未来几十年甚至几个世纪,为帮助人类更加强大提供很多惊人的机会。因为其客观性和公正性,它不会影响众多人的工作,会在心里和行为上更加约束自己,对人工智能行业的整体发展十分有益。

随着近几年爆发式的增长,人工智能已经在众多领域取得了巨大成果,比如安防领域的人脸识别、金融领域的智能投顾金融监管、自动驾驶和医疗健康领域的辅助诊断等,这23条原则可以在每个领域都适用。医疗领域的人工智能从业者更看重的是责任。高级人工智能系统的设计者和建造者,在道德影响上,是人工智能使用、误用和动作的利益相关者,并有责任和机会去塑造那些影响。无论是基于深度学习技术多维度解读图片和视频,为企业提供色情识别、暴恐识别、广告识别、人脸识别、场景识别、物体识别和辅助诊断等数十种智能识别服务,还是基于语音识别和自然语义等领域的应用,都离不开责任两个字。

每个行业都有应当遵守的原则,就有关国家、部门、人员之间的利益问题进行公开讨论并达成一致意见,共同遵守一个规定。比如《临床医师公约》《医学生誓言》等,目的不是强制医生或者医学生来做一些什么事,而是要他们约束自己的行为,全心全意为人民服务,推进医疗卫生行业发展。对于医疗领域的人工智能应用来说,Airdoc目前已经掌握世界领先的图像识别能力,并且在人类顶级专家的帮助下,在心血管、肿瘤、神内、五官等领域建立了多个精准人工智能医学辅助诊断模型。但是我们一直认为,准确率背后不是冷冰冰的数字,而是活生生的人,一个数字的错误就可能造成一个家庭的悲伤,我们需要对每一位潜在患者负责。从整体来看,23条原则并不能给人工智能带来什么改变,也不能提高医学领域辅助诊断的准确率和工作效率,但它在安全伦理方面时刻提醒着我们,要时刻约束自己的行为,从而让我们发自内心地不断提高诊断准确率。

这些原则并不是法律,不能强制人工智能从业者做什么不能什么,但这是凌驾于法律之上,是悬在人工智能从业者头上的达摩克利斯之剑。一旦我们触碰或者违反了规则,就可能造成巨大的损害,让从业者随时有危机意识,心中时刻敲响警钟。

人类理性是值得信任的

□北京市卫生计生委主任 方来英

著名作家雨果在《莎士比亚论》中说过,已经创造出来的东西比起有待创造出来的东西是微不足道的。面对人工智能的迅速发展,人们恐怕就是这样的感觉。我们很难设想技术进步的影响、速度。记得学校里的教授们曾经说过,你所读过的一切文献和书籍都是已经或即将淘汰的。这就是今天我们看到的技术发展所深刻感知的。

恰因如此,我们对人工智能的思考应该是开放积极的,而不必要悲观消极。中国古典经典《易经》讲“穷则变,变则通,通则久”,就是这个道理。反过来,叫作“变动不居,不可为典也”。我们今天不能够完全感知人工智能给我们带来的影响,恰如北京周口店的猴子也无法理解今天智人的所思所为一样,我们只活在当下。

人工智能会给医学带来巨大的革命性进步。不远的将来,我们每个人都会有一个家庭医生,会提醒你服药,会记录你的生命体征,会为你的健康报警;在医院你也会遇到你的机器人医生,诊断、手术、给出医嘱,绝不会忘记你的血型和药物过敏史。由于她所具有的记忆能力和数据处理能力,医生们的误诊率会被大幅度降低,手术做的则是无可挑剔。人类会从中享受到乐趣、便捷,并为其服务的精准性而自叹不如。

我们相信人工智能不能代替医生,医生不是技术的奴隶。2月14日,人们宁肯宅在家里看一场爱情电影也不会和一个机器人朋友共进浪漫晚餐。疾病的本质是什么?不过是在坐标系中,你的某些数据没有在大多数人应该在的一个二次方曲线包围的区域里,你被out了。但这不是生命的本质。特鲁多医生的墓志铭说得好,“有时去治愈,总是在帮助,永远是安慰”。安慰是心灵的交流,这是医生职责的本质,不是技术可以代替的。

或许有一天,人类会将大脑的一切思维能力得以在电脑中复制。既然思维是有物质基础的,这一天就是可以设想的。如果到了这一天,人工智能还是“人工”吗?

当人工智能的智能发展时,我们会遇到道德伦理问题。比如说我们要不要研究机器人士兵,阿西莫夫的机器人三定律的核心就是机器人不能杀人。在医学上,我们也会遇到类似的问题。机器人医生的医疗事故怎么处理?当机器人看到一位需要安乐死的病人时,如何诊断和执行医嘱?人工智能23条原则中的多个原则都应该是医生和医学智能的研究者们应该遵守的。比如责任、隐私、生命伦理等原则。人们对生命的关注,也应该导致加强科学和技术的研发者与政策制定者之间更加密切、积极和开放的对话。

人工智能毕竟是“人工”智能,机器人士兵出现前景和大规模杀伤武器出现遇到的问题是一样的,23条原则议论的问题和爱因斯坦困惑的问题本质也无不同。人类打开了核能这个潘多拉盒子,到目前为止,人类也没有让达摩克利斯之剑掉下来。毕竟,亚里士多德说的是对的,人是有理性的动物。

要发展 也要风险可控

□阿里健康总架构师 陈志刚

AI界发起联名签署为技术革命对社会的冲击和改变划下“安全区”,倡导新技术快速稳健发展的原则性规范。每当AI在某一方面击败人类选手的时候,多会有一些职业好像面临被替代的可能。应该说,倡导这些原则的目的是面向未来,为新技术变革的可持续发展提供方向性指导。某些职业一定会被淘汰、取代,历史上的几次技术革命都是如此。

在这23条原则里,人类控制(16条)和非颠覆性(17条)意味着AI系统要有安全网,要在人类可控的范围内运行。但是无心的疏忽和非理性的冒险尝试都可能突破这些脆弱的自我约束,使得风险变得难以预估。

在医疗领域,AI发展面临的最大不信任是AI在何时能够胜任医疗领域的哪些职能,如何在这样一个高度专业的领域吸收和推动AI的发展。

长期来讲,AI是否能够帮助人类了解自身,推动医疗健康的边界,这些和23条原则或多或少相关。与此同时,AI的法律和伦理地位是一个需要长期积累和修正的过程。在初始阶段,需要通过单个社会场景来分别界定,比如自动驾驶是否可以获得驾驶执照和保险,然后综合汇总形成更有普遍适用范围的系列规则。

价值观的问题更复杂,因为人类社会的价值观是非常多元化的,同时受地域、文化、经济、政治等多方面因素的影响。AI系统价值观的体现会受设计者、使用者和自身的迭代优化影响。比如,聊天机器人在学习了大量辱骂恶俗的语料以后,也会流利地回骂。(本报记者刘志勇整理)

3上一篇  下一篇4
 
匿名
注意:
 1.遵守中华人民共和国有关法律、法规,尊重网上道德,承担一切因您的行为而直接或间接引起的法律责任。
 2.健康报网拥有管理笔名和留言的一切权力。
 3.您在健康报网留言板发表的言论,只代表您个人的观点。健康报网有权在健康报及其网站内转载或引用您的言论。
 4.如有意见请给master@jkb.com.cn发Email反映。
     

您对这篇文章的满意度


 

 
Copyright(C) 2006 健康报社 版权所有 违者必究
健康报社地址:北京市东直门外小街甲6号   邮编:100027
网站信箱: 联系我们
京ICP备05026241号