中国网北京(jīng)12月28日讯,一(yī)篇《外(wài)卖骑手,困在(zài)系统(tǒng)里》的文章引爆舆(yú)论(lùn)。文章指出,在空(kōng)间导(dǎo)航和算法的驱(qū)使下,外(wài)卖骑手被派送(sòng)时间不合理、规划路线含(hán)逆行、超时高额罚款等多(duō)重问(wèn)题的困扰。“有骑手写道,送外卖就是与死神(shén)赛跑(pǎo)。”
人脸识别(bié)侵犯个人隐私频(pín)引争议。为规避人脸识别系统,一男(nán)子戴头盔看房(fáng);因质(zhì)疑杭州野(yě)生动物园强制(zhì)游(yóu)客刷(shuā)脸,浙江(jiāng)理工大学(xué)特聘副教授郭兵起诉,此案(àn)被媒体称为“人脸识别(bié)第一案(àn)”。
同样的订单,同一家平台、同一家商户、同一处送餐地址、同一(yī)个时间段,会员却比非会员支(zhī)出更多——多家大(dà)型互联(lián)网(wǎng)企业都曾被曝利用大数据“杀(shā)熟(shú)”,实行“价格歧视”。
人工智能发展到今天,已经不仅仅是一个纯粹的技术问题(tí),它在深刻改变人类生产生活方式的同时,引发了(le)一系列伦理和法(fǎ)律争议。近日,十三届全(quán)国政协第45次双周协商座谈(tán)会(huì)召开,围绕“人工智(zhì)能发展中的科技伦理与法律问题”协商(shāng)议(yì)政。这是2020年最后一场双(shuāng)周(zhōu)协(xié)商座谈会,巧合的是,2018年(nián)4月20日(rì),十三届(jiè)全国政协(xié)第一次(cì)双周协商座谈会的主题(tí)便是“人工智能的发(fā)展与对策”。建言当下(xià),也着眼未来,正是政协发挥协商民(mín)主优(yōu)势和作用(yòng)的生(shēng)动体现。
人工智能不仅是技术之争?
新冠肺炎疫情与(yǔ)信息技(jì)术深化叠(dié)加,影响国(guó)际力量对比及世界格局变(biàn)化。人工智能(néng)已成为(wéi)国际竞(jìng)争的焦(jiāo)点。今年2月,欧盟委(wěi)员会在布鲁塞尔(ěr)发(fā)布《人工智能白皮书》,旨在大力促进欧(ōu)洲人工智能研发,同时有效应对其可能带来(lái)的风险。分(fèn)析人士指出,欧盟此举不仅是(shì)要补足前沿科技短板,更是(shì)要(yào)抢(qiǎng)抓数字时代(dài)的全球规则主导权。今年5月,美国(guó)决定加入G7“人(rén)工智能全(quán)球(qiú)合作伙伴组(zǔ)织”,力图(tú)以霸权力量主导形成不利于中国的(de)全球人工(gōng)智能(néng)治(zhì)理规则。
最近一份有关人工智能的(de)报告(gào)——《2020-2021中国人工智能(néng)计算力发展评估报告》出炉。报告预测,到2024年中国(guó)在全球人(rén)工(gōng)智能市场的占比将达到15.6%,成为全(quán)球人工(gōng)智(zhì)能产业增长的重要驱动力和中坚力量。即(jí)便如此,当(dāng)前形势下,抢占(zhàn)人工智能全球话(huà)语权仍迫在(zài)眉睫。
今年(nián)G20峰会,习近(jìn)平指出,中方提(tí)出了《全球(qiú)数据安全倡议》,我们愿以此为基础,同各方探讨并制(zhì)定全球数(shù)字治理(lǐ)规则。《中共中央关于(yú)制定(dìng)国民经济和社会发(fā)展第十四个五年规划(huá)和二〇三五年远景目标的建议》中(zhōng),人(rén)工智(zhì)能成为高频词汇。
在此国际国内环境下,人工(gōng)智能已不仅是(shì)技术(shù)层(céng)面的竞(jìng)争,而是(shì)国际新(xīn)赛道上(shàng)的速度之争。
此次全国政协双周协商座谈会上,中共中央政治局常(cháng)委、全国(guó)政(zhèng)协主(zhǔ)席汪洋(yáng)强调(diào),要牢牢把(bǎ)握(wò)人工智能对建(jiàn)设科(kē)技强国和实施(shī)创新(xīn)驱动发展战略的重大机遇,历史、辩证、全面看待(dài)人工智能发(fā)展(zhǎn)中(zhōng)的科技伦(lún)理与法律问题,探索构建符合中国(guó)国情的(de)人工智(zhì)能治理框架,维(wéi)护人民利益(yì)和国家安全。
“让(ràng)子弹飞一会(huì)儿(ér)”?
作为引领新一轮科技革命和产业变革的重要驱动力,人工智能的发展迅猛且充(chōng)满未知。人工智能的监(jiān)管程度、速(sù)度如何把握?该(gāi)不该“让子弹飞一(yī)会儿”?全国政协副(fù)主席、民盟中央(yāng)常务(wù)副主席陈(chén)晓光指出,人工(gōng)智能(néng)的健康发展,必须(xū)回答人工(gōng)智能到底(dǐ)该由(yóu)谁(shuí)掌(zhǎng)控(kòng)、人工智(zhì)能发展的(de)基本准则是什么、人工智能发展的禁区在哪里等问题,必须通(tōng)过建立(lì)理性(xìng)的伦(lún)理(lǐ)规则和(hé)法律规(guī)范为人工智能发(fā)展(zhǎn)的风险防范(fàn)设置“控制阀(fá)”。
陈晓光表示,在发展人工(gōng)智能技术的同时,必须(xū)同步开展伦理(lǐ)和法律层面对(duì)人(rén)工(gōng)智能的引(yǐn)领和规(guī)范(fàn)工作(zuò),改变“先发展后治理”的模(mó)式和(hé)“重科技研发、轻治理研(yán)究(jiū)”的(de)思维。
全国政(zhèng)协委员、北京搜狗科(kē)技发展有限公司首席执行官(guān)王小川表(biǎo)示,我们要跳出(chū)今天的思维定式,以未来的眼光看待人工智能。这意味(wèi)着要更多关(guān)注(zhù)取舍两难(nán)的问题(tí)。取舍两(liǎng)难的问题,不(bú)是直观(guān)的恶与(yǔ)善,它们会伴随人工(gōng)智能与社会经济发展的深度(dù)融合(hé),以穿透科学与人文的复杂(zá)方式呈现出来。从社会治理(lǐ)的角度看,这(zhè)些更需要我们提前去思考和(hé)关注(zhù)。
数(shù)据属于(yú)谁?
全国(guó)政协委员、最(zuì)高人民法院副院长姜伟在调研中发(fā)现,因数据的(de)权属不(bú)明确,有三个问题(tí)困扰着企(qǐ)业:一是创新难(nán),数(shù)据企(qǐ)业(yè)之(zhī)间爬取数据(jù)、滥用数据的现象普遍存在。二是交(jiāo)易难(nán),因(yīn)数(shù)据价值缺乏统一评(píng)估标准,需(xū)要逐一谈判,数据交(jiāo)易成本高。三是维权难,数据平台遭到侵权的问题时有发生。
姜伟认为,我们无法将数据所有权(quán)绝对化,不能简单地(dì)套用传统的物权规范。需(xū)要根据数据的(de)属性特(tè)点建(jiàn)立数据产权(quán)制度,破解“个人数据与企(qǐ)业(yè)产权”的矛盾、平衡“数据安全与数据利用”的冲(chōng)突,对各(gè)种类(lèi)型数(shù)据合理(lǐ)确(què)权,解决数据(jù)属谁所有(yǒu)、数据如何使(shǐ)用、数(shù)据收益(yì)归谁等(děng)问题。
“作为(wéi)一(yī)名数据安(ān)全领域的(de)工作(zuò)者,我认为(wéi)必须严控大数据的使用场景。科技需要从(cóng)0到(dào)1的创造,而不是滥用场(chǎng)景式的(de)所(suǒ)谓’创新’”。全国政(zhèng)协委员、上海众人智能科技有限公司董事长谈(tán)剑锋认为,在海量大数据中,尤其需要关注(zhù)不可再生(shēng)性数据,比如人脸、指(zhǐ)纹、DNA等生物特(tè)征数据,以(yǐ)及个人医(yī)疗(liáo)档案数据等。谈剑锋建议国(guó)家设立“数据银行”,成立专门机构来统一管控、存储和应用(yòng)不可再生性大数据,从而限制(zhì)企业自行采集收集和垄断,并运用区(qū)块链技术分布式存储,运(yùn)用密码技术严格(gé)保护数据。
全国政协委员、九三学社重(chóng)庆市委会副主委、重庆(qìng)医科大学校长黄爱龙则建(jiàn)议,隐私信(xìn)息(xī)采(cǎi)集应区分“战时”和“平时”,并坚持“最小够用”原则。比如(rú),“健康码”采集的信息,若疫情过后再使用,要有相关规定;“行程码”显示的行程信息,建议由逐一列出手机使用(yòng)者去过的地区(qū),调整为只列出去过的中高风险地区。
如何立法?
清华(huá)大学法(fǎ)学(xué)院院(yuàn)长申卫星建议,构建综合性立法和具体(tǐ)场景立法相结合的“总-分”式立法体系(xì)。综(zōng)合性立法是进(jìn)行人工智能顶(dǐng)层设计的最佳(jiā)形式。具体场景分别立法的(de)领域包括(kuò)自动驾(jià)驶(shǐ)、自(zì)动化(huà)决(jué)策(cè)、精准医疗等。申卫星表示,“总(zǒng)-分”的立法(fǎ)体系设(shè)计将有利(lì)于增(zēng)强(qiáng)国内外对于中国(guó)人工智能(néng)技术的信任度,提升(shēng)人工(gōng)智能国际竞争中的软实力。
全(quán)国政协(xié)委员、香港(gǎng)中文大学工程(chéng)学(xué)院副院长、香港(gǎng)计算机教育学会(huì)荣誉会长(zhǎng)黄锦辉提出(chū),要加强对可解释权的立法。他举例说明,医疗及教学是(shì)常见的人工智能应用,但(dàn)不少现(xiàn)有的(de)系(xì)统(tǒng)都(dōu)未能为(wéi)决定做出合理解(jiě)释。比(bǐ)如一名学生(shēng)很努力地写(xiě)了论文(wén),老师评为不及格却没有(yǒu)说出理由。人工智能的自动学习(xí)算法以黑箱式作业(yè)进行,并不透明,可解释权是对算法输出进行解释(shì)的权(quán)利。
关于人工智(zhì)能立法等相关问题,司法部副部长赵大(dà)程回应表示(shì),可以按照“急用(yòng)现(xiàn)行、分(fèn)步推(tuī)进、综(zōng)合研究”的(de)思路,积极(jí)稳妥地做好(hǎo)相关领域的法律法规制订修(xiū)订工作和前瞻性立法(fǎ)研(yán)究。