最近，全球的一些人工智能各企（qǐ）业都很关（guān）注AI的法规，欧盟（méng）也出了《人工智（zhì）能白（bái）皮书（shū）》来监（jiān）管AI市场。人工智能法规的陆续推出，约束AI进一步走向正规化 ，规避一些不（bú）法分子在（zài）AI上的不好想法来获（huò）利。

科技是把双刃（rèn）剑，当人工智能技术大规（guī）模（mó）应（yīng）用于（yú）社会时（shí），我（wǒ）们必须考虑它（tā）所带（dài）来的负面效果。

现（xiàn）代是一（yī）个文明社会，大众除了（le）道德限制（zhì）还有（yǒu）法（fǎ）律对自身（shēn）行为进行约束，但开发者进行应用开发时，是否考虑到输入给机器的数据是否符合“法规”，特别是近年来人机交互（hù）的（de）数（shù）量急剧（jù）增加，从而使（shǐ）得AI监管（guǎn）问（wèn）题的讨论变得更为热烈。

感官的（de）欺骗

视（shì）觉与听觉是我们（men）对外界感知（zhī）的（de）重要窗口，大众的观念中普遍认为“人的第一印象很重要（yào）”“眼见为实（shí），耳听（tīng）为（wéi）虚（xū）”。

但（dàn）面对信息错综复杂的世（shì）界，如今眼见（jiàn）也不（bú）一定为实，听到的则可能更为（wéi）虚假。曾经被议论的Deepfake换脸技术（shù）就属于（yú）罪魁祸首之一（yī），其利用了AI深（shēn）度学（xué）习功能（néng），通过数以亿计的自我学习、神经（jīng）网络训练，AI能（néng）够识（shí）别出画面（miàn）中那些和周（zhōu）围场景格格不入（rù）的部分，同时（shí）将其移走和生成缺失（shī）的像素，最后重绘出（chū）部分像素进行画面填补。

谷歌公（gōng）司也（yě）曾推出WaveNet软（ruǎn）件（jiàn），可（kě）以（yǐ）利用其神经（jīng）网络系统对原始音频波形（xíng）进（jìn）行建（jiàn）模，生成（chéng）带有不（bú）同语气音节和（hé）情感表达的人类自然语言的音频。

外媒曾报道过一例案件，不法（fǎ）分（fèn）子（zǐ）就利用了类似（sì）的AI技术，成功模仿了英（yīng）国某能源公司CEO的声音（yīn），诈骗了220，000欧元，执法当局认（rèn）为此种类案件的（de）调查取证更为困难。

AI道德准则

2019年，我国首次（cì）将AI造假音视频列入法（fǎ）规（guī），国家（jiā）网信办（bàn）出台《网络音视频信息（xī）服务管（guǎn）理规定》。

对于利用基于深度学习（xí）、虚拟现（xiàn）实等新技术新应用制作、发布、传播非真实（shí）音视频信（xìn）息的网络音视频：，应当以显著（zhe）方式（shì）予以标（biāo）识，不得（dé）利用其（qí）制作（zuò）、发布、传播虚假新闻信（xìn）息；网络音（yīn）视频信息服务提供者应当部署应用违法（fǎ）违规音视频以及非真实音视频鉴别技术（shù），应当（dāng）建（jiàn）立健全辟（pì）谣机制。

日前（qián），欧盟也相继出台《人工智能（néng）白皮书》，对人工智能领域的投（tóu）资监（jiān）管（guǎn）路径设（shè）立双重目标，旨在推动道德和可信赖人工智能的发展。并通（tōng）过（guò）建设（shè）“卓越生（shēng）态系统（tǒng）”和“信任生（shēng）态系统”双重系（xì）统，构建一个卓越的、可信赖的人工智能体系（xì）框架。

近日，面对人工智能的伦理 “红（hóng）线”，博世（shì）在“博世互联世界大会”上发布人工智能技术的指导方针《AI道德准则》，博世认为人工智能（néng）是服务于人类（lèi）的工具，任（rèn）何可能对人造成影响的人工智能决（jué）策都需要人类的监管。

准则中包含了三种机制（zhì），它们（men）遵守着一个（gè）共同（tóng）的原则，即博世开发的人工智能产品中，人类必须保留对人（rén）工智能所（suǒ）做决策的最终控制（zhì）权。

第（dì）一种机（jī）制为人（rén）工控（kòng）制（human－in－command），它适用于（yú）人工智能（néng）只（zhī）作为支持工具出现的（de）情况。例（lì）如，在决（jué）策支持系统（tǒng）中，人工智能帮助人们对物体（tǐ）或生物进（jìn）行分类。

第二种机制为（wéi）使用阶段的人为干预（human－in－the－loop），适用于人工智能系统（tǒng）可以自主决策，但人类可以（yǐ）随时干预的情况。例（lì）如（rú），驾驶辅助系统，驶（shǐ）员（yuán）可以直接（jiē）介（jiè）入停车辅助系（xì）统的决策等。

第三种机制为设（shè）计阶段的人为干预（yù）（human－on－the－loop），适用（yòng）于紧（jǐn）急（jí）制动系（xì）统等应用。开发此类智（zhì）能（néng）产品（pǐn）时，专家（jiā）将定（dìng）义参（cān）数作为人工（gōng）智（zhì）能决策的基础，而人类不参与决（jué）策，由人工智（zhì）能（néng）进行。

但是工（gōng）程师可以（yǐ）随时（shí）追溯检查（chá）机器是否遵守所（suǒ）设定（dìng）的参（cān）数进行决策，必（bì）要情况（kuàng）下可以修（xiū）改参（cān）数。

面临的困难

人工智能在应用层（céng）面（miàn）有（yǒu）逐渐完善的法律法规进行（háng）约束，但在实（shí）际的技术开发中仍面临着许多难以（yǐ）确定的细则（zé）。

数据标（biāo）定没有（yǒu）统一标准（zhǔn）：在机（jī）器学习中训（xùn）练数据（jù）前（qián）都会对数据进行清洗和（hé）标（biāo）定（dìng）。有时为了满（mǎn）足业务进度的要求，不（bú）会进行全量全（quán）分类的（de）处理。

准确（què）的（de）说，无法（fǎ）对数据进（jìn）行严格而准确（què）的（de）分类。这也是有监督学习类算（suàn）法的缺点，就是针对（duì）特殊业（yè）务往往要进行专门的数据（jù）标定（dìng），同时（shí）算法设计者自身存在（zài）价值偏见（jiàn）也会导致人（rén）工智能系统无法正常运行。

数据（jù）分析难全面：在（zài）准备训练（liàn）数据时应（yīng）容扩各类发生（shēng）的情况，AI在数据错误的情况势必会造成BUG，除了掌握各类情（qíng）况，仍要调整（zhěng）好处（chù）理各种情况的参（cān）数或（huò）系数，包（bāo）括（kuò）算法（fǎ）模型存（cún）在的技术性缺陷可（kě）能导致人工智能系（xì）统（tǒng）无法（fǎ）正常（cháng）运行（háng）。

模型成长环境（jìng）差异：AI算法模型的训练环境对算法结果（guǒ）有重大影响，假设机器训练（liàn）环境变得没有边界，各类数据都被机器学习，这将很难保证（zhèng）机器会往着（zhe）人类预想的方向发展（zhǎn），以及因为算（suàn）法日趋（qū）“黑（hēi）箱化”可能导致（zhì）技术失控等问题（tí）。

无（wú）论在技术或应用方向（xiàng），都应该通过政策和法律引导，开展人工（gōng）智能算法安全的（de）评估检测；推动技术（shù）伦理的算法导入，要求人工（gōng）智（zhì）能开（kāi）发者（zhě）设计高（gāo）可解释性（xìng）的（de）智能系统；同时，加强智能算法的透明监督，人工智能（néng）企业、行业应建立相应（yīng）的算法监（jiān）管（guǎn）体制，保持（chí）与政府监管（guǎn）的协同。

相信在人（rén）工智能法（fǎ）规陆（lù）续出台监管的路上，AI市（shì）场会越来越规（guī）范，符合市场的需求（qiú）。