文 | 孙良国 大连海事大学法学院（yuàn）教（jiāo）授

人工智能的治（zhì）理是（shì）一项复（fù）杂的系统工程，也是人（rén）类面对的（de）核心问题之一。我国人工智能的发展要引领世界，就（jiù）必须（xū）设计能够支撑人工智能可持续发展的治理机制。其中，法律（lǜ）作为治国之（zhī）重器，应当在人（rén）工智能的（de）治理中发（fā）挥（huī）重要作用（yòng）。在人（rén）工智能的法律治（zhì）理中，一个重要议题是，人工智（zhì）能是（shì）否应当成（chéng）为法（fǎ）律主（zhǔ）体。在世界范围（wéi）内（nèi），此问题（tí）引起了巨大的学（xué）术争论和（hé）社会争议，不同甚或对（duì）立（lì）的观点不断登场，远未达成共（gòng）识（shí）。笔者的（de）观点是，人工（gōng）智能（néng）不应当成为法律主体（tǐ）。

从（cóng）实证法的角度看，立法机关可（kě）以通过法律认可任何组织（zhī）、实体或者（zhě）其（qí）他事物作为法律主体。任（rèn）何突破（pò）传统法律制度的（de）新制度，都必须是经过价值判断后的（de）恰当（dāng）结果。人工（gōng）智能是（shì）否（fǒu）应当成（chéng）为法（fǎ）律主体（tǐ），取决（jué）于（yú）如下价值判断：既能够促进人工智能的发展，同（tóng）时也能（néng）够消（xiāo）除（chú）人工智（zhì）能（néng）的不当（dāng）风险。技术变革往往会伴随风险，但（dàn）只要风险可控且不会（huì）对（duì）人类价值产生不可（kě）接受的影响，那（nà）么法律就应采取最优（yōu）措（cuò）施来（lái）抑（yì）制风险。考虑当（dāng）下功（gōng）用，兼顾长（zhǎng）远影响，总体来看（kàn），维持目前法律制度，不赋予人工（gōng）智能（néng）以（yǐ）法律主（zhǔ）体地位，是人工智能（néng）法律治理（lǐ）的最优解。

人工智（zhì）能的发展并不需要其成（chéng）为法（fǎ）律主体

人工智能是概括（kuò）性术语，从（cóng）机（jī）器学习到大（dà）规模语言模（mó）型等均包（bāo）括在内。人工智能是否（fǒu）需要成为法律主体，可以从法律主体的历（lì）史演进规律获得启示。

整体而言，法（fǎ）律主体（tǐ）演进的基本（běn）规律可概括为从“人可非人”到“非人（rén）可人”。即使到近代社会，自然人（公民）之间的（de）权利（lì）也是有（yǒu）差别（bié）的（de）。只有在现（xiàn）代法治国家，自然人才享有平（píng）等的民事权（quán）利。不仅如此，法律主（zhǔ）体也已经（jīng）不（bú）再限于生物学（xué）意义（yì）上的（de）人（rén），公司等实体也获得了法律的明（míng）确承认，同时附之以股东或者（zhě）出资人以自己对公司的出资为限承（chéng）担责任。此种承认促进了现代科学技术和组织形式的跨越式变革，推（tuī）进了（le）人类的文明进步。尽（jìn）管部分学者列举或者设想（xiǎng）了目前人工智能应当作为法律主体（tǐ）的具体场景，然（rán）而经过仔细分析，这些（xiē）场景都（dōu）没有（yǒu）显（xiǎn）示出人（rén）工智能需（xū）要作为法（fǎ）律（lǜ）主体的真正客（kè）观需求（qiú），也（yě）没有显示出既有的法律制度（如（rú）代理、公司法等）阻碍了人（rén）工智能的发展而通过使人工智能成为法律主体会扫清该障（zhàng）碍（ài）。

有学（xué）者认为，对社（shè）会生活（huó）的参与（yǔ）是判断是否设定法律（lǜ）主体的重要因素。这一说（shuō）法值得商榷。因为参与社会生活的身份有（yǒu）主（zhǔ）体（tǐ）和客体（tǐ）之分，人工智能是作（zuò）为（wéi）客体如（rú）机器、软件、程序或系统而（ér）参（cān）与（yǔ）的。即使客体很（hěn）智能，甚至可以在（zài）既有技术（shù）设计下做出独立判断，但（dàn）此种独（dú）立判断所（suǒ）归责的主体仍旧（jiù）是设置、控（kòng）制（zhì）或（huò）使用该机器的主体，所代表的依（yī）然是（shì）设置、控制或使用该客体的主体的意志。事物很重要与法律赋予（yǔ）其法律（lǜ）主体（tǐ）资（zī）格是两（liǎng）个完全不同的（de）问题。例如（rú），对很多人（rén）来（lái）说，宠物已经成为社会生活的重要部分，其中部（bù）分人对宠物的依赖性要远高于其他事物，但（dàn）这并不能（néng）证成宠物成为法（fǎ）律主体。同（tóng）理，虽（suī）然人（rén）工智能非常重要，但法律（lǜ）仍（réng）然没有使之成（chéng）为（wéi）法律主体的（de）内（nèi）在（zài）需求。

从责任能力视角看（kàn），人工智（zhì）能不能成为（wéi）法律主体

在民（mín）法上（shàng）赋予（yǔ）法（fǎ）律主体资格的一个重要条件是责任能力。承担责任（rèn）意味着（zhe），法律主体承受不利的财（cái）产负担，而（ér）且（qiě）该（gāi）法律主（zhǔ）体通常应当是最终的责任承（chéng）担者。责任（rèn）能（néng）力的（de）一个前提条件是，法律主体必须有独立的财产（chǎn）。如果没（méi）有独立的财产，那么（me）使人（rén）工智能承担责任就（jiù）没有（yǒu）实质意义。到目前为止甚或是在相当长的未来（lái），我们（men）都（dōu）很难设想人工智能需要或者能够拥（yōng）有独立财（cái）产。由（yóu）于这（zhè）一前提条件（jiàn）并不具（jù）备，那么人工智（zhì）能成为法律主体也就没有必要或（huò）者可能。从既有的媒（méi）体公开报道的人工智（zhì）能导（dǎo）致人身或（huò）者财产损（sǔn）害的案件（jiàn）中，我们（men）均可以根据既（jì）有法律规（guī）定（dìng）找到需要承担责任的主体——开发人、设计（jì）者、所有者或（huò）使用者等。换（huàn）言（yán）之，既有的法律（lǜ）制度能够解决目前人工（gōng）智能所引发的人身或财产损害问题。

进一步（bù）说，人工智能成为法律主体甚至有潜在的不可（kě）预（yù）计的风险。人工智（zhì）能（néng）成为法律主体的一（yī）个自然推论（lùn）是，它（tā）能（néng）够独立承担责任。由于人工（gōng）智（zhì）能的（de）确会导（dǎo）致伤害甚（shèn）或大规模（mó）伤害，如（rú）隐私泄露、数据毁坏、人身损害等——到目（mù）前为止，即使是专家也很难（nán）完全了解大规模（mó）模型的内在运行机制，并准确预测未来可能发生的伤害及其规模（mó），而且对如何抑制未来的大模型（xíng）伤害尚未形成共识。不仅如此，更危险的情形可能是，人工智能会（huì）有意（yì）或无（wú）意生成（chéng）执（zhí）行（háng）危险行（háng）为（wéi）的能力，甚至“学习掌握”如何影响人类使用（yòng）者，进（jìn）而鼓动（dòng）特定群体以破坏性甚或毁（huǐ）灭式（shì）方式行动。此时，人工智能承担（dān）责任就意（yì）味（wèi）着开发、设计、运行、使用人（rén）工（gōng）智能的主体将（jiāng）可以逃避法律（lǜ）制裁（cái），这是（shì）极不可（kě）取的结果，必须予以避（bì）免。尽管“刺穿人工（gōng）智能面纱（shā）”制（zhì）度可以减缓（huǎn）上（shàng）述不利后果，但是该制度应当有严格（gé）的适用要（yào）件（jiàn），不可常规性地使用，否则就有（yǒu）违人工（gōng）智能作（zuò）为法律主体的设计初衷。

情感（gǎn）、理性、意志不证（zhèng）成人工智能成为（wéi）法律主体

情感、理（lǐ）性、意志与人工（gōng）智能的法律主体问题（tí）有内在（zài）关联。一种观点（diǎn）认为（wéi），赋予法律主体（tǐ）的一个传统要素是，其必须能够有（yǒu）情感、理性、意（yì）志。尽管人（rén）工智能是以（yǐ）深度学习（xí）为基础，然（rán）而，既有的人工（gōng）智（zhì）能（néng）大都不存在情感。尽管有些人（rén）工智（zhì）能的技术领导者认（rèn）为（wéi），人（rén）工智能很快就向有情感的方向发展。然而，即使有情感，甚或是自（zì）主情感，人（rén）工智能也不应当（dāng）成（chéng）为（wéi）法律主体。因为相比很多人工智能而言（yán），很多动（dòng）物已经具（jù）有丰富的情（qíng）感甚至一定的自（zì）我意识。尽管（guǎn）动物可以获得某些权利（lì），然而从（cóng）主导价值观审视（shì），动物依然（rán）不（bú）能获得（dé）和人（rén）一样完全相同（tóng）或（huò）者高度相（xiàng）似的法（fǎ）律主体身份。我国民法典也采纳了此种立场。从规范（fàn）意义上评价，情感、理性、意志（zhì）并非赋予（yǔ）法律主体的必备要素。与此（cǐ）相关的是，即使人工智能（néng）的推理能力已经超过了（le）人类，也无（wú）法证成赋予其法律主体地位（wèi）是一种必备或（huò）者最（zuì）优的（de）解决方案。

在比较法上（shàng），的确有一些事物尤其是自然（rán）资（zī）源被赋予（yǔ）了法律主体资格，如部分国家通过（guò）立法赋予了珊瑚（hú）礁、河流或机（jī）器人以法律（lǜ）主（zhǔ）体资格。然（rán）而我们发（fā）现，这些特殊（shū）事物（wù）都没（méi）有在民事法律中成为法律（lǜ）主体，更没有（yǒu）在民事基础性法（fǎ）律——民（mín）法典中（zhōng）成为法律（lǜ）主体。2017年新西兰通（tōng）过立（lì）法（fǎ）赋予了旺格努伊河（hé）的法律主体资格，该法是与旺格努伊河毛利人妥协的一部分（fèn），是（shì）因（yīn）为（wéi）毛利人一直（zhí）认为该河有（yǒu）生命力，该法的通过能够（gòu）给毛利人（rén）带来希望（wàng）。在特别（bié）的法律中赋（fù）予其某些特（tè）殊利（lì）益或者权（quán）利，并不（bú）能在一般意义上证成其应当（dāng）成为法律主体（tǐ）。

人工智能不作为法律主体并不（bú）影响（xiǎng）人（rén）工智能（néng）法律制（zhì）度（dù）的变革

可以预见的是，人工智能已经或者在未来可能会经受伤害。基于人类的价值判断（duàn）以及现代法（fǎ）治文明，法律制度也不应故步自（zì）封，一个可能的预备解决方案是，尽管人（rén）工智能不应（yīng）当成为或（huò）者不是法律主体，但是有情（qíng）感的人工智（zhì）能机（jī）器人或者其他产品未来可能会（huì）受到法（fǎ）律的（de）特殊规制，以保护人类对（duì）它（tā）们的某些（xiē）情感利益和其他利益。

人工（gōng）智能的复杂（zá）性也会产生一些现行法（fǎ）很难有（yǒu）效解决的问（wèn）题。例如，大多数人工智能系统都是诸多开发人、设计者、所有人、经营者、用户之间通（tōng）过复杂的跨国协议产生的产（chǎn）品，在（zài）这一相互（hù）独立的关系的国际化（huà）网络中，确定某个或者某几个主（zhǔ）体来承担责任几乎不可能。不（bú）仅如此，基于不透明性（xìng）以及一些人工智能系统（tǒng）的自我（wǒ）学习性，伤害的风险可能是以（yǐ）一种负责开发的主体所不可预见的方式导（dǎo）致的（de），确定特定实体来承（chéng）担责（zé）任更是难上加难。这就（jiù）需要人工智能法律制度的（de）持续变（biàn）革。更好（hǎo）拥抱人工智能的方式是设定适应性的治理框架（jià），以保护人类的文明成果。人（rén）工智能促进人类向好的方向（xiàng）发展，就需要通（tōng）过多（duō）层次制度为基础的有效治（zhì）理来促使其（qí）具有可解（jiě）释性、可预测性（xìng）、可信赖性。