“通用人（rén）工（gōng）智能可能无（wú）法被治理，因为传统的（de）责任分配和惩罚执行（háng）方法（fǎ）并不（bú）适用。”

近（jìn）日，美（měi）国路易斯维尔大学（xué）教授罗（luó）曼（màn）·扬（yáng）波尔斯基（jī）（Roman Yampolskiy）就人（rén）工智能治（zhì）理问题接受了澎湃新闻（www.thepaper.cn）记者专访。

他认（rèn）为，在某些重要方面，我们（men）无法治理（lǐ）比（bǐ）人（rén）类更聪明的人工智能。“一个能力强（qiáng）大、富（fù）有（yǒu）创造力（lì）且不受（shòu）控制的通用人（rén）工智能最终可（kě）能会隐式甚（shèn）至明确地控制管理此（cǐ）类（lèi）智能软件的一些（xiē）机构和（hé）个人。”

罗（luó）曼·扬波尔斯基是美国路易斯维（wéi）尔大学网（wǎng）络安全实验（yàn）室的创（chuàng）始人和主任，著（zhe）有《人工超级（jí）智能：未（wèi）来的方法》等书（shū）籍。他（tā）的主要研究兴趣有人工智能安全、模式识别、生（shēng）物（wù）行为识别等。扬波尔斯（sī）基曾（céng）受邀出席2020年首届清华（huá）大（dà）学人工（gōng）智能合作与治理国际（jì）论坛。

通往通用（yòng）人工智能的尝试

通用人（rén）工智能（ Artificial general intelligence，简称AGI），有（yǒu）时也被称作（zuò）强（qiáng）人（rén）工智能，它所描述的（de）机器智能（néng）可以理解或（huò）学习人类所（suǒ）能完成的（de）任何（hé）智力任务。

多智能体（tǐ）系统（tǒng）教父、牛（niú）津大学计（jì）算机科学系主任Michael Wooldridge在接受（shòu）澎湃新闻（www.thepaper.cn）采访时表示，如果（guǒ）我们能（néng）构建具有人类全（quán）部能力和智力的（de）程序，那我们就将（jiāng）实（shí）现（xiàn）通用（yòng）人工（gōng）智能。但当前，“我们连通用人工智能的皮（pí）毛都还没有碰（pèng）到”。

关于人工通用（yòng）智能（néng）能否实现、何时实现的问（wèn）题，业内有不（bú）同的观点。部分人工（gōng）智能学者认为，人工通（tōng）用智能的（de）概（gài）念并不严肃，在实践中基本不可能（néng）实现。另一些人则十分看好人工通用智能（néng）的发展，认为它有可能（néng）塑（sù）造人类（lèi）的发展轨迹（jì）。

例如（rú），图灵（líng）奖得主拉吉（jí）·雷迪（Raj Reddy）认为，研究通用用途的人（rén）工智能毫无用（yòng）处。“用AI能开发出的东西（xī）是（shì）无穷无尽（jìn）的，但研究人员应专注研究如（rú）何用AI增（zēng）强人（rén）的能力，而（ér）不只是（shì）增强（qiáng）AI的能力”。 清华大学类脑计算中心主任施路平则表示，从未（wèi）来发展的角度看（kàn），人工通用智能是一个必然的趋势（shì）。

尽管学界（jiè）对是否应（yīng）发展通用人（rén）工智能存在分（fèn）歧，科研公司和高校已经开（kāi）始相关尝试，通用人（rén）工智能的伦理问题也（yě）日渐显现。

2019年7月，微软宣布向非营（yíng）利（lì）性（xìng）人工智能（néng）研（yán）究公司（sī）OpenAI投资（zī）10亿美（měi）元研发人（rén）工（gōng）通用智能。2019年（nián）8月，清华大学在学术期刊《自然》发表《面向（xiàng）人工通用智（zhì）能的异构天机芯片（piàn）架构》研究。2021年1月，谷歌和微软（ruǎn）相继在一份（fèn）权（quán）威自然语言理解榜单（dān）中表现超越人类（lèi），微软宣（xuān）称（chēng）这“标（biāo）志着迈向（xiàng）通用（yòng）人（rén）工智能的（de）重要里程碑。”

在采访中（zhōng），扬波（bō）尔（ěr）斯基介（jiè）绍，为了使未来的人（rén）工智能造福于全人（rén）类（lèi），针（zhēn）对人工智能的治（zhì）理计划试图通过（guò）建立（lì）监管框架（jià）和（hé）行业标准等方式，使人（rén）工（gōng）智能可（kě）以被各（gè）国政府、国（guó）际组织和跨国公司控制。

但他（tā）指出，直（zhí）接治理人工智能是没（méi）有意（yì）义的，“‘人工智能治理（lǐ）’这个术语暗（àn）示的是，通过（guò）规定允许开（kāi）发什么样产（chǎn）品和服（fú）务以及如何开（kāi）发，来管（guǎn）理（lǐ）人工智能研究员和（hé）创造者”。

他认为，无论对从事人工智（zhì）能研（yán）究的科学家和（hé）工程师实施何种管（guǎn）理，都取决于创建人工通用智能（AGI）的难（nán）度。

“如（rú）果创造通用人工智能（néng）所必需的计算资源和数据收集工作，在资金和人力（lì）资本方面与美国（guó）的曼哈顿计（jì）划（美国（guó）研制原子弹（dàn）的计划）相当，那么各国政府就有许（xǔ）多‘胡萝卜加大棒’，可以用来指导研究人员，并按照自（zì）己的（de）规（guī）范（fàn）塑造（zào）未来（lái）的人工智能。”

但另一种（zhǒng）情况下，他分析道，如果有更（gèng）有效的方法来创造第一个通（tōng）用（yòng）人工智能（néng），那么政府的监管尝试可能（néng）是徒劳的。“例如，一个青（qīng）少年在车库里（lǐ）用一台价值仅1000美（měi）元的笔记本电脑创造出第一个通用人工（gōng）智能。虽然可能性很小，但这种情况也需要考虑。”

总（zǒng）而言之（zhī），“历史上，很多（duō）对软（ruǎn）件治理（lǐ）的尝试，例如垃圾邮件、计（jì）算机（jī）病（bìng）毒和深（shēn）度伪造技（jì）术（Deepfake）等，都只取得了非常有（yǒu）限的成功。而作为一（yī）个独（dú）立代理，通用（yòng）人工（gōng）智（zhì）能（néng）可能无法被治（zhì）理（lǐ），因为（wéi）传统的责任（rèn）分配和惩罚执行方法并（bìng）不适用。”

扬波尔斯基认为，即使遇到第一种情况，即创造通（tōng）用人工智能需要（yào）密集的资（zī）源，我们仍然（rán）对人工智能（néng）的可预测性、可解释（shì）性和（hé）可（kě）控制性存（cún）在一些（xiē）既（jì）定的技（jì）术限制（zhì）。“至少需要（yào）这三种（zhǒng）能力（lì）才能够（gòu）部分实（shí）现对人（rén）工智（zhì）能的成（chéng）功监管，这（zhè）也就意味着（zhe），在某（mǒu）些重要（yào）方面，我们无（wú）法治理比人类更聪明的人（rén）工智能。”