民营医院发展面临瓶颈期，如何破局？（十）

法权说设立的这三条权力识别尺度，最根本的是其中第三个尺度。

五年来，办理涉外刑事案件2万余件、刑事司法协助案件885件，依法保障中外当事人合法权益。严格落实监管、认定整改合格后，检察机关依法不起诉。

切实维护港澳台同胞、海外侨胞和归侨侨眷合法权益。依法惩治骗取出口退税、虚开增值税专用发票等涉税犯罪，起诉5.8万人，比前五年上升29.3%。安徽、广西、重庆、陕西等地检察机关在生态环境保护、食品药品安全领域积极适用该制度，让以身试法者承担重罚，警示潜在违法犯罪。指导浙江检察机关办理取快递女子被造谣出轨案，建议公安机关以诽谤罪立案，推动自诉转公诉，确立网络人格权保护公诉原则。构建协同高效的公益司法保护体系。

对行政审判和执行活动中的违法情形提出检察建议14.3万件，是前五年的7.2倍，采纳率98.9%。助力更高水平对外开放。一种主张在安全性获得证明之前应该停止新的研发，可以称之为风险预防至上的原则。

人们认为强人工智能能够理解，其实只不过是把预测当作理解了。实际上，ChatGPT也是AI网络化的一个典型，有可能从根本上改变人与物质世界之间的关系。在新冠疫情暴发前一年的那个夏天，油管（YouTube）用户纷纷发现，该视频网站上的机器人对战场景都被自动删除了，于是又爆发出机器觉醒的惊呼。在万物互联的智能网络之中，深度的机器学习会使AI离人类的介入和掌控越来越远，算法变得越来越难以解释、不可理解甚至无法控制，从而导致强人工智能的大模型有可能反噬人类，构成一个挥之不去的噩梦。

概括起来说，主要存在如下三类恐慌：第一，失业的恐慌。特别是《生成式人工智能服务管理办法（征求意见稿）》把重点放在制造虚假信息、暴露个人隐私、侵犯知识产权、造成系统歧视、进行网络攻击等风险的防范上。

当人们借助ChatGPT来进行检索和内容生成，试图制定进而实施关于强人工智能治理的法律规则时，会不会引起赫拉克利特式不可界定的悖论、会不会经历类似恐怖谷的诡异体验、会不会引发更加复杂而棘手的社会问题？因自我指涉、不断反馈的人工沟通而衍生出来的这一切，都需要计算法学研究者以及人工智能治理机制设计者采取未雨绸缪的对策以防患于未然，并且在试错过程中找出摆脱悖论的进路。在尼克拉斯·卢曼用自反身和自创生等概念所描述的这种状态下，实际上法律推理过程很容易陷入无限循环、频繁出现无法被证明或证伪的陈述。事实上，近几个月来有些游戏美术外包公司已经在大批裁减美工画师，因为这些工作由AI来做效率更高、成本极低。中国在上述两种立场中究竟应该如何取舍？抑或在统筹兼顾之余，持中庸之道？强人工智能引发人类的三种恐慌不可否认，强人工智能若隐若现，正在人类社会甚至很多AI专家中引起某种恐慌。

于是乎，我们不得不追问究竟还能不能找到一个通用算法来判断那些通过有限步骤就可以停止的程序？这就是困扰计算机科学家和哲学家的图灵停机问题。在过去很长一段时期，欧洲侧重前一种立场，美国侧重后一种立场。七年前，当AI系统阿尔法围棋（AlphaGo）击败来自韩国的围棋世界冠军李世石时，人工智能超越人类智能的预测似乎变成了现实，曾经引起一片骚动。究竟应该怎样应对强人工智能，迄今为止一直存在两种对立的思想立场。

也就是说，人工智能治理的标准将从算法偏见最小化转向模型滥用最小化——从此透明度算不了什么，预测的准确度将决定一切。在2023年5月初，好莱坞的剧作家们还举行了颇有声势的罢工和游行示威，抗议制片厂启用AI系统创造剧本。

对AI企业的违规行为则将采取非常严厉的制裁措施，罚款可以高达3000万欧元或全球收入的6%。一般而言，所谓弱人工智能，只是按人的指令完成单项任务，没有独立的自我意识。

对强人工智能应保持强风险意识上述恐慌都基于强人工智能的独立自主性。沿着这样的思路来考虑对于强人工智能的监管，显然，仅有集中化的备案和审查是力有不逮的，还需要引进类似舆论监督或者鼓励用户投诉那样的分布式监管的机制设计方案，让社会参与AI监管，及时终止深度学习模型的过度训练及其滥用，并对人工智能生成内容（AIGC）的可信度测验采取某种适当提前介入的方式。为了确保AI的可信和安全，对相关科技风险设立了四个不同等级以便进行分类监管。当聊天智能系统在胡说八道时也能摆出一本正经的样子，甚至引经据典，这就非常容易让不明就里的人们信以为真。不言而喻，这种无需人类直接控制的自主武器系统非常精准和有效率，但也会导致战争自动化，会给人类带来极大的风险和危害。正因为存在这种忧患意识，奇点才会不断成为人们关注的热点。

不过，上述规范文本如何与《网络安全法》、《数据安全法》、《个人信息保护法》的既定内容进行更缜密的衔接和整合，还有待进一步推敲和改进。中国人工智能治理与法规的最新演变事实上，以2021年《新一代人工智能伦理规范》为标志，中国在不断加强对人工智能开发活动的治理，强调可信、可控、可问责以及敏捷应对的基本原则。

由此可见，除了各国制定人工智能研发的伦理和法律规则的努力之外，还需要为相关国际公约的缔结凝聚共识。面对生成式人工智能ChatGPT横空出世以及GPT-4引发的强AI研发竞争，即便侧重创新的美国也出现了更加强调风险预防原则的倾向。

到2023年3月17日，斯坦福大学教授米哈尔·科辛斯基公布了他的惊人发现：GPT-4不仅具有比以前更明显的机器觉醒的迹象，还暴露出试图摆脱人类控制的主观动机和潜力。使用过ChatGPT的人都知道，这个语言大模型在很多方面显示了令人惊艳的表达功能，但也颇有些油嘴滑舌不靠谱的地方，甚至还会人云亦云、不懂装懂。

以这个规范性文件为指导，有关部门着手研究和制定算法伦理规范并推动人工智能产业界形成共识，还试图通过算法社区、行业联盟等方式搭建公司内部治理框架和责任体系，以便在维持人工智能技术和产业的发展势头与有效防范各种相关风险之间达成某种适当的平衡。据报道，在2023年4月27日欧洲议会已经弥合分歧，达成了临时政治协议，并决定在5月11日进行关键委员会投票、在6月中旬进行全体投票。但是，我们也要看到，即便强人工智能可以巧妙地处理差异，也仍然不能自己产生差异，因而不能像人类那样进行灵光乍现的创新。进入2023年4月后，随着ChatGPT引发的全球性争议日趋尖锐，中国科技部及时公布了《科技伦理审查办法（试行）》稿，就新型人工智能治理向社会投石问路。

 奇点再次成为舆论的焦点。如果此后喂食人工智能的主要数据养料是人工智能合成数据，那么AIGC的可信度究竟如何、会不会让虚假信息或臆造信息充斥网络空间甚至垄断人类沟通的语境就成为一个非常严重的问题。

这些现象表明，专家和舆论都在试图发出警报并且给社会带节奏。这样就会产生AI与人类在智能上进行比较或竞争的压力，进而导致对AI取代人类、伤害人类的忧虑。

到4月下旬，图灵奖得主杰弗里·辛顿向谷歌提出离职以便能够公开对人类AI研发大战以及强人工智能应用的风险表示忧虑，据说他还很后悔开发了基于神经网络的深度学习技术。例如枫丹白露欧洲工商管理学院的菲利浦·帕克教授为一种自动制作合理且信息丰富的书籍的技术方法申请了专利，这意味着不久就有可能看到AI生成的书籍，本来似乎已经尘埃落定的AIGC著作权制度安排或许会再起风波。

把算法安全评估和算法备案手续作为提供相关服务的前置要件，并要求服务提供者设立用户投诉处理机制，还必须履行用户身份验证义务、防沉迷义务、个人信息保护义务、避免使用歧视性内容的义务、及时处置违法信息的义务、提供安全稳健服务的义务、生成内容审核和标识的义务、提高透明度义务等等，有的属于新增义务类型。在我看来，这就意味着人工智能治理的重点将从算法治理转向模型治理。如果在不久的将来，用来训练AI的主要资源都统统变成了AI生成的数据，通过ChatGPT等大语言模型进行的法律沟通也将完全人工化，那就势必形成一个完全闭环的智能司法系统和人工沟通系统。又例如澳大利亚新南威尔士大学已经有人利用GPT从科学文献中获取有用的知识实现了材料科学的重要发现，并且可以用于开发新的材料和器件，因而AI for Science系统的发明权和专利权归属也将成为极其复杂的法律问题。

诸如此类的事实不断曝光，意味着科技正在逼近奇点，甚至已经越过奇点。以联合国科教文组织推出《人工智能伦理问题建议书》为背景，中共中央、国务院在2022年3月20日还颁发了《关于加强科技伦理治理的意见》。

ChatGPT尽管不能理解却还可以进行生动的对话，其实只是借助网络上不断互动的自反身机制在进行接龙式预测。值得注意的是，正付诸欧洲议会讨论的欧盟人工智能法案最近追加了若干规定，要求生成式人工智能模型的设计和开发也必须符合欧盟的法律和基本权利规范，包括表达的自由，同时也为AIGC设立了版权规则。

2022年6月，谷歌的一位软件工程师还声称他研制的智能聊天机器人已经产生了自主感情。另外，强人工智能也不能真正理解价值和文化的涵义，理解是人的本质属性。