人工智能技术不仅能快速赋能经济社会发展，也可能引发诸多与人工智能技术本身特征和发展高度相关的伦理问题。国际软法因具有灵活高效、适用成本低，能填补硬法空白，以及方便区分治理、分层应对伦理问题的优势，其在人工智能伦理治理领域的勃兴几乎是必然的。在该领域国际软法发达、硬法落后的现状下，面对国际软法主体间合作不稳定、有时得不到有效实施的治理挑战，治理模式逐渐向软硬兼备、软法“硬化”转变，以提高软法约束力与执行可能性。建议构造国际软硬法混合治理的“中心—外围”模式、构建间接执行机制，以完善人工智能伦理的国际软法治理对策。
正如过去工业时代的蒸汽机和电力一样，随着数据的积累、算法的进步，以及算力的提高，人工智能（AI）技术正重塑人类世界。ChatGPT（生成式预训转换机器人）的诞生就是智能机器人发展的一个阶段性进步。但是，在取代传统搜索引擎成为人类工作和生活更为便利的“百科全书”的同时，ChatGPT也使得人们产生诸如学生利用AI作弊、数据泄露、后台技术操控者价值渗透等伦理隐忧。
在数据智能社会背景下，全球范围内治理人工智能伦理的国际硬法缺位、国际软法发达。同时，国际软法也面临着国际软法主体间合作不稳定、有时得不到有效实施的治理挑战。目前国内外均尚未提出针对该领域治理困境的可行建议，因而本文主要考察当前国际软法治理人工智能伦理的现状及挑战，并提出国际软法治理对策。
1 国际软法治理人工智能伦理的现状
1.1 人工智能技术涉及的伦理问题
人工智能技术所涉及的伦理问题主要包括但不限于：合理性问题，指一项人工智能技术的应用伦理上的负效应接近或超过可容忍范围。可控性问题，指人类无法控制一种人工智能的持久存在及未来发展方向，那么它具有不可控性。重大社会问题，指人类面临的与人工智能伦理治理相关的不可逆的社会问题。社会伦理方面，数据信息环境的改变使人们易陷入“信息茧房”“过滤气泡”和“回声室效应”。市场经济方面，机器决策可能会产生“无用阶级”，以及平台垄断造成的阶层分化和固化，会深刻影响市场中的合作模式、竞争关系、雇佣关系、所有关系（所有权）及相关伦理规范。
1.2 人工智能伦理领域软法治理的必要性
作为一个综合性概念，以治理推动人工智能伦理的发展主要表现为2个方面：
- 世界上各国（地区）相继出台相应的法律法规来规范人工智能伦理；
- 人工智能伦理相关治理机构相继建立以监督人工智能发展。
由各国（地区）政府及其相关部门出台人工智能技术和与人工智能技术高度相关的数据隐私方面的立法，具有法律约束力；或者由国家共同制定的国际条约和国际习惯法等，对所有的国际法主体具有法律上的强制力。此时，人工智能伦理原则嵌入上述传统法律工具之中，会展现出“刚性”的一面（硬法）。与此同时，人工智能的复杂性、不确定性、不可预见性、跨部门及跨领域多主体的特征，共同决定了对其伦理进行治理时，治理的工具必须适应发展速率更快、利益更加多元的技术不确定性环境。非常“刚性”的规则、固定模式的法律（硬法）很难跟上技术发展节奏，难以灵活规制人工智能技术所产生的社会问题。伴随人工智能技术的发展成熟，面对人工智能引发的伦理问题，此时急需在科技伦理原则和规范的指导下，发展人工智能伦理治理的新方法。
1.3 人工智能伦理领域的国际软法渊源
本文在国际法领域对人工智能伦理的治理进行探讨，不涉及比较法领域的论证说明，因此本文采用国际软法一般定义——虽然缺乏国际法的法律约束力，但在国际实践中能产生实际效果的，在内容中包含有标准、规范、原则或其他行为规则的国际性法律文件。实践中人工智能伦理方面的国际软法渊源，主要来自联合国教科文组织（UNESCO）（政府间国际组织）出台的和其他国际组织（非政府间国际组织）制定的国际软法性文件等。
联合国教科文组织为推动各方遵守人工智能伦理原则，自2017年起积极制订国际软法性文件，短短4年间制订的文件在引导人工智能技术向着“负责任”的方向迈步；而其他国际组织制订的国际软法性文件，可以追溯到2005年（表1）。总体来看，关切人类福祉（“造福于人类”）、透明度和问责制是目前大多数国际软法性文件所必备的伦理要素。这些文件重点关注人的尊严，作为人工智能伦理的重要价值，关切人类福祉（“造福于人类”）的人权理念贯穿各文件始终。
1.4 当前国际软法治理的优势
与国际硬法相比，当前国际软法对人工智能伦理的治理优势有：
（1）国际软法具有重要的优势，更为灵活高效、适用成本低。
由于大部分国家政府（如美国、法国、日本）是不情愿通过先发制人的监管来阻碍新兴技术创新，各国政府会通过诸多建议、指南、行为准则、最佳实践、专业标准等国内软法，以尝试解决现实层面人工智能伦理问题。国际层面更是如此，非政府组织（如国际标准化组织）由于不涉及执法机制，可以灵活高效地出台国际软法性文件，这些文件（国际软法）总体上制订、实施环节的运行成本低于国际硬法。
（2）国际软法可以补充或完善硬法，通过填补正式法律空白，作为主要备用选项或治理工具。
国际软法不受有限机构授权的约束，因此可以解决技术引起的任何问题。而且由于没有被正式的法律机构采用，不限于特定的法律管辖区，而是可以具有国际适用性。例如，国际金融研究所（IIF）发布的《数据伦理宪章》（Data Ethics Charter），将有助于补充（而不是取代）国家和地区立法和条例（国内层面）、国际标准（国际层面）。
（3）国际软法有利于人工智能伦理的区分治理、分层应对。
目前，人工智能技术的发展尚处于弱人工智能阶段，大多数用途并不会产生高风险，也不需要我们面临诸如自动驾驶汽车“电车难题”的功利主义选择等类似伦理难题。对于低风险人工智能应用，在公司、民间社会团体、学术专家和政府的意见下制订的软法将是促进符合道德框架和原则的创新的关键方法。若软法能对人工智能伦理分级监管，对于高风险的人工智能应用，也可以成为硬法的重要补充。
2 国际软法治理人工智能伦理的挑战
2.1 国际软法主体间合作不稳定
鉴于人工智能应用的广泛性及其未来快速发展而导致的不确定性，当各国都选择对己有利的收益分配而不依赖具有强制效力的国际硬法来保证合作持续时，非国家行为体仅借助国际软法无法保证各国所作承诺的可信性。数字产品进行跨国数字贸易就属于“囚徒困境”博弈：各国国内施行数字贸易措施时援引世界贸易组织（WTO）或自由贸易协定（FTA）规则中的“安全例外”条款，极有可能是满足其国内数据伦理要求的；但在国际层面，这种维护各国自身利益的手段并不利于全球数字经济秩序发展。实际对每个国家来说，最优策略仍是他国对本国开放数字贸易市场，本国则对他国实行变相的贸易保护主义。当个体理性与集体理性相悖，容易造成各国违反在WTO或FTA规则中的相关数字贸易政策承诺，即使这极可能符合各国国内的数据伦理（包括人工智能伦理）要求，因此急需国际硬法来压制各国可能采取的背弃策略。虽然过去需要具有强制效力的国际硬法介入，但在目前各国间数字经济发展的相互博弈情况下，如何发挥国际软法特有的优势，并与未来可能形成的国际硬法相辅相成、共促稳定合作，是国际软法治理人工智能伦理所面临的挑战。
2.2 国际软法有时得不到有效实施
即使在跨国伦理规范范本中已经规定并描述了问责制，但是这些软法缺少正式、具体的责任划分制度，有可能在现实中得不到有效实施。例如，作为制订联合国全系统人工智能治理工作机构战略方针和路线图的领导机构，国际电信联盟（ITU）协调联合国各机构的参与。虽与所有有关联合国实体密切合作并酌情与外部伙伴密切合作，但只能作为“促进”协调执行的机构协调中心，其执行能力有限。此外，《人工智能伦理问题建议书》中第42条关于“责任和问责”方面，“应建立适当的监督、影响评估、审计和尽职调查机制”；其中，“适当”的措辞本身不具有强制执行力，其实施主要靠条文本身的吸引力、各成员国对价值利益取向的共同性等加以保障。仅依靠上述推荐性、建议性的软措施，难免造成软法有时得不到有效实施的结果。
3 国际软法治理人工智能伦理的对策
3.1 构造国际软硬法混合治理的“中心—外围”模式
（1）“中心—外围”模式的提出
在跨国法律体系中，国际硬法位居体系构造的中心，与被定义为外围的国际软法共同在国际层面构成“中心—外围”关系。在国际软法发达、硬法落后的人工智能伦理领域，在建立各方利益表达、补偿、协调机制时，国际软法具有治理功能上的优势和事实上的效力，但这并不代表着因其具有必要性而应处于中心地位。因为国际规范和专业标准形式的软法可在不引起治外法权问题的情况下施加影响，不受颁布法律法规的政府管辖权的限制，以市场为导向激励企业制订专业标准，可使全球市场消费者来检验标准的“好坏”（图1）。
国际软法的优势领域多数情况下仅限于事务性国际关系，而不是基础性国际关系。这是根据人工智能伦理全球治理技术性强、复杂多变的特性所决定。相较于国际硬法（传统国际法），国际软法实施起来更有弹性且方便修改。因为传统国际法调整外交、领土、承认等国家间的“共存”关系，对后来兴起的各国间有关人工智能伦理的“合作”关系，其基础性部分仍依赖稳定性强且可靠的国际硬法支撑。
因此，国际软法有时体现的只是过渡形式，一旦时机成熟，仍可将国际硬法对人工智能伦理的规制提上议事日程。如人工智能应用中的自动驾驶汽车伦理，就需要根据发生的不同交通事故危险程度厘清责任归属，最后将自动驾驶汽车伦理决策判断和选择所造成的损害后果进行认定，使车辆开发者、生产者、销售者、所有者按照具备伦理原则的国际硬法的规定去遵守。因为自动驾驶汽车产品开发的时间与国际硬法规则制定的时间相似或更长，所以适用于环境变化不太快的具体技术的硬法领域。
（2）“中心—外围”模式的要义
在人工智能伦理的治理领域，由国际硬法和国际软法构成的“中心—外围”模式的要义包括4个方面。
- 国际软法向国内硬法的渗透，尤其是技术标准经由国内法转化而具有约束力。
- 通常有意向发展人工智能技术的政府，会鼓励企业、用户群体、非政府组织、科研机构等多元监管主体积极参与相关行业协会对人工智能伦理的研讨，促进国内软硬法相互影响、相互转化。
- 各国国内企业、学术界和政府间国际组织等，可以出台各类围绕人工智能的特定用途的文件，以期将各国国内技术治理偏好向国际软法渗透，争取国际标准制订的话语权。
- 即使国际软法的影响力与国际硬法势均力敌，也不会从大局上影响国际软硬法混合治理的“中心—外围”模式。
综上，在企业及行业协会拟议人工智能伦理准则时，可以参考技术标准在相同议题上的规范，尤其是透明度、问责制、关切人类福祉等普遍性技术议题。例如，人工智能伦理中透明度原则的设立，可以采取国际软、硬法混合治理的“中心—外围”模式：利用硬法（由国家共同制定的法律）规制来解决更高层次、普适性较强的数据/算法/算力/知识突出问题，进行较强力度的底线约束，可以提高人工智能的可靠性；同时，利用软法（非国家行为体制订的规则）解决具体应用场景的个性化问题，允许比立法机构更接近技术的专家开发软法框架，提供有一定容错空间的韧性规范以指导技术的发展。
3.2 构建间接执行机制
人工智能机构间工作组（IAWG-AI）由联合国教科文组织和国际电信联盟共同领导，通过支持行政首长协调会和方案问题高级别委员会关于人工智能伦理的工作，寻求在人工智能相关问题上与相关机构间和多利益相关方机制合作。该工作组重点关注伦理领域，可在其基础上设立国际治理协调委员会，这既可以降低监督机构的设立成本，也可以提高国际影响力（图2）。若在人工智能伦理领域成立一个国际治理协调委员会，不仅可以拥有在人工智能机构间工作组中保持“技术中立”的专家资源，还可以提高行政首长协调会和方案问题高级别委员会所管辖事务的治理效率。
依据博弈论，通常情况下依靠各软法主体的“自我实施”，不需要有第三方强制性力量的保障和集中化的权力机构，辅之以非正式和非集中化的执行机制，如利害关系者的惩罚、社会压力及市场力量，就能促使国际软法得到事实上的效力。
（1）利害关系者的惩罚提高违法成本
一般基于硬法工具的威慑，利害关系者才会遵从软法。但非国家行为体对不遵守软法的利害关系者进行处罚，提高其违反软法的潜在成本，也可以形成事前的积极威慑并达到预防的目的。建议：国际治理协调委员会设置提高违反软法成本的惩罚措施，间接提高国际软法的执行力。
（2）社会压力促进声誉机制
违反国际软法的主体极易受到来自国际社会的压力，国家、跨国非政府组织、政府间组织等多利益攸关方的谴责都会使违法者名誉扫地。有些国际软法是名义上的软法、实质上的硬法，极大地损伤违法者的经济或商业利益，其惩戒制裁效果不亚于对其不利的国际仲裁裁决或司法判决。
建议：声誉机制围绕非国家行为体的倡议或规则执行，要求对破坏倡议或规则的国家进行惩罚，对维护倡议或规则的国家进行褒奖，从而使得各国为了维持国际社会良好声誉，迫于国际社会压力而承担国际社会责任。
（3）市场力量催生“网络效应”
当接受统一准则或标准的国家聚合，且使用该准则或标准的国家增加时，准则或标准对它们的价值也相应增加，从而吸引更多的国家自发聚合形成“雪球效应”。建议：
- 建立起多元化的参与路径，推动企业、行业协会、专家学者等多层次国际对话，利用科学期刊分享最佳实践以支撑标准化工作；
- 不同国家人工智能伦理规则在不同文化背景下的协调互动、交流碰撞，在国际交往中逐渐形成不成文的准则或标准（即国际惯例），从而促使各国在国际实践中去遵守约定俗成的人工智能伦理规范。
朱明婷 厦门大学法学院国际法专业2020级博士研究生，厦门大学法学院网络空间国际法研究中心研究助理。主要研究领域：网络空间国际法、数据伦理、金融科技等。
徐崇利 厦门大学法学院教授、博士生导师，厦门大学国际法学国家重点学科学术带头人之一。主要研究领域：国际经济法、国际私法及国际法基本理论研究。
文章源自：
朱明婷, 徐崇利. 人工智能伦理的国际软法之治：现状、挑战与对策. 中国科学院院刊, 2023, 38(7): 1037-1049. DOI: 10.16418/j.issn.1000-3045.20221003002
原标题：人工智能伦理的国际软法之治：现状、挑战与对策