编者按 随着新兴科技的蓬勃发展，科技创新和应用的不确定性后果与深远社会影响日益凸显，带来了诸多不容忽视的价值冲突与伦理争议，科技伦理治理成为全球科技创新与科技治理必须面对的全新挑战。为此，本报特组织一组文章，以期激发进一步讨论和思考。

核心提示

■必须将科技创新与科技伦理的关系重置为“并行”关系——不仅在科技创新之初就要对其价值伦理问题有所考量，而且要使科技伦理成为贯穿于科技创新全生命周期的反馈与调节机制。

■科技伦理治理涉及多个主体和利益相关方对具体的科技伦理风险的共同感知、探究与应对，必须借助各种评价工具和政策工具对相关问题加以评估、测试和干预、校准。

近年来，我国在数字技术、生物医学和人工智能等领域的创新与应用，出现了跨越式发展的良好势头，越来越多的人享受到科技进步的红利，科技创新成为人们创造美好生活的关键动能。但与此同时，一些新技术侵犯了公众权益，违背了科技造福社会的初衷，潜在伦理风险使企业等创新主体陷入对ESG（环境—社会—监管）风险的焦虑之中。在我国努力迈向创新型国家前列的今天，为了尽力减少科技伦理风险及其不利影响，科技伦理治理的体制、机制建设成为我国国家治理的重要环节。

为了构建符合中国国情的科技伦理治理体系，继颁布《新一代人工智能治理原则——发展负责任的人工智能》（以下简称《原则》）之后，相关部门正在加紧探讨和制订更具一般性的科技伦理原则，国家科技伦理委员会的组建以及科技伦理审查制度的构建等工作也在进行之中。

科技创新与科技伦理共同发展

科技创新及其爆炸性的增长态势，使其日益成为影响科技—社会—经济—生态巨系统的重要力量，科技创新的过程与后果往往涉及各种复杂的价值冲突与伦理抉择，这使得科技创新与科技伦理的共同进化成为当代科技活动的内在要求。

在核能、航天、化工等传统的科技活动中，科技创新与科技伦理主要呈现为一种“串行”关系，一般是在对科技创新所引起的安全风险、社会争议和不良后果加以评估的基础上，开始对其加以必要的伦理反思与约束。但随着基因、纳米材料、人工智能、虚拟现实、神经科技等新兴科技的出现，不论是科技人员还是科技管理者或社会公众，逐渐形成的一个共识是，这些领域的科技创新在可能为社会带来巨大好处的同时，也可能导致严重加剧社会不平等和对生态环境造成不可逆的破坏等高度不确定性的风险，必须将科技创新与科技伦理的关系重置为“并行”关系——不仅在科技创新之初就要对其价值伦理问题有所考量，而且要使科技伦理成为贯穿于科技创新全生命周期的反馈与调节机制，通过两者的共同进化，让科技在造福社会的同时尽可能减少负面后果与伦理风险。

面对新兴科技的价值伦理挑战，单靠科技共同体的科研伦理和专业伦理难以应对科技创新的伦理风险，必须通过引入科技伦理治理，构建健全的科技伦理准则体系，开展更具有预见性、动态性和广泛参与性的科技伦理评估，从而在充分促进科技创新并使社会公众受益的同时，避免由不合伦理的科技滥用所导致的权利侵犯、环境破坏乃至人类生存风险。

准则构建与教育传播齐头并进

科技创新与科技伦理的共同进化这一科技活动的内在需求表明，科技伦理治理必须对不断拓展的科技领域展开拓展动态治理，但像所有的动态治理一样，首先要通过原则与准则的构建确立治理的立足点。从国家科技伦理治理工作的角度来看，不论是已经出台的《原则》还是将来可能颁布的面向科技工作者的科技伦理准则，在内涵上都超越了一般的管理规范和专业伦理规范，同时具有伦理和治理两个层面的规范性。一方面，这些原则和准则具有伦理规范性，它们是对增进福祉、尊重生命、权利保护、负责任的创新等人们在科技活动中普遍认同的价值的概括和权威性的阐释；另一方面，这些原则和准则将成为科技伦理治理工作的出发点，在此基础上，可以通过伦理指南、伦理审查、伦理评估和伦理建议等科技伦理治理机制与工具，对相关科技创新中的相关伦理问题进行调研、预判、审议和调节。

同时，在国家层面提出科技伦理准则和治理原则必须要有相应的教育传播举措与之配套。虽然我国在与科研诚信相关的科研伦理准则建设方面已取得一定的成绩，但除生命医学以外，应对科技的广泛伦理影响的科技伦理准则建设还在起步阶段。因此，一是要在科技与工程的高等教育与青年科技工作者的专业培训中，以对科技伦理准则和治理原则的解读为抓手，加强科技伦理意识和科技伦理规范教育；二是要在科技管理部门和其他相关政府部门的干部培训中，强化对相关科技伦理准则和治理原则的学习，并促使其将科技伦理意识运用于工作之中，以避免和减少相关决策和行政举措的科技伦理风险；三是要在全社会以多种形式广泛传播科技伦理准则和治理原则及其背后的科技知识和科技伦理意识，使社会公众能够积极主动地参与到科技伦理治理相关讨论之中，促使科技更好地造福社会。

刚性监管与敏捷治理相辅相成

以科技伦理准则和治理原则的确立为切入点，科技伦理治理工作将通过科技伦理审查制度的建立和实施对科技创新的伦理风险展开系统的规制与调节。一方面，将科技伦理准则和治理原则与具体的科技伦理风险相结合，为科技创新设定科技伦理的边界与底线，通过应急性与预防性的科技伦理审查，对一些具有显见或潜在的巨大科技伦理风险的研究和创新施行刚性监管。另一方面，从预期性、均衡性和适应性等原则出发，将科技伦理原则与治理原则作为科技创新的柔性约束机制，对科技创新实施敏捷治理。

为了及时有效地克服科技创新可能导致的重大伦理风险，应在科技伦理治理层面引入一系列制度化的监管机制。一是建立科技共同体和科技创新过程的早期预警系统。对于包括重大安全事故隐患、严重违背人类基本伦理共识和导致人类生存风险的重大科技伦理风险，事后的规制和惩罚往往于事无补，必须通过早期预警系统的及时预警才可能规避。为此，科研机构和科技专业学会、协会应该由行政负责人与业务带头人共同承担起早期预警的责任。二是要充分认识到，我们对于科技创新的可能风险存在认识上的盲区，鼓励科技创新者对于潜在的巨大风险特别是处于“未知的未知”状态的重大风险展开研究，并且在一些重点领域对特定的重大风险感知和应对研究予以重点支持。三是聚焦导致重大科技伦理风险的不良实践特别是最差实践，将其纳入科研事故管理，通过对其原因的追溯性分析，充分总结其中的教训，并根据举一反三的原则对相近和类似领域的研究者予以警示。

敏捷治理的基本主张是面对与科技创新相伴随的各种复杂的伦理风险，应以科技创新与科技伦理的共同进化为认知前提和实践策略。首先，要从预期性原则出发，在科技规划制定工作中，加强对科技的社会影响与伦理风险的预见研究，尽可能一开始就把事情做好；其次，立足均衡性原则，敏捷治理始终根据科技创新的动态发展寻求可接受的风险—受益，并对最终的不得不接受的伦理风险予以制度化的补偿；其三，坚持适应性原则，将科技伦理问题作为科技创新的广义社会需求，鼓励科技创新者努力探索如何将价值和伦理上的考量嵌入到科技创新的设计与应用之中，通过负责任的研究和创新促进科技向善。

多元共治与能力建设双管齐下

科技伦理治理既是科技管理的新范式，也是新时代国家治理现代化探索的前沿领域。科技伦理治理模式之所以出现的关键原因在于，以往的科技管理和科技共同体自治的二元治理模式难以适应新兴科技创新导致的科技伦理挑战。但不难看到，科技活动的高度专业性使得科技伦理治理不可能完全以行政化的方式运作，而必须诉诸多元共治。毋庸置疑，科技伦理治理所开展的准则制定和国家科技伦理委员会的设立等工作起到的是权威引领与示范指南作用。在这一顶层架构下，必须通过具体的研究机构、科技共同体、科技工作者、科技管理者以及其他利益相关者的努力，使这一模式延伸到具体的科技创新实践之中。

更进一步而言，科技伦理治理涉及多个主体和利益相关方对具体的科技伦理风险的共同感知、探究与应对，必须借助各种评价工具和政策工具对相关问题加以评估、测试和干预、校准。而这些工作的前提是相关主体对具体的科技伦理风险的认知和共识。这对科技人员、科技管理者和一般公众的能力建设提出了诸多挑战，其中最为重要的是对科技活动的道德敏感性和责任感的养成。为了改变这一局面，可以引入两个工作策略。一是柔性学习策略，通过对话、辩论等方式，加强科技工作者与人文社会科学家对科技伦理问题的研讨，提升科技工作者对科技伦理风险的认知，形成和强化相应的道德敏感性和责任感。二是刚性的校准策略，即在项目申请、管理、结项和社会评价等环节引入伦理风险自评等硬性要求，倒逼科技人员和管理者关注科技伦理风险、反思其应承担的伦理责任。

（作者段伟文系中国社科院科学技术和社会研究中心主任、研究员）