【专家点评】

　　作者：段伟文（中国社会科学院哲学所研究员）

　　本世纪以来，纳米、人工智能、基因科技、合成生物学等颠覆性科技方兴未艾，在生态系统、生命构造和人类认知的深度科技化时代，科技已成为无远弗届和人类须臾不可离的强大力量，同时也带来了越来越多亟待应对的伦理困境与道德抉择。为此，世界各国对科技伦理问题及其治理日益重视，我国率先从国家层面颁布了加强科技伦理治理的指导意见，明确了迈向科技高水平自立自强之路应该遵循的价值导向、伦理原则和治理框架，确立了科技走向负责任的研究与创新的路线图。为了使这一蓝图真正转化为全社会的认知与行动，切实提升我们的思想认识，就要对深度科技化时代的科技的伦理价值、伦理原则和伦理责任等问题展开必要的伦理反思与追问。

　　科技伦理治理主要是对科技活动的伦理调节与制度化治理，而其前提是要认识和揭示科技活动在目的、方法、过程及后果等方面蕴含和负载的伦理价值。只有首先搞清楚这个问题，才能在全社会形成科技伦理意识，才能对科技的伦理价值取向作出评价和矫正。如果将科技纳入作为整体性社会存在的科技社会系统，不难看到科技活动不仅具有认知价值和工具价值，还涉及社会与伦理价值。在科技活动中，研究什么和进行哪些创新都直接和间接地蕴含着伦理价值。尤其在深度科技化时代，科学、技术和社会的互动与纠缠日益加剧，如在生命科技等领域基础研究和应用研究的转换如同旋转门而难以区分，这令伦理价值愈发深入地内嵌到科技活动的各个环节。

　　由此，面对深度科技化时代充满不确定性的伦理风险，为了确保科技用于增进人类福祉和科技向善，科学家和工程技术人员必须在研究创新之初，就要通过反思和对话等方式，认真考量其中所蕴含和可能触发的各种伦理价值问题，并将这种思考贯彻科技活动的全生命周期。具体而言，要有效克服诸如突破伦理底线的生命科技盲动和数字技术滥用等科技发展中遭遇的伦理困境，通过伦理先行防治伦理风险于未病，关键在于将伦理价值对齐作为优先事项，即在追问渗透于科技活动中的伦理价值现实的基础上，运用增进人类福祉、尊重生命权利和实现公正公平等科技活动应该遵循的伦理原则对其加以必要的校准、调适和引领。

　　在此基础上，必然要进一步追问的是如何构建适切的伦理原则，为人类驾驭科技力量提供必不可少的指南针和方向盘。目前，国际组织和世界各国出台的科技伦理原则建立在科技以人为本、尊重人的生命权利等人类共同的伦理观念之上，我国则进一步凸显了以人民为中心推动科技向善和科技为民的宗旨。而如何理解这些科技伦理原则出台的背景及其对于科技伦理价值的规范性内涵，是科技伦理治理中需要厘清的第二个问题。

　　一方面，科技伦理原则是对于重视科技伦理问题乃至构建科技伦理治理体系的承诺。近年来，在人工智能战胜人类围棋棋手和基因科技领域的科技伦理事件的推动下，从国际组织、世界各国到相关科技领域和行业出台了大量的科技伦理准则、标准和规范。这些科技伦理原则在短时间的大量涌现表明，信息、生命、智能科技的迅猛发展的确遇到了亟待正视的伦理困境，迫使科技与科技管理的相关主体不能不通过伦理原则的颁布作出伦理承诺。这些伦理承诺表明颠覆性科技的发展以往过于追求成果和效率，而在伦理价值考量上存在缺失，为了弥补这些缺失，应以切实的行动进行必要的伦理回调。而我国出台的指导意见中所提出的科技伦理原则实际上向构建国家科技伦理治理体系迈出了第一步。

　　另一方面，必须认识到科技伦理原则的内涵与一般的伦理规范和道德准则中相对稳定的内涵不同，对科技伦理原则及其蕴含的伦理观念的内涵的把握要考虑到具体的研究领域、应用场景和科技内涵。除了要根据知识、技术、领域和场景的不同而在细化和排序上进一步阐发之外，科技伦理原则及其伦理观念更多地要充分考虑研究与创新的开放性。而这就需要通过科技与伦理的跨学科研究以及科技与人文的对话，才能在科技活动中赋予科技伦理原则及其伦理观念不断更新的内涵，从而更有效地发挥其规范作用。

　　最后也最为重要的问题是，如何使得伦理价值考量和伦理原则的构建落实为科技活动中行为主体的伦理责任。对此，至少应从三个方面作出切实的努力。其一，通过社会的普遍认知推动全社会对科技伦理责任的高度重视。科技伦理治理必须建立在全社会对科技伦理价值问题的认知与共识之上，这就需要针对科技的伦理价值问题展开多层面的广泛对话乃至辩论，让重大科技伦理问题能够成为社会关注的议题，成为人们普遍关注并思考的对象，帮助人们将伦理价值纳入对科技未来的社会想象之中，促使人们思考什么样的科技未来是他们真正想要的。其二，依法合规、伦理设计和伦理前瞻相结合，消除积累下来的问题、克服正在发生的问题、预防潜在的风险。鉴于依法合规与伦理设计主要针对的是既有问题，应该将敏捷治理的原则与伦理预见、伦理风险评估等伦理前瞻性研究相结合，在研究和创新之初就及时跟踪可能的伦理问题，并适时制定伦理高风险清单，提出前沿伦理指南，为后续的分级治理创造条件。其三，构建多元共治和具有自我反思力的科技伦理治理体系。一则，可以通过科技伦理委员会的建立让科技活动的相关主体更加积极主动地参与到科技伦理治理的各个环节之中。为了避免认知缺陷和团体思维等认知偏差，应该在伦理委员会成员的构成中充分考虑学科交叉、背景代表性等因素。二则，高度关注由不同主体之间、人与机器之间相互推诿和无法具体追责而导致的责任落差，通过技术、管理和制度上的设计，尽可能使科技活动的责任从一开始到全生命周期都没有形成责任落差的死角。三则，科技伦理治理的责任落实呼唤新的跨学科的科技伦理构建师，他们既可以是投身科技伦理治理实践的科技伦理学者和技术哲学研究者，也可以是科学家和工程师中对伦理价值问题有兴趣和研究的人。

　　深度科技化时代，科技伦理治理任重道远，投身科技伦理治理热土的科技伦理和技术哲学研究实践将大有可为。