2023年12月16日，由中国科协支持，复旦大学主办，中国科协创新战略研究院、中国科协-复旦大学科技伦理与人类未来研究院和复旦大学哲学学院共同承办的“2023科技伦理高峰论坛——数字技术时代中国科技伦理的理论与实践”在复旦大学光华楼西主楼30楼思源报告厅举办。

　　复旦大学哲学学院院长张双利主持了论坛开幕式。复旦大学常务副校长许征和中国科协党组成员、书记处书记王进展在开幕式上致辞。

　　围绕我国中山大学黄军就教授使用RISPR/Cas9技术首次成功修饰人类胚胎基因的案例进行了伦理上的讨论，并为其进行了正当性辩护。对于人胚研究是否有伦理越界问题，考虑到不同的人群对人类实体（Human entity）这一概念持有不同的价值观念，因此在研究前，科学家应与伦理、法律、社会学方面的学者和公众进行充分讨论，在充分了解这项技术的风险之后才能据此采取行动。

　　由于人工智能日益强大，现阶段人机伦理关系已经成为一个无法回避的议题。从技术层面上，价值对齐问题的解决思路可以依赖于基于人类反馈的强化学习、可扩展监督、可解释性和治理；从伦理层面上， “价值对齐”旨在确保人类创造的AI与人类拥有相同的价值观；从社会层面上，人工智能的智能化表现只是模仿人类的理性思维模式，但并不具备人类的情感、意志。人机关系伦理问题的关键在于确定人应当是人机关系的主导者，明确人类对AI的需求和目标。

　　人工智能的问题已从潜在问题变成了实存风险问题。目前的伦理规范仍有不足，法律是底线，数据、算法、平台和应用四点是重要方面，关键是研发者、教育工作者、媒体、政府、用户每个相关方都应在其中承担自己的责任。中国科技伦理的工作如何在社会和技术维度双落地需要考虑上述问题。人工智能面临着人类放弃自己的决策权、认知升级、误导公众几个伦理挑战，离成为责任和道德主体还有很严格的科技突破有待取得。我们必须预想超级智能到来时我们人类该如何应对，e价值对齐对于未来的超级智能来说完全不成立，弱小的人类难以让超级智能服从。人工智能与人类和谐共生，实现的方式是人与人工智能价值观的双向协同，而非单向校准。人类与人工智能的价值观需要协同演化，才能够促成和实现人与人工智能的和谐共生。

　　清华大学社会科学学院、中国科学院学部-清华大学科学与社会协同发展研究中心主任

　　新科技革命将带来颠覆性影响，新兴科技的出现将对传统社会确立伦理原则的“基础”和机制带来挑战，对传统社会的“自然基础”、人类“同一性”产生变革。由于技术的“后果”风险的不确定，当“后果”已显而易见时，控制已经变得代价高昂和缓慢，因此“后验选择”并不总是可行的选择。“科技伦理”治理不仅要促进科技事业健康发展，而且是人类文明健康发展的根本要求，应以“以人为本”为核心，研究、治理和教育与科学普及相协同，探索“科技时代”的文明社会的构建。

　　中国人民大学、现任教育部人文社会科学重点研究基地人民大学伦理学与道德理论研究中心主任

　　科技伦理是伦理学的当代形态，提出了很多道德难题，此时就需要从元伦理学、规范伦理学与实践伦理学三个层次去处理。需要追问人类的价值观是什么，人类的价值观本身是否对齐。共生、共赢和价值共享的纽带将人联系在一起，这个纽带本身就是好的，所有的能够维护这个纽带的就是善的。科技既给人类带来福祉，也威胁到人类的生存。根据当前的现实情况，负面影响更有可能成为现实。我们需要忧惧伦理学，只有在这种忧患中才能进行前瞻性的预防，因此责任在伦理中是最核心的概念。

　　中国社会科学院科学技术和社会研究中心主任、复旦大学科技伦理与人类未来研究院兼聘教授

　　当前新兴科技驱动的科技社会系统有革命性的变化，前沿科技研发将带来许多深层次的伦理风险。对于深层次科技伦理风险的预控和应对，要从树立科学认知的伦理边界意识入手，加强科技伦理意识建设；将伦理规范、法律规制和技术解决方案三个维度结合起来，设置合理的伦理法律门槛；形成一套技术-管理-制度协同的治理机制；推进科技伦理研究及科技伦理传播和教育；注重遵循相称性原则。科技伦理的治理策略可以采用协同共治，构建硬监管-治理协调-软治理协调机制。

　　北京大学哲学系科技哲学教研室主任、中国科协-北京大学科学文化研究院副院长

　　人工智能伦理领域的研究急速攀升，其中“透明性”成为关键议题，提高人工智能的可理解性与可信赖性成为新要求。关键问题在于，可信赖性需要嵌入到人工智能研发中，这一要求比可解释性更高，可解释性是科技问题，可信赖性是伦理问题，可理解性主要涉及情境主义因果观，可信赖性涉及多元主义因果观。而可解释性之于解决黑箱问题是不够的，国际提出的可理解性与可信赖性需要站到更高层次来思考。

　　特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。

　　“下班摆摊日入上千元”上热搜后，90后医生辞职：用一年时间创业，不行再干老本行

　　郑佩佩生前确诊罕见病，选择捐赠大脑用于研究；女儿悼念：母亲是最无私的人之一

　　瑞莎推出搭载英特尔N100的Radxa X4单板机：仅信用卡大小，60美元

　　英菲克 G2 头戴式游戏耳机上市：双层头梁 + RGB 灯效，69 元

　　单面无外缓 M.2 2280，消息称金士顿 NV3 固态硬盘 8 月 5 日上市

　　联想全新小新 Pad Pro 12.7 平板性能预热：天玑 8300 + UFS 4.0

　　女儿打完针哇哇大哭，爸爸一个动作宝宝瞬间不哭了。网友：“有了安全感就不哭了，爸爸给了满满的安全感！”...