筑牢伦理基石,赋能创新发展――深入解读《人工智能科技伦理审查与服务办法(试行)》

科技创新,伦理先行。科技伦理是人类社会伦理价值在科技领域的延伸与拓展,是开展科学研究、技术开发等科技活动需遵循的价值理念与行为规范。习近平总书记高度重视科技伦理建设,2021 年 12 月 17 日,在主持中央全面深化改革委员会第二十三次会议时强调:“科技伦理是科技活动必须遵守的价值准则,要坚持增进人类福祉、尊重生命权利、公平公正、合理控制风险、保持公开透明的原则,健全多方参与、协同共治的治理体制机制,塑造科技向善的文化理念和保障机制。”2023 年 10 月,习近平总书记提出《全球人工智能治理倡议》,明确“坚持伦理先行,建立并完善人工智能科技伦理准则、规范及问责机制,形成人工智能科技伦理指南,建立科技伦理审查和监管制度,明确人工智能相关主体的责任和权力边界”。这些重要论述深刻阐明了科技伦理对保障科技安全的意义,为加强科技伦理治理提供了根本遵循。

筑牢伦理基石,赋能创新发展

――深入解读《人工智能科技伦理审查与服务办法(试行)》

敖立   中国信息通信研究院副院长

工业和信息化领域科技伦理专家委员会副主任委员

引言

科技创新,伦理先行。科技伦理是人类社会伦理价值在科技领域的延伸与拓展,是开展科学研究、技术开发等科技活动需遵循的价值理念与行为规范。习近平总书记高度重视科技伦理建设,2021 年 12 月 17 日,在主持中央全面深化改革委员会第二十三次会议时强调:“科技伦理是科技活动必须遵守的价值准则,要坚持增进人类福祉、尊重生命权利、公平公正、合理控制风险、保持公开透明的原则,健全多方参与、协同共治的治理体制机制,塑造科技向善的文化理念和保障机制。”2023 年 10 月,习近平总书记提出《全球人工智能治理倡议》,明确“坚持伦理先行,建立并完善人工智能科技伦理准则、规范及问责机制,形成人工智能科技伦理指南,建立科技伦理审查和监管制度,明确人工智能相关主体的责任和权力边界”。这些重要论述深刻阐明了科技伦理对保障科技安全的意义,为加强科技伦理治理提供了根本遵循。

近日,工业和信息化部等十部门联合印发《人工智能科技伦理审查与服务办法(试行)》(以下简称《办法》),对人工智能科技伦理审查与服务提出明确要求,这是深入贯彻习近平总书记重要论述,促进人工智能产业科技创新高质量发展和高水平安全良性互动的重要举措。

一、科技伦理引导人工智能健康有序发展

近年来,在技术创新与商业应用的双轮驱动下,人工智能正加速与实体经济深度融合。其不仅在互联网等数字原生领域实现规模化应用,还逐步渗透到金融、医疗、交通等行业,在重要场景中的赋能成效显著。然而,随着技术快速演进与应用领域拓展,人工智能带来的算法歧视、深度伪造等伦理问题愈发凸显。

人工智能科技伦理治理是引导科技创新方向的 “指南针”。一方面,它能引导企业开展符合伦理要求的技术创新,推动研发团队将伦理要求贯穿于人工智能研发应用全过程,避免单纯追求技术性能而忽视潜在伦理风险;另一方面,能有效促进伦理相关技术研发,如可解释性人工智能技术、隐私增强技术等。此类技术突破不仅有助于解决当前人工智能面临的伦理困境,还能开拓新的技术应用领域。

人工智能科技伦理治理是促进产业健康发展的 “方向盘”。通过治理,能有效解决人工智能应用中的伦理问题,如隐私保护、偏见歧视等,增强公众对人工智能的信任,为其广泛应用奠定坚实基础。以医疗领域为例,符合伦理要求的人工智能辅助诊断系统能更好地协助医生进行疾病诊断与治疗方案制定,提高医疗服务的准确性与效率,推动人工智能在医疗行业的深度融合,开拓庞大市场。同时,伦理治理能规范产业行为,降低伦理风险,为产业营造良好发展环境,促进其长期稳定发展。

人工智能科技伦理治理是提升国家竞争力的 “助推器”。当前,人工智能科技伦理治理已成为全球关注焦点。联合国教科文组织于 2021年11月发布《人工智能科技伦理问题建议书》,欧盟、美国、日本等国家和地区也通过建立人工智能专家委员会等方式,推动负责任的人工智能技术发展。良好的伦理治理环境,一方面能吸引更多国际合作伙伴,促进产业合作与交流;另一方面,能在全球范围内树立我国人工智能企业负责任的形象,助力相关产品和服务获得国际市场认可,提升国际竞争力。

二、服务人工智能行业发展,聚焦科技伦理治理重点问题

(一)加强科技伦理服务,支持促进人工智能科技伦理发展

与《科技伦理审查办法(试行)》相比,《办法》增设第二章 “服务与促进”,从标准建设、促进服务、鼓励创新、宣传教育、人才培养五个方面提出举措,赋能产业发展。当前,全球人工智能科技伦理治理已进入快车道,治理重点从伦理原则转向落地实施,推动治理技术化、工程化、标准化成为关键。我国人工智能科技伦理治理面临技术手段待突破、治理缺乏统一标准、工具匮乏等挑战,需通过鼓励技术创新、制定伦理标准、推进伦理服务等方式应对。此外,人工智能科技伦理治理不仅是技术问题,更是社会问题,因此通过宣传教育提升公众伦理素养、通过人才培养加强科研人员伦理意识,是防范伦理风险的重要举措。

(二)立足人工智能特点,促进人工智能科技伦理审查落地

《科技伦理审查办法(试行)》是覆盖各领域科技伦理审查的综合性规定,对审查基本程序、标准、条件等提出统一要求。与生命科学、医学相比,人工智能科技伦理因技术特征具有独有特点。因此,《办法》在遵循通用办法基础上,充分考虑人工智能特点,在适用范围、申请材料、审查重点、简易程序适用等方面进一步完善细化,以更适用于人工智能科技伦理审查。例如,《办法》第十五条规定,人工智能科技伦理审查除关注科技人员资质、积极作用、风险控制方案等常规内容外,还需遵守增进人类福祉、公平公正、可控可信、透明可解释、责任可追溯、隐私保护等人工智能科技伦理要求。

(三)优化伦理治理,尽量降低创新主体伦理管理成本

考虑到中小企业难以成立科技伦理委员会的现实,《办法》提出建设专业性人工智能科技伦理服务中心(以下简称“服务中心”)。第十一条对 “服务中心” 的设立、业务、要求进行细化,明确其可接受中小企业委托,提供伦理服务。为避免重复监管,《办法》第二十六条规定了与其他监管措施的衔接。此前,网信办发布的《互联网信息服务深度合成管理规定》《互联网信息服务算法推荐管理规定》等文件,已将符合科技伦理要求作为审批条件或监管内容,针对此类人工智能科技活动,可不再开展专家复核,大幅降低了企业合规成本。

三、不断完善人工智能治理生态,筑牢人工智能产业健康发展根基

当前,人工智能科技伦理治理仍面临不少现实挑战。一是技术迭代快于治理规则完善,新场景、新应用不断涌现,伦理风险具有隐蔽性、突发性、不可预测性,现有规范难以全面覆盖。二是伦理原则落地难,企业面临产品性能和伦理要求的平衡,管理成本高。三是治理支撑体系尚不完善,缺乏国际权威的第三方伦理测评标准和认证体系。未来,应以《办法》出台为契机,坚持发展和安全并重,不断完善治理生态,推动人工智能产业高质量和可持续发展。

(一)推行敏捷治理,以柔性监管护航技术创新

一是健全政府与创新主体常态化沟通协作机制,建立伦理风险信息共享、协同处置的工作格局。二是鼓励企业创新,在守住安全底线的前提下,允许企业在尽到合理监管义务时容错纠错。三是建立技术发展与伦理风险动态监测机制,及时完善政策规范,实现治理与技术发展同频共振。

(二)深化协同共治,以多元参与筑牢责任链条

一是完善政府、企业、科研机构、科技社团组织、社会公众等共同参与的多元治理体系,明确各方定位与职责。二是健全“政府引导 + 企业自律 + 第三方支撑” 的协同运行模式,将伦理要求嵌入人工智能全生命周期。三是加强科技伦理科普与培训,通过多种渠道、更加丰富的传播方式,营造全社会共同关注、共同参与、共同监督的良好生态。

(三)夯实基础支撑,以标准工具提升治理效能

一是加快出台人工智能科技伦理风险评估、审查程序、审查委员会等配套标准,为创新主体提供可操作、可落地的规范指引。二是搭建科技伦理公共服务平台,推进科技伦理服务中心建设,提供专业的伦理审查、教育培训、专家咨询等服务,降低中小企业治理成本。三是加强治理技术和工具研发,推动构建人工智能伦理治理开源社区,推动治理工具、数据集开源开放,以技术赋能提升治理成效。

四、结语

中国信息通信研究院作为工业和信息化领域科技伦理专家委员会秘书处单位,将在工业和信息化部的指导下,充分发挥在人工智能政策研究、标准制定、技术评测等方面的优势,深化科技伦理治理支撑,保障《办法》有效落实。一是搭建人工智能科技伦理产业服务平台。开展科技伦理宣传教育,开发人工智能科技伦理审查、测评工具,促进治理工具开源开放。二是探索成立人工智能科技伦理服务中心。接受相关部门委托,承担人工智能科技伦理专家复核工作,并为企业、高校、科研院所等单位提供科技伦理审查、咨询、培训等服务。三是持续推动人工智能科技伦理标准制定工作。在工业和信息化部人工智能标准化技术委员会下,持续推动人工智能科技伦理风险评估、科技伦理委员会、科技伦理服务中心、科技伦理审查程序、科技伦理审查人员技术技能要求等标准制定工作。四是积极开展人工智能科技伦理治理国际交流合作。加强与国际研究机构的合作,依托国际人工智能领域的高端峰会等组织研讨活动,宣传人工智能科技伦理治理理念。

来源:飞象网

相关推荐

  • 2026GAIC:如何让聪明的模型,成为可交付的AI

    日前,2026GAIC全球人工智能大会・杭州良渚峰会在杭州开幕。峰会由GAIC全球人工智能大会组委会、IAAI国际人工智能协会主办,以“连接AI产业・链动全球”为主题,围绕算力与大模型、空间智能、多模态、AI出海全球化,探讨了AI应用落地、Agent商业化、创业与产业对接等热点话题。

    2026-11-18
  • 从新电能到新厂房:百度世界大会定义人工智能的下一幕

    11月12日,百度主办的第二十一届百度世界大会在北京国家会议中心二期举行,主题为“下一幕,智能组织”。百度世界2026把AI的下一幕指向智能组织:李彦宏首提组织进化三原则,杨元庆谈人机分工与投入产出。

    2026-11-12
  • 赵志国:关于人工智能时代加快发展新质生产力,推动数实融合发展的若干思考

    10月27日,2026中国互联网大会南京分站暨人工智能赋能数实融合产业大会在南京栖霞召开。中国互联网协会专家咨询委员会常务副主任、中国互联网协会副理事长、工业和信息化部原总工程师赵志国出席大会,并作题为《关于人工智能时代加快发展新质生产力,推动数实融合发展的若干思考》的主旨报告。报告围绕战略认识、历史机遇、突出挑战、下一步着力点四个方面展开,系统阐述了人工智能时代加快发展新质生产力、推动数实融合的路径与方法。

    2026-11-10
  • 小病不出村 报销不跑腿:北京移动政务网光纤通达全域,打通医疗"最后一公里"

    近日,在平谷区统筹推进下,由北京移动承建的全域政务网光缆延伸项目全面完工――4.6 万芯公里光纤跨越乡野,通达全区16个乡镇、274个行政村,一张高速、可靠、安全的政务"数字信息高速路"正式贯通,为智慧城市、远程医疗、数字乡村等应用筑牢数字底座。

    2026-11-04
  • 从6万亿到10万亿:培育“十五五”六大新兴支柱产业

    11月3日,国家发展和改革委员会在北京举行“奋进‘十五五’”系列新闻发布会首场,主题为培育壮大新动能。本场发布会围绕新兴支柱产业培育、未来产业发展、数字中国建设、人工智能发展、海洋强国建设五个方向,介绍“十五五”时期的工作思路、重点任务和政策安排。发布会上,国家发展改革委创新和高技术发展司副司长任中保,就发展新质生产力、培育新兴支柱产业等话题答记者问。

    2026-11-03
  • 郑志明院士:现代工业需求正在逼近复杂性边界

    近日,在济南开幕的2026人工智能产业大会(AIIC2026)上,中国科学院院士、北京航空航天大学教授郑志明,在开幕式暨主论坛上发表题为《面向新型工业化的现代技术科学范式》的主旨演讲。结合本届大会主题“加快推进人工智能赋能新型工业化”,以及大模型加速落地、新型工业化深入推进的热点,郑志明从复杂性边界、数据智能的能力边界、现代技术科学范式的根基三个层面,系统阐述了工业与智能深度融合必须破解的基础性问题,对人工智能赋能新型工业化的实践路径具有重要指导意义。

    2026-11-01
  • 刚刚,谷歌 Genie 4 发布,120 秒的世界却让我看见 AI 的未来

    刚刚,Google DeepMind 正式发布新一代世界模型 Genie 4,AI 生成的虚拟世界,又向现实迈进了一大步。相比上一代,Genie 4 不仅让画面更加逼真,还能实时生成声音、模拟物理规律,甚至让用户直接走进 AI 创造的世界,随时改变天气、添加人物,与虚拟角色对话。

    2026-10-29
  • 筑牢数实融合底座,让共性能力像水电一样便捷可得

    10月27日,2026中国互联网大会南京分站暨人工智能赋能数实融合产业大会在南京市举行。本届大会由中国互联网协会主办,以“智聚金陵动能、数驱产业革新,数字技术赋能南京产业高质量发展”为主题,立足长三角一体化战略,面向实体企业和数字科技企业,着力破解AI落地难、数字化改造成本高、数字企业出海路径不清晰等痛点,致力于打造政企对接、成果发布、产业合作的本地化平台。

    2026-10-28
  • 工信部:5G-A网络覆盖逐步推进 智算规模增长146%,有力支撑人工智能产业快速发展

    10月20日下午,国务院新闻办公室举行新闻发布会,介绍2026年前三季度工业和信息化发展情况。工业和信息化部新闻发言人、信息通信管理局局长谢存表示,今年前三季度,我国信息通信行业发展总体平稳,电信业务总量同比增长7.3%,互联网业务收入1-8月同比增长8.9%,智能算力规模同比增长146%。

    2026-10-20
  • 共塑新一代通信网智能底座:三大成果亮相未来网络大会

    日前,第十届未来网络发展大会在南京开幕。大会由南京市人民政府主办,紫金山实验室、中国通信学会、江苏省未来网络创新研究院、江苏未来网络集团承办。本届大会主题为“智能未来网•十年CENI路:共塑新一代通信网的智能底座和产业生态”,议题涵盖6G承载网、卫星互联网、智算网络、确定性网络、低空通信、工业互联网、AI原生网络等方向。

    2026-10-20