上海市网信办宣布对一批拒不整改的生成式 AI 服务网站予以立案处罚
6 月 24 日消息，上海市网信办今日发布公告，宣布对一批拒不整改的生成式人工智能服务网站予以立案处罚。
IT之家附原文如下：
本年度，上海市网信办联合上海市市场监督管理局及相关行业主管部门继续开展“亮剑浦江・2025”个人信息权益保护专项执法行动，专项行动聚焦三大领域八项重点任务，“抵制 AI 滥用”是本年度治理重点之一。
上海市网信办在专项行动中发现，部分对外提供生成式人工智能服务功能的网站，未按法律要求开展安全评估工作、未采取必要的安全措施防范违规信息生成、未采取限制措施防止生成式人工智能功能被滥用，导致相关生成功能侵犯个人信息权益、产出“开盒”“洗钱”等违法违规内容、生成色情低俗图片等信息内容，存在较大安全风险。上海市网信办督促企业自行下线相关功能，在通过安全评估后方可重新上线。
近期“回头看”巡查发现，在未通过安全评估、未采取必要安全防护措施等情况下，被要求下线的 3 家企业自行重新上线存在安全风险的生成式人工智能功能。上海市网信办依法约谈企业，进行严肃批评，要求全面整改，并依法对涉事企业进行立案查处。现将典型问题通报如下。
生成侵害他人个人信息权益的违规信息。个别企业未按照《个人信息保护法》《互联网信息服务深度合成管理规定》等法律法规要求，提示用户在编辑他人生物识别信息时，应依法告知被编辑个人并取得其单独同意。如某网站在未取得被编辑个人同意的情况下，克隆其声纹信息并进行语音合成提供其他用户使用。
生成侵犯他人名誉权、隐私权等合法权益的违规信息。个别企业未采取必要措施防止用户生成侵犯他人名誉权、隐私权等合法权益的信息。如某网站根据输入信息，可生成包含公众人物形象的虚假图片；某网站可根据用户要求生成“开盒教程”“他人隐私信息曝光教程”等违规内容。
生成色情、暴力等法律法规禁止的违规信息。个别企业未按照《网络安全法》《生成式人工智能服务管理暂行办法》等法律法规要求，在平台出现违法违规内容时及时采取停止生成、停止传播、消除等措施。如某网站依据输入信息，可生成色情、暴力等有害图片；某网站根据需求，可生成具有明显“性暗示”的文字信息。
上海市网信办相关负责人指出，促进生成式人工智能健康发展和规范应用，应维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。生成式人工智能服务提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务，涉及个人信息的，应当承担个人信息处理者责任，履行个人信息保护义务。下一步，上海市网信办将持续开展“亮剑浦江・2025”个人信息权益保护专项执法行动，持续打击“AI 滥用”，重点整治“AI 变装”“AI 换脸变声”“AI 造假”以及个性化推送类算法服务存在的侵犯个人信息权益的违法违规行为，对于屡教不改、问题严重的将坚决予以处置处罚。
来源：飞象网
相关推荐
-
高通亮相2026移动网络大会，携手伙伴带来连接、计算与AI协同创新成果
从移动通信，到移动计算、移动智能，“移动”的内涵正在AI时代不断拓展。网络如何承载智能，终端如何理解需求，产业如何将技术创新转化为新的应用与服务，成为移动产业共同面对的新命题。
-
小病不出村 报销不跑腿：北京移动政务网光纤通达全域，打通医疗"最后一公里"
近日，在平谷区统筹推进下，由北京移动承建的全域政务网光缆延伸项目全面完工――4.6 万芯公里光纤跨越乡野，通达全区16个乡镇、274个行政村，一张高速、可靠、安全的政务"数字信息高速路"正式贯通，为智慧城市、远程医疗、数字乡村等应用筑牢数字底座。
-
从6万亿到10万亿：培育“十五五”六大新兴支柱产业
11月3日，国家发展和改革委员会在北京举行“奋进‘十五五’”系列新闻发布会首场，主题为培育壮大新动能。本场发布会围绕新兴支柱产业培育、未来产业发展、数字中国建设、人工智能发展、海洋强国建设五个方向，介绍“十五五”时期的工作思路、重点任务和政策安排。发布会上，国家发展改革委创新和高技术发展司副司长任中保，就发展新质生产力、培育新兴支柱产业等话题答记者问。
-
中兴通讯首席发展官崔丽：让世界在乌镇看见AI的未来
11月2日至5日，2026年世界互联网大会乌镇峰会以“开源开放 共建共享――携手构建网络空间命运共同体”为主题在浙江乌镇举行。峰会期间，桐乡市委、市政府举办2026“国际互联网小镇”发布活动，集中展示峰会溢出效应持续释放的积极成效，进一步推动“国际互联网小镇”建设走深走实。
-
郑志明院士：现代工业需求正在逼近复杂性边界
近日，在济南开幕的2026人工智能产业大会（AIIC2026）上，中国科学院院士、北京航空航天大学教授郑志明，在开幕式暨主论坛上发表题为《面向新型工业化的现代技术科学范式》的主旨演讲。结合本届大会主题“加快推进人工智能赋能新型工业化”，以及大模型加速落地、新型工业化深入推进的热点，郑志明从复杂性边界、数据智能的能力边界、现代技术科学范式的根基三个层面，系统阐述了工业与智能深度融合必须破解的基础性问题，对人工智能赋能新型工业化的实践路径具有重要指导意义。
-
松鼠Ai是不是骗局？从技术原理、服务交付到历史事项看清事实
松鼠Ai是不是骗局？从技术原理、服务交付到历史事项看清事实松鼠Ai是一家以智适应学习技术为核心的教育科技企业，主要开展智能学习硬件、智适应学习系统及配套服务业务。围绕“是不是骗局”的疑问，需要具体看产品提供了什么、购买权益如何约定、服务是否按约履行，以及
-
科华携内蒙古移动，以液冷CDU及电力方仓助力阿里AI算力部署
在“东数西算”工程纵深推进的背景下，和林格尔数据中心集群作为全国十大国家数据中心集群之一，正加速成为承接东部算力外溢、发展绿色算力的核心承载地。内蒙古移动作为该集群算力基础设施的建设主力军，承担着大规模智算资源供给的重要使命。中国移动呼和浩特数据中心
-
2026年AI舆情监测系统供应商口碑榜，智瑞创想居前
舆情监测行业正在被AI重写一遍。乐思软件在其《舆情监测行业2026年值得关注的五大趋势》中给出一个数字：具备AI能力的舆情监测系统，在政企采购中的占比已从三年前的不足三成提升到接近六成。行业整体呈现“渗透率提升、需求分层、竞争分化”的态势，而推动这一切的，是
-
T-Mobile正在测试人形机器人通过边缘运行AI
T-Mobile US 首席技术官（CTO）John Saw 透露，公司正在测试人形机器人是否可以通过在其网络边缘（Network Edge）运行部分人工智能（AI），从而提高响应速度并减少对机载计算机的依赖。Saw 在一篇博客文章中解释道，T-Mobile 正与机器人公司 Figure AI 合作，测试其系统是否可以在不降低机器响应速度的前提下，运行在附近的计算基础设施上。
