台盟界别：

贵单位提出的“关于助推人工智能产业安全发展的提案”收悉，我委会同市科委、市委网信办对该建议进行了研究，现将办理情况答复如下：

一、上海人工智能产业安全发展工作开展情况

人工智能是引领新一轮科技革命和产业变革的战略性技术，同时也具有明显的“双刃剑”特征。习近平总书记强调，要推动我国人工智能朝着有益、安全、公平方向健康有序发展。近年来，上海深入贯彻落实国家《生成式人工智能服务管理暂行办法》《网络安全法》《数据安全法》《个人信息保护法》等法律法规，统筹推进人工智能发展与安全治理。

（一）深化监管与服务协同机制

一是引导行业健康发展。市经济信息化委依托“模塑申城”工程，持续举办“走进场景”周周会活动，邀请专家对行业解决方案进行专业性指导和优化，开展相关政策解读梳理，促进产业链上下游的知识共享，引导人工智能安全合规应用。

二是筑牢应用安全屏障。上海已陆续建立“司南”大模型评测体系、医疗大模型检测验证中心等人工智能应用评测平台，通过对大模型开展系统性测试、验证和优化，提高大模型在实际应用中的准确性、可靠性和安全性，保障服务安全、合规、高效。

三是强化合规指导服务。市委网信办设立全国首个大模型合规指导服务中心，累计开展政策宣贯和专题辅导9次，覆盖企业近300家。通过“一站式”服务模式，为120余家企业提供上线备案、政策解读等支持，实现内容安全、数据安全及个人信息保护全覆盖。自2024年4月发布《关于受理生成式人工智能服务备案的公告》以来，已为500余家企业机构提供针对性指导。截至2025年2月，本市已有66款大模型通过备案，数量居全国前列。

（二）持续强化产业链供应链韧性

一是全力建设人才高地。市经济信息化委会同相关部门，推动上海高校与企业协同发展，推进14所高校成立人工智能研究院，10所高校开设人工智能相关专业，进一步加速“人工智能+X”复合型专业模式建设。

二是深化开源生态培育。阿里魔搭、开放原子基金会已在沪落地人工智能开源社区，扩大技术影响力。多款通用模型陆续发布开源模型体系，加快构建安全可控技术路线。

三是加强语料资源供给。市经济信息化委加快实施“模塑申城语料普惠计划”，成立全国首家语料专业运营公司库帕思科技，启动语料数据智能创意大赛，打造专业语料加工工具链，面向全市中小企业、创新创业者提供低成本、高质量、安全合规、可持续的语料供给。

四是完善安全评估体系。市经济信息化委、市委网信办指导成立上海人工智能安全治理实验室，加快研发大模型安全评估技术。其中，AIGC文本溯源方案形成专利并向社会公开，“对齐能手”系列大模型安全围栏系统并向企业提供免费部署试用，助力企业加强安全能力建设，服务产业健康发展。

（三）促进产业与社会协同发展

一是加强安全宣贯。市经济信息化委依托世界人工智能大会强化产业安全发展，举办前沿人工智能安全与治理等重磅论坛，发布《大模型安全实践（2024）》等多份白皮书，围绕人工智能安全评测、国际合作等展开探讨，推动构建具有安全性、可靠性、可控性的技术实施方案。市委网信办通过组织开展微视频征集、举办《安全有道》系列访谈节目等活动，创设主题公园和示范街区等多种贴近居民生活的宣传场景，加强网络安全和人工智能安全宣贯，不断提升全民安全防护意识。

二是推动产学研安全联动。市经济信息化委牵头发布《关于人工智能“模塑申城”的实施方案》，聚焦智能终端、科学智能等“5+6”重点领域，实施大模型应用补贴政策，降低企业算力、模型开发及数据应用成本，引导产业上下游协同联动，激发产业活力。市科委实施《上海市科技型中小企业技术创新资金计划管理办法》，并通过信贷奖补引导银行加大普惠信贷投放，小微企业综合融资成本显著降低。

二、加快推动上海人工智能产业安全发展

市相关部门高度重视人工智能产业安全发展，将紧抓人工智能发展机遇，打造更安全的敏捷治理，推动人工智能在规范中发展，在发展中规范。一是强化政策引导。积极落实《关于人工智能“模塑申城”的实施方案》等顶层设计文件，培育具有安全性、可靠性的人工智能MaaS服务平台等创新模式，加快建设人工智能应用示范场景，引导行业强化安全理念，降低企业安全合规成本。二是强化供应链安全。组织本市人工智能领军企业和优势高校院所，强化产品化定位和全链条布局，面向应用需求开展技术创新和产品攻关，提升上海人工智能创新策源能力和安全治理效能。三是强化协同治理。高水平举办2025世界人工智能大会，深度参与人工智能全球安全与治理实践。聚焦人工智能前沿领域，精准对接全球顶尖学者、国际组织及跨国企业代表，通过国际顶尖论坛推动技术标准与行业规范共建，促进技术成果在产业场景中的安全合规应用。

 

 

 

上海市经济和信息化委员会

                         2025年4月27日