【法治护我心】划定深度合成服务“底线”“红线”******

　　【法治护我心——《互联网信息服务深度合成管理规定》系列解读】

　　光明网记者 陈畅、李政葳

　　“雾里看花，水中望月，你能分辨这变幻莫测的世界……”如果把上个世纪九十年代这首“315”晚会歌曲，用来描述当下互联网时代的“云”上生活，在技术发展与风险伴生之下，“虚”“实”之间让人颇有迷幻之感。

　　“再也不敢相信自己的眼睛和耳朵。”当换脸换声、三维重建、智能对话等逐渐应用开来，人们时常发出这样的感叹。这类深度合成服务催生了美颜美妆、智能客服、虚拟主播等一系列应用形态，但其被恶意利用制作虚假信息内容，进而带来了政策干扰、谣言泛滥、低俗内容等。因此，我们也在呼吁——“借我一双慧眼，把这纷扰看个清清楚楚明明白白……”

　　纵观互联网发展历程，技术治理本身就是一场攻防对抗博弈，也是技术从创新应用到规范发展的必经之路。近日，这项深度合成技术被套上了“紧箍咒”——国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。

　　法立于上则俗成于下。《规定》出台划定了深度合成服务的“底线”和“红线”， 迈出我国新技术新应用立法的重要一步，也将有效维护网络空间良好生态。

　　明确义务要求，强化主体责任

　　事实上，深度合成技术由来已久。随着深度学习技术、特别是对抗式生成网络技术的发展，深度合成技术门槛大幅降低。2017年11月，Reddit网站的用户“deepfakes”发布伪造视频，曾一度将这项技术推至风口浪尖，其“以假乱真”的信息内容严重威胁国家安全、干扰社会秩序。

　　何为“深度合成技术”？《规定》中给出了明确表述——指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。

　　具体包括：篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术，文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术，音乐生成、场景声编辑等生成或者编辑非语音内容的技术，人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术，图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术，三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。

　　诚然，从技术进步的角度看，深度合成技术应用的初衷是让生成合成内容更逼真，但技术在愈趋“智能”的同时，也不可避免地带来更多风险。对此，中国科学院信息工程研究所所长孟丹介绍，除深度伪造风险外，还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。

　　深度合成服务提供者和技术支持者既是新技术、新应用的创造者、受益者，也应该是控制技术风险、引导技术向善的责任践行者。记者梳理发现，《规定》明确了深度合成技术定义和服务范围，提出了服务提供者落实信息安全主体责任，指出了服务提供者和技术支持者备案义务，并对服务提供者履行安全评估和配合监督检查义务提出具体要求。

　　中国科学院自动化研究所所长徐波这样评价：《规定》分析梳理了深度合成活动边界，对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定。比如，服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务，服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。

　　健全技术支撑体系，促进科技向上向善

　　从此起彼伏的社会案件中可以看出，深度合成信息内容制作和传播数量正在高速增长，尤其伴随“元宇宙”等新模式、新场景不断落地，深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术方案。孟丹认为，《规定》的出台是网络内容治理由结果管理迈向行为管理的重要一步，标志着我国网络空间治理能力进一步优化提升。

　　时间倒回到两年前。在2021年12月，国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》，对包括生成合成类在内的五类算法推荐服务进行规范。本次出台的新规在之前算法规定的基础上，加强对深度合成服务全过程管理，也深化了备案与评估标本兼治。

　　然而，从技术发展阶段看，深度合成技术与应用管理仍处于起步阶段，在技术支撑和能力建设方面还有待进一步加强。“加快推进深度合成治理技术支撑体系建设，是切实保障深度合成服务治理工作有力有序推进的关键。”孟丹说。

　　《规定》的字里行间，凸显了“以技术管技术”的逻辑，也必将促进深度合成服务的规范治理。“其确立了我国对深度合成服务的治理框架，提出了明确的数据和技术管理规范，为促进深度合成技术向上向善，引导相关产业健康发展，确保互联网信息内容安全提供了有力的制度保障。”中国政法大学副校长时建中说。

　　“《规定》以促进技术在规范中发展为价值取向，在明确‘红线’的同时，为技术发展留足空间。”中国信息通信研究院副院长王志勤这样认为。比如，《规定》要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。

　　孟丹也建议，从深度合成信息内容源头上，解决其衍生的内容安全风险，利用技术创新、技术对抗等方式持续提升和迭代检测技术的能力，不仅着眼于管理好、使用好、发展好深度合成技术及相关服务，也致力于深度合成技术的合法合理合规使用，促进深度合成技术及相关服务健康有序的发展。

　　引导多方参与，推动治理走深向实

　　随着数字化、智能化进程不断加快，互联网信息服务综合治理不断细化，规范深度合成活动对营造健康安全的网络空间有着重要意义。国家互联网信息办公室有关负责人表示，深度合成服务治理需要政府、企业、社会、网民等多方主体参与，推动深度合成技术的依法、合理、有效使用，积极防范化解深度合成技术带来的风险，促进互联网信息服务健康发展。

　　《规定》明确提到，国家和地方网信部门统筹协调深度合成服务的治理和相关监督管理职责，国务院电信主管部门、公安部门以及地方相关部门的监督管理职责。

　　王志勤认为，《规定》构建了统筹协调、多方参与的监管体制；《规定》鼓励相关行业加强行业自律，搭建齐抓共管、协同共治的治理机制；《规定》通过系统化的制度安排，进一步构建完善了我国网络综合治理法治体系。

　　孟丹也提到，《规定》在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面，仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中，建议业内推进产业联盟建立，以产业自治、多方共治的方式，不断推进深度合成技术应用高质量发展。

　　为推动深度合成治理走深向实，徐波建议，强化智能监管平台支撑。比如，深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术，推动深度合成管理技术能力建设；加强人机混合的智能监管技术，研究深度合成服务提供者的安全可控技术保障方案，把监管规范转化为评估标准，建设面向网络全域监管的监测管理平台；研发深度合成与鉴别对抗机制，鼓励新兴科技企业与研究机构开展技术演练，共同推动深度合成服务健康发展。

中国教育以质图强高质量发展******

　　作者：王建（中国教育科学研究院教育财政研究所所长、研究员）

　　基础教育：构建素质教育新格局

　　2022年，基础教育迎难而上、奋力改革，着力构建发展素质教育新格局，着力构建教师专业发展新模式，进一步提升教育质量。

　　发展素质教育找准突破口。

　　素质教育理念和政策落地见效的关键在于德育、素质教育的应有地位和科学评价体系真正确立起来。聚焦立德树人根本任务不断寻求突破，立德为先有抓手，核心素养有载体，评价改革有导向，“双减”工作有成效，带来中国基础教育的深刻改变。

　　育人的根本在于立德，德育是素质教育的灵魂，思政课是立德树人的关键课程。2022年7月，教育部等十部门印发《全面推进“大思政课”建设的工作方案》，以“大思政课”建设为抓手，建设“大课堂”、搭建“大平台”、建好“大师资”，推动各类课程与思政课同向同行，推动思政小课堂与社会大课堂相结合。2022年11月，教育部印发《关于进一步加强新时代中小学思政课建设的意见》，针对中小学思政课存在教师兼职比例过高、专业性不足的问题，明确具体的专职教师配备比例，提出到2025年“小学专职教师配备比例达到70%以上，初高中配齐专职教师”的目标。一系列举措强调了善用“大思政课”，引人以大道、启人以大智、育人以大德，助力学生成长为担当民族复兴大任的时代新人。党的二十大报告指出，“推进大中小学思想政治教育一体化建设”，为学校思想政治教育工作体系建设提供了根本遵循。

　　课程是育人载体，在人才培养中发挥核心作用。2022年3月，教育部印发《义务教育课程方案和课程标准（2022年版）》，基于义务教育阶段时代新人培养的目标要求，通过培育核心素养来实施素质教育，引领课程改革由“知识本位”转向“素养本位”，推动育人方式深度变革。

　　考试评价是“指挥棒”，普通高中是应试教育“重灾区”。为克服普通高中办学中“唯分数、唯升学”倾向，从“育分”转向“育人”，教育部2021年12月31日印发、2022年开始实施的《普通高中学校办学质量评价指南》，从办学方向、课程教学、教师发展、学校管理、学生发展等5个方面明确了普通高中办学质量的评价标准，并把不给年级、班级、教师下达升学指标，不炒作高考“状元”等作为考察要点，确立起以发展素质教育为导向的普通高中学校办学质量评价体系。2022年3月，教育部办公厅发布《关于做好2022年中考命题工作的通知》，与2019年教育部印发的《关于加强初中学业水平考试命题工作的意见》一起，构建引导学生德智体美劳全面发展的考试内容体系和考试方式，将综合素质评价作为招生录取的参考或依据，促进素质教育实施。

　　深入推进“双减”，优化教育生态，继续完善“1+N”的“双减”政策制度体系，强化监管执法，实现全覆盖、全链条治理。2022年1月，教育部、中央编办和司法部印发《关于加强教育行政执法深入推进校外培训综合治理的意见》指出，到2024年，基本建成权责明晰、管理规范、运转顺畅、保障有力、监管到位的校外培训监管行政执法体系。2022年11月，教育部办公厅等十二部门印发《关于进一步加强学科类隐形变异培训防范治理工作的意见》，明确到2024年6月，隐形变异培训得以全面清除，有力确保“双减”工作取得显著成效的主要目标。2022年11月，教育部等十三部门印发《关于规范面向中小学生的非学科类校外培训的意见》，推动非学科类培训为学生发展兴趣特长、拓展综合素质发挥积极作用，成为学校教育的有益补充，明确到2024年，非学科类培训治理成效显著。

　　一年多来，在各方共同努力下，“双减”工作扎实推进，校外培训市场野蛮生长现象得到有效遏制，校内减负提质受到普遍认可，全社会关心和支持发展素质教育、促进学生身心健康成长的良好氛围逐步形成。

　　提高教师质量找到新模式。

　　教师是教育的第一资源，有高质量的教师才会有高质量的教育。造就新时代基础教育高素质专业化创新型教师队伍，需要从源头上抓起，筑基提质、补短扶弱、做优建强，筑牢强师之基。

　　推动教师教育振兴发展。2022年1月，教育部印发《关于推进师范生免试认定中小学教师资格改革的通知》，提出在高等学校师范类专业中稳步推进免试认定改革，将教师队伍质量关口前移到培养院校，吸引真正乐教、适教、善教的优秀人才成为教师队伍后备军。2022年4月，教育部等八部门印发《新时代基础教育强师计划》，实施高素质教师人才培育计划，构建师范院校为主体、高水平综合大学参与、教师发展机构为纽带、优质中小学为实践基地的开放、协同、联动的现代教师教育体系。

　　加强欠发达地区乡村教师队伍后备。教育部等九部门在2021年发布《中西部欠发达地区优秀教师定向培养计划》，即“优师计划”。2022年9月，教育部办公厅印发《关于进一步做好“优师计划”师范生培养工作的通知》，提出“优师计划”师范生培养的核心关切，一是从源头上改善中西部欠发达地区中小学教师队伍质量；二是聚焦“优秀”，全面落实高校教师与中小学教师共同指导教育实践的“双导师制”；三是强化“保障”，确保师范生在校“下得去、留得住、教得好、得发展”，鼓励支持毕业生长期从教、终身从教。

　　名校长领航让学校走上名校路，名师汇聚才能成就好学校。2022年8月，教育部办公厅印发《关于实施新时代中小学名师名校长培养计划（2022—2025）的通知》。2022年12月，教育部办公厅公布了培养基地及培养对象名单，确定150位教师为名师培养对象、10家单位为名师培养基地，150位校长为名校长培养对象、10家单位为名校长培养基地，旨在培养造就一批具有鲜明教育理念和成熟教学模式、能够引领基础教育改革发展的名师名校长，培养为学、为事、为人示范的新时代“大先生”。

　　职业教育：着力提高质量提升形象

　　2022年，职业教育聚焦“提高质量、提升形象”，改革攻坚在类型定位、体系建设、产教融合、校企合作等方面全面发力，破解“大而不强”问题，助力技能型人才培养和技能型社会建设。

　　顶层设计回归技能教育本质。

　　职业教育是以就业为导向，以技能教育为核心的教育类型。2022年4月，新修订的《中华人民共和国职业教育法》，从立法层面对职业教育体系、职业教育的实施、职业学校和培训机构等作了全面的制度安排。据新华社2022年10月报道，中共中央办公厅、国务院办公厅印发《关于加强新时代高技能人才队伍建设的意见》，提出构建以行业企业为主体、职业学校（含技工院校）为基础、政府推动与社会支持相结合的高技能人才培养体系。

　　优化职业教育类型定位，有序有效推进现代职业教育体系建设改革。据新华社2022年12月报道，中共中央办公厅、国务院办公厅印发《关于深化现代职业教育体系建设改革的意见》，提出以提升职业学校关键能力为基础，以深化产教融合为重点，以推动职普融通为关键，以科教融汇为新方向，统筹职业教育、高等教育、继续教育协同创新，切实提高职业教育的质量、适应性和吸引力。

　　关键要素提升院校办学能力。

　　办学条件是职业教育高质量发展的基础，从软件和硬件两个方面大幅提升新时代职业教育现代化水平。2022年5月，教育部办公厅印发《关于开展职业教育教师队伍能力提升行动的通知》，提出逐步提升教师培养学历层次，带动“双师型”教师队伍整体建设，推进固定岗与流动岗相结合、校企互聘兼职的教师队伍建设改革。教育部办公厅2022年9月印发《关于进一步加强全国职业院校教师教学创新团队建设的通知》，10月印发《关于做好职业教育“双师型”教师认定工作的通知》，明确职业教育“双师型”教师基本标准，突出对理论教学和实践教学能力的考察，注重教学改革和专业建设实绩，形成“双师”团队建设范式。2022年11月，教育部等五部门印发《职业学校办学条件达标工程实施方案》，持续加强学校基础能力建设，明确各地职业学校办学条件重点监测指标全部达标的学校比例，不断提高职业教育办学质量和吸引力。

　　工作场景增强学生职业能力。

　　实习实训是职业教育的重要育人环节，既是学生专业学习和技术技能训练的必备途径，也是提前熟悉岗位和融入社会的重要方式。教育部等八部门2021年12月31日印发、2022年开始实施的《职业学校学生实习管理规定》，着眼实习全程、聚焦关键节点和各方责任权利义务，进一步明确了学生实习的行为准则，提出1个“严禁”、27个“不得”，为实习管理划出了底线和红线。2022年9月，教育部办公厅等五部门发布《关于实施职业教育现场工程师专项培养计划的通知》，提出面向重点领域数字化、智能化职业场景下人才紧缺技术岗位，以校企联合实施中国特色学徒制为主要培养形式，建设一批现场工程师学院，培养一大批具备工匠精神的现场工程师，形成为技术技能人才紧缺领域系统储能、赋能的人才培养培训生态。

　　高等教育：全面服务支撑中国式现代化

　　2022年，高等教育聚焦国家发展、科学技术和社会科学发展的战略需求，以学科建设引领人才培养模式和科研组织体系改革，加快建设高等教育强国，全面服务支撑中国式现代化。

　　“双一流”建设突出学科特色。

　　建设世界一流大学和一流学科是新时代高等教育强国建设的引领性和标志性工程，首轮“双一流”建设2016年启动至2020年结束，初步评估若干所高校逐步跻身世界一流大学行列。2022年1月，教育部、财政部、国家发展改革委印发《关于深入推进世界一流大学和一流学科建设的若干意见》，“双一流”建设正式进入新一轮周期，强调优化以学科为基础的建设模式。2022年2月，教育部、财政部、国家发展改革委公布《第二轮“双一流”建设高校及建设学科名单》，名单不再区分一流大学建设高校和一流学科建设高校，淡化高校的“身份”和“帽子”。高校将在国家分类评价体系的导引下，探索自主特色发展新模式，聚焦各具特色的优势领域和方向上创建一流。

　　“新农科”推进学科跨界融合。

　　全面推进乡村振兴、加快建设农业强国，关键在科技、在人才、在教育。针对传统高等农林教育学科碎片化、过度分化、“单兵作战”的问题，2022年8月，教育部办公厅印发《新农科人才培养引导性专业指南》，指出引导涉农高校面向新农业、新乡村、新农民、新生态，面向粮食安全、生态文明、智慧农业、营养与健康、乡村发展等五大领域，设置生物育种科学等12个新农科人才培养引导性专业。2022年11月，教育部办公厅等四部门印发《关于加快新农科建设推进高等农林教育创新发展的意见》，提出推进农林教育供给侧改革，加快构建多类型农林人才培养体系，培养一批高层次、高水平、国际化的创新型农林人才。

　　哲学社会科学强化体系建构。

　　我国哲学社会科学学科体系日益完备。2022年，两份重要文件相继出台，积极推动了哲学社会科学稳步发展。据新华社2022年4月报道，中共中央办公厅印发《国家“十四五”时期哲学社会科学发展规划》，提出要加快中国特色哲学社会科学学科体系、学术体系、话语体系建设。据新华社2022年5月报道，中共中央宣传部、教育部联合印发《面向2035高校哲学社会科学高质量发展行动计划》，强调充分发挥高校作为我国哲学社会科学“五路大军”中的重要力量作用，加强哲学社会科学知识体系建构，提升高校咨政服务能力。强调优化学科专业布局，推进学科交叉融合，打造一流学科专业群，构建适应国家需求支撑知识创新的学科体系。

　　科研组织强调“大科学”模式。

　　现代科研正在从自由探索为主向与重大问题导向的多学科交叉融合并重转变，需要高校科研组织模式从学科导向的松散型“小科学”科研模式，向聚焦国家重大战略目标任务的系统生态型“大科学”科研模式转变。据2022年8月教育部消息，教育部印发《关于加强高校有组织科研推动高水平自立自强的若干意见》，推动高校充分发挥新型举国体制优势，加强有组织科研，集聚力量进行原创性、引领性科技攻关，培养造就一批战略科学家，为实现高水平科技自立自强、加快建设世界重要人才中心和创新高地提供有力支撑。