点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:规范生成式人工智能服务
首页> 光明科普云> 焦点新闻 > 正文

规范生成式人工智能服务

来源:光明网-《光明日报》2023-07-14 10:07

  国家互联网信息办公室近日联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》(以下简称《办法》),自2023年8月15日起施行。

  据国家互联网信息办公室有关负责人介绍,该《办法》旨在促进生成式人工智能健康发展和规范应用,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益。

  统筹生成式人工智能发展和安全

  随着生成式人工智能技术的快速发展,其在为经济社会发展带来新机遇的同时,也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题。如何统筹生成式人工智能发展和安全引起各方关注。该负责人指出,出台《办法》,既是促进生成式人工智能健康发展的重要要求,也是防范生成式人工智能服务风险的现实需要。

  《办法》涵盖了技术发展与治理、服务规范、监督检查和法律责任等方面,共计五章24条。

  据介绍,《办法》中所称生成式人工智能技术,是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。生成式人工智能服务提供者,是指利用生成式人工智能技术提供生成式人工智能服务(包括通过提供可编程接口等方式提供生成式人工智能服务)的组织、个人。生成式人工智能服务使用者,是指使用生成式人工智能服务生成内容的组织、个人。

  据该负责人介绍,利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务,适用该《办法》。国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的,从其规定。行业组织、企业、教育和科研机构等研发、应用生成式人工智能技术,未向境内公众提供生成式人工智能服务的,不适用《办法》。

  《办法》提出,国家坚持发展和安全并重、促进创新和依法治理相结合的原则,采取有效措施鼓励生成式人工智能创新发展,对生成式人工智能服务实行包容审慎和分类分级监管。

  鼓励生成式人工智能创新发展

  《办法》明确,国家鼓励生成式人工智能技术在各行业、各领域的创新应用,生成积极健康、向上向善的优质内容,探索优化应用场景,构建应用生态体系。

  据该负责人介绍,针对生成式人工智能服务,《办法》在促进生成式人工智能健康发展方面有不同考虑:

  在监管方式上,对生成式人工智能服务实行包容审慎和分类分级监管,要求国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用,完善与创新发展相适应的科学监管方式,制定相应的分类分级监管规则或者指引。

  在促进发展具体措施上,明确鼓励生成式人工智能技术在各行业、各领域的创新应用,生成积极健康、向上向善的优质内容,探索优化应用场景,构建应用生态体系。

  同时,支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。

  此外,鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新,平等互利开展国际交流与合作,参与生成式人工智能相关国际规则制定。推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享,提升算力资源利用效能。推动公共数据分类分级有序开放,扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。

  提供和使用生成式人工智能服务须依法依规

  《办法》明确,提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德。

  首先,在算法设计、训练数据选择、模型生成和优化、提供服务等过程中,要采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视。

  其次,尊重知识产权、商业道德,保守商业秘密,不得利用算法、数据、平台等优势,实施垄断和不正当竞争行为。

  再次,尊重他人合法权益,不得危害他人身心健康,不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。

  最后,基于服务类型特点,采取有效措施,提升生成式人工智能服务的透明度,提高生成内容的准确性和可靠性。

  《办法》明确,生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动,使用具有合法来源的数据和基础模型;涉及知识产权的,不得侵害他人依法享有的知识产权。涉及个人信息的,应当取得个人同意或者符合法律、行政法规规定的其他情形;采取有效措施提高训练数据质量,增强训练数据的真实性、准确性、客观性、多样性。此外,明确了数据标注的相关要求。

  值得一提的是,在生成式人工智能服务规范方面,《办法》要求,要采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。

  例如,提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识;发现违法内容的,应当及时采取停止生成、停止传输、消除等处置措施并采取模型优化训练等措施进行整改;发现使用者利用生成式人工智能服务从事违法活动的,应当依法依约采取有关处置措施,保存有关记录,并向有关主管部门报告。

  该负责人强调,《办法》规定,提供者应当建立健全投诉、举报机制,设置便捷的投诉、举报入口,公布处理流程和反馈时限,及时受理、处理公众投诉举报并反馈处理结果。使用者若发现生成式人工智能服务不符合法律、行政法规和《办法》规定,有权向有关主管部门投诉、举报。

  (光明日报北京7月13日电 记者 张亚雄)

[ 责编:焦子原 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 神舟十九号航天员乘组圆满完成第一次出舱活动

  • 【科学报国正当时】走近深大微电子科学与工程专业

独家策划

推荐阅读
12月16日18时,我国在文昌航天发射场使用长征五号乙运载火箭/远征二号上面级,成功将卫星互联网低轨01组卫星发射升空,卫星顺利进入预定轨道,
2024-12-17 05:25
自10月30日顺利进驻空间站组合体以来,神舟十九号航天员乘组已在轨工作生活48天,先后完成了与神舟十八号航天员乘组轮换、空间站平台维护照料、生活和健康保障、舱外航天服巡检测试、
2024-12-17 05:25
随着人工智能(AI)技术的不断发展和迭代,人类社会已进入大算力、大模型、大数据、大应用时代。针对AI在医疗领域应用的风险问题,需要从数据、安全和管理等角度进行应对。
2024-12-17 09:54
近年来,科学家试图通过抑制促纤维化因子的活性、促进胶原纤维的降解等方式改善心肌缺血再灌注损伤相关的心肌纤维化情况,但目前尚缺乏有效的临床干预方式。
2024-12-17 09:35
从渤海湾到山东半岛,从长三角到北部湾,我国海上风电可开发量巨大。国家气候中心最新数据显示,我国海上150米高度、离岸200公里以内且水深小于100米的风能技术可开发量约为27.8亿千瓦。
2024-12-17 09:33
12月12日,《科学》发布编辑团队评选的2024年度十大科学突破,包括长效人类免疫缺陷病毒(HIV)预防针剂等10项成果。
2024-12-16 10:14
中国科学技术大学教授沈延安课题组通过硫同位素分析,发现燃煤排放产生的颗粒物是华北雾霾的主要物源之一,同时还对欧洲文物、古建筑和雕像表层黑色硫酸盐壳的形成作出了新解释。
2024-12-16 09:54
11月15日晚11时13分,随着长征七号遥九运载火箭的顺利发射,我国首次将果蝇送上空间站,开展科学实验。
2024-12-16 09:52
2024年11月25日,农业农村部审议并原则通过的《关于支持东北地区发展现代化大农业的若干措施》,为东北地区现代化大农业发展提供了有力支撑。
2024-12-16 09:51
受动物大脑处理信息方式的启发,澳大利亚昆士兰科技大学团队基于尖峰神经网络开发出一种新型导航系统,有助构建出更智能的机器人。
2024-12-16 09:50
陕西首座抽水蓄能电站——国网新源陕西镇安抽水蓄能电站4号机组12日正式投入商业运行,实现陕西电网大型调节电源的新突破。
2024-12-13 04:20
12月12日15时17分,我国在酒泉卫星发射中心使用长征二号丁运载火箭/远征三号上面级,成功将高速激光钻石星座试验系统发射升空,5颗卫星顺利进入预定轨道,发射任务获得圆满成功。
2024-12-13 04:20
日前召开的中共中央政治局会议强调,要以科技创新引领新质生产力发展,建设现代化产业体系。科技创新通过补齐技术短板、拉长优势长板、锻造未来新板,推动产业创新,引领现代化产业体系建设。
2024-12-13 10:21
《自然-医学》12月12日发表年度预测文章,介绍了未来一年可能对医学产生影响的11项临床试验。
2024-12-13 10:16
如果把大脑比作一座繁华的都市,那么每个角落都有一群默默奉献的“人”,共同维持着这座都市的活力与秩序。后来,在美国宾夕法尼亚大学深造期间,罗敏敏更是贯彻了跨学科的想法。
2024-12-13 10:15
中成药有着悠久的历史、广泛的应用,在疾病防治、保障人民群众健康方面发挥了重要作用。
2024-12-12 10:05
近年来,毫米波雷达技术被用于心脏活动监测,展现出非接触、便捷和高精度的优点,但面临“呼吸谱泄漏”这一重大挑战。基于这两个现象,研究团队将心跳特征提取频段从基频转移到高阶谐波频段,从而有效消除了呼吸谐波的干扰,显著提升了监测精度。
2024-12-12 09:46
“化石研究发现,华龙洞人是迄今东亚地区呈现出智人特征最多、年代最早的从古老型人类向智人过渡的古人类。随着更多身体部位的化石不断被发现,30万年前华龙洞“居民”的体貌特征逐渐清晰。
2024-12-12 09:45
加快提升机器人产业总体发展水平的同时,构建产业创新体系、加强产品应用推广等也成为多方发力布局重点。同日,豪森智能(688529)表示,目前已同步开始在人形机器人应用与装备领域进行技术储备,可提供人形机器人、AMR机器人应用集成解决方案,并同步布局人形机器人生产线、测试台。
2024-12-12 09:35
美国宾夕法尼亚州立大学和哥伦比亚大学科学家携手,首次观察到一类特殊准粒子——半狄拉克费米子。2008年和2009年,来自法国南巴黎大学和美国加州大学戴维斯分校等机构的科学家,首次从理论上预言了半狄拉克费米子的存在。
2024-12-12 09:31
加载更多