点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:天云数据CEO雷涛:大模型后训练时代,AI要生产数据训练自己
首页> 光明科普> 图文 > 正文

天云数据CEO雷涛:大模型后训练时代,AI要生产数据训练自己

来源:光明网2025-03-03 17:07

  今年1月,人工智能公司xAI创始人埃隆·马斯克在一场直播中表示,人工智能公司已经耗尽了用于训练模型的数据,并“耗尽”了人类的全部知识。

  数据是人工智能大模型的基础,模型通过对海量数据的分析提炼形成智能。现在,人类生产数据的速度,远远跟不上人工智能学习的步伐。没有优质数据的支撑,大模型该如何训练?

  服务于真实的数字生产资料

  “今天的数据已经供给不了明天的AI,今天的AI要生产明天需要的数据。”近日,在由北京市科协、北京科技记协组织的“首都科技人”宣传活动中,天云数据CEO、第九届吴文俊人工智能科学技术发明奖获得者雷涛分享了他对“合成数据”这一数字生产资料的看法。

 天云数据CEO雷涛:大模型后训练时代,AI要生产数据训练自己

  天云数据CEO、第九届吴文俊人工智能科学技术发明奖获得者雷涛。受访者供图

  雷涛表示,硬件的增长遵循摩尔定律,而数据的增长则呈现指数型态势。我们如今所处的时代,已然是机器生产数据的时代,合成数据则是未来算力的主要解决方案。

  但在实际应用中,合成数据是否会因为是“人造”的,而存在“假数据”的嫌疑,无法达到与真实数据同等的效用呢?

  雷涛介绍,合成数据不是假数据,它是在有限的真实数据的基础上,用真实的逻辑生成的结果数据。这些结果数据服务于真实的生产过程。

  他以完成能源行业的安全规范为例进行说明。过去编写安全规范需要专业人员,且要同时消化多种语言的操作手册;现在把所有操作手册给到计算机,计算机按照工艺流程的思维链学习并抽取内容,就能够生成安全规范。这个安全规范虽是“合成”的,却完全可以应用于实际的生产过程,这充分体现了合成数据在工业生产场景中的价值。

 由简“化”繁的生成逻辑

  那么,合成数据究竟如何生成?雷涛打了个比方,往一瓶水中滴一滴墨水,墨水会从相对简单的状态逐渐扩散,变得复杂、分散。通过逆扩散算法识别墨水扩散规律,就能模拟出不同的墨水扩散场景。合成数据也是利用类似原理,抓住核心规律,从简单数据出发,模拟数据的复杂变化过程,创造出丰富多样的数据。

  “人类的抽象逻辑留给我们的数据资产有限,都是信息化进程中沉淀下来的结构化概要信息。而要把这些概要信息,转变为能用于理解和处理复杂世界中复杂系统的内容,就需要大量合成数据。”雷涛说。

 天云数据CEO雷涛:大模型后训练时代,AI要生产数据训练自己

 受访者供图

  另外,在某些特定领域或场景下,获取真实数据存在困难。以自动驾驶领域为例,其需要百万级别的路况数据,涵盖模拟极端灾难天气、极端恶性交通事故(如波音747在高速公路上迎面迫降)、复杂路况(如路面破损、立交桥断桥)等情况的数据。这些数据难以从现实世界获取,而合成数据可按需生成,填补数据缺口,降低对有限真实数据的依赖。

 自我驱动的“数据飞轮”

  雷涛认为,人工智能已经从预训练时代走向了后训练时代。在后训练时代,大模型构建起从数据生成到模型强化的正向循环机制至关重要。就像移动互联网时代搜推系统的“数据飞轮”效应——通过应用数据优化算法,算法又反哺应用,人工智能大模型也应形成“数据飞轮”,借助AI生产训练数据实现自我训练。

  已经有数家活跃于人工智能领域的企业,正在使用合成数据训练大模型。Facebook和Instagram的所有者Meta已经使用合成数据来微调其最大的LlamaAI模型,而微软也将AI制作的内容用于其Phi-4模型。谷歌和ChatGPT背后的公司OpenAI也在其AI工作中使用了合成数据。

  最近如火如荼的Deepseek,也在训练中使用到了合成数据。根据DeepSeek-V3技术文档,对于数学、代码竞赛、逻辑谜题这类推理相关数据,DeepSeek-V3先借助已训练好的DeepSeek-R1模型生成数据,再用融合了特定优化方法(监督微调与强化学习)的专业模型。

  为应对数据“饥荒”,“自给自足”的合成数据正在成为人工智能的新燃料。雷涛以2月19日发布的斯坦福生物学模型Evo2为例,Evo2能解构生物数据,还能通过训练,重构数据维度,在人工智能与数据的深度融合中,形成“复利效应”:“现在,AI产业与数据已步入深度协同阶段,构成产业演进的底层逻辑:AI建设数据资产,数据飞轮加速AI产业发展,二者相互依存、共同发展,促使产业格局发生质变。”(记者 李欣哲)

[ 责编:蔡琳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 西藏和平解放75周年丨高原逐绿电 西藏大力发展清洁能源

  • “两山”理念与美丽中国|杭州中小微水体治理的硬核实践

独家策划

推荐阅读
记者从农业农村部获悉,截至5月28日17时,各地已收夏粮小麦4897万亩、当日机收面积超过1000万亩,今年全国“三夏”大规模小麦机收全面展开。
2026-05-29 09:11
垦利10-2油田位于渤海南部海域,探明原油地质储量超1亿吨,是渤海湾盆地凹陷带浅层发现的首个亿吨级岩性油田。中国海油天津公司工程技术作业中心相关负责人介绍:“垦利10-2油田钻完井作业面临井型多、层系多、开发方式多等‘三多’难点。
2026-05-29 09:09
早上8时许,四川省南充市高坪区走马镇姜家祠村村民姜萧将孩子送到村委会“农忙托管班”。为解决农忙季小孩看护缺位问题,姜家祠村因地制宜开设季节性公益“农忙托管班”,为村内适龄儿童提供免费集中托管服务。
2026-05-29 09:06
中国卫星导航定位协会近日发布《2026中国北斗时空产业发展白皮书》。所谓“北斗时空产业”,是以北斗卫星导航系统为核心,深度融合遥感地理信息、移动通信等多种技术手段的综合性产业体系。
2026-05-29 09:02
据中国载人航天工程办公室消息,神舟二十一号和神舟二十三号航天员乘组于28日进行交接仪式,两个乘组移交了中国空间站的钥匙。
2026-05-29 08:52
  人工智能(AI)正以前所未有的速度重塑着教育形态。放眼全球,AI与教育深度融合已不是“未来时”,而是汹涌澎湃的“现在进行时”。在这场由硅基智慧引发的教育革命面前,世界各国都在“大显身手”,基于各自特有的文化背景、教育传统与国家发展战略定位,在“AI+教育”的实施路径上展现出“百花齐放”之势。
2026-05-28 02:10
  当前,我国科普阅读需求呈现出高意愿、高黏性、高集中度的特点。调研显示,成人科普图书核心读者以36岁以上成熟群体为主,占比达82%,女性读者占62%,绝大多数为本科学历以上,企业技术人员、教育科研工作者、都市职场人构成消费主力。超过六成读者每周阅读三次以上,近三分之一年均阅读10本以上,阅读稳定性显著高于其他大众图书。
2026-05-28 02:10
站在河北沧州南皮县乌马营镇徐和杨村的航丰家庭农场地头,放眼望去,成方连片的小麦已泛起嫩黄,一派“小满未满,将熟未熟”的景象。
2026-05-28 02:00
中国社会科学院考古研究所(中国历史研究院考古研究所)27日发布最新成果。2025年9月至今,考古研究所已出版考古报告13部,专著、学术资料、科普读物13部,图录、论文集、数据集8部,中英文顶级、权威期刊上的简报、论文30余篇,并积极建设实验室集刊平台。
2026-05-28 02:00
27日0时16分,我国在文昌航天发射场使用长征七号改运载火箭,成功将通信技术试验卫星二十四号发射升空,卫星顺利进入预定轨道,发射任务取得圆满成功。
2026-05-28 01:40
在提交毕业论文终稿的最后时刻,辽宁省某高校教育学专业研二学生宋耘(化名)还是选择了求助某“专门降论文AIGC(人工智能生成内容)率”的商家。
2026-05-28 01:40
中国卫星导航定位协会近日发布的《2026中国北斗时空产业发展白皮书》显示,2025年,北斗时空产业总产值达到13323亿元。北斗核心产品持续迭代升级,芯片、模组等基础产品小型化、低功耗、高精度水平不断提升,国内主流手机北斗定位精度持续优化,为产业规模化应用奠定了坚实的技术基础。
2026-05-27 09:36
5月27日0时16分,我国在文昌航天发射场使用长征七号改运载火箭,成功将通信技术试验卫星二十四号发射升空,卫星顺利进入预定轨道,发射任务取得圆满成功。
2026-05-27 09:26
“十五五”规划纲要提出,投资于物和投资于人紧密结合。
2026-05-27 03:00
大屏幕上的数字快速跳动。十几轮激烈竞逐后,最终定格在212.4万元,成交!这是日前记者在湖北碳排放权交易中心电子竞价大厅看到的一幕。
2026-05-27 03:10
检测AI率,目的是维护学术研究的严肃性公平性,督促学生遵守学术规范、产出原创成果。然而,在现实操作中,一系列困扰学生乃至老师、学校的问题接连显露。
2026-05-27 02:50
位于北京大兴区的长子营湿地公园,草木葱茏,水面澄澈,鸟鸣声清脆悦耳,勾勒出一幅生机盎然的生态画卷。
2026-05-26 09:24
我国虽然核电铀燃料对外依存度高,但钍资源储量丰富,目前探明钍储量位居世界第二。以钍作核燃料不仅符合我国资源禀赋,甚至可能改变未来全球能源格局。
2026-05-26 09:18
我国已累计发布1750项食品安全标准,涉及2万多个指标,覆盖340多种食品类别,持续完善科学严谨、好用管用的食品安全标准体系。
2026-05-26 09:11
入汛以来,全国平均降水量达110.1毫米,较常年同期偏多18.6%。从空间分布来看,我国南北方均出现降水量较常年同期明显偏多区域。
2026-05-26 09:11
加载更多