点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:“喂”给人工智能的真实数据终将耗尽 合成数据能否让AI模型精确可靠?
首页> 国际频道> 国际要闻 > 正文

“喂”给人工智能的真实数据终将耗尽 合成数据能否让AI模型精确可靠?

来源:科技日报2025-01-22 08:22

  人工智能(AI)初创公司xAI创始人埃隆·马斯克近日表示:“在AI训练中,我们现在基本上耗尽了人类知识的累积总和。”之前研究也表明,人类生成的真实数据将在2到8年内消耗殆尽。鉴于真实数据日益稀缺,为满足AI的“胃口”,科技行业正转向使用合成数据。

  澳大利亚“对话”网站在本月稍早时间报道中指出,合成数据具有诸多优势,但过度依赖合成数据也可能削弱AI的精确性和可靠性。

  图片来源:物理学家组织网

  合成数据应运而生

  以往,科技公司主要依赖真实数据来构建、训练和改进AI模型。真实数据是指由人类创建的文本、视频和图像。它们通过调查、实验、观察或挖掘网站和社交媒体等途径被收集而来。

  真实数据因蕴含真实事件以及其场景和背景而极具价值,但其并非尽善尽美。它可能掺杂拼写错误、不一致或无关的内容,甚至潜藏严重偏见,导致生成式AI模型在某些情况下创建的图像仅展示男性或白人形象。

  但真实数据日益匮乏,因为人类生成数据的速度赶不上AI不断增长的需求。

  美国开放人工智能研究中心联合创始人伊利亚·苏茨克维尔在去年12月举行的机器学习会议上声称,AI行业已触及他所称的“数据峰值”,AI的训练数据如同化石燃料一样面临着耗尽的危机。此外,有研究预测,到2026年,ChatGPT等大型语言模型的训练将耗尽互联网上所有可用文本数据,届时将没有新的真实数据可供使用。

  为给AI提供充足的“养分”,一种由算法生成的、模仿真实世界情况的数据——合成数据应运而生。合成数据是在数字世界中创造的,而非从现实世界收集或测量而来。它可以作为真实世界数据的替代品,来训练、测试、验证AI模型。

  从理论上来说,合成数据为训练AI模型提供了一种经济高效且快捷的解决方案。它有效解决了AI训练使用真实数据时饱受诟病的隐私问题和道德问题,尤其是涉及个人健康数据等敏感信息时。更重要的是,与真实数据不同,合成数据在理论上可以无限供应。

  研究机构高德纳公司估计,2024年AI及分析项目使用的数据中,约60%是合成数据。到2030年,AI模型使用的绝大部分数据将是由AI生成的合成数据。

  科技公司来者不拒

  事实上,微软、元宇宙平台公司,以及Anthropic等众多科技头部企业和初创企业,已经开始广泛使用合成数据来训练其AI模型。

  例如,微软在1月8日开源的AI模型“Phi-4”,便是合成数据携手真实数据训练的;谷歌的“Gemma”模型也采用了类似方法。Anthropic公司也利用部分合成数据,开发出其性能最优异的AI系统之一“Claude 3.5 Sonnet”。苹果自研AI系统Apple Intelligence,在预训练阶段,也大量使用了合成数据。

  随着科技公司对合成数据的需求与日俱增,生产合成数据的工具也接踵而至。

  英伟达公司发布的3D仿真数据生成引擎Omniverse Replicator,能够生成合成数据,用于自动驾驶汽车和机器人训练。去年6月,英伟达开源了Nemotron-4340b系列模型,开发者可使用该模型生成合成数据,用于训练大型语言模型,以应用于医疗保健、金融、制造、零售等行业。在医疗、金融等专业领域,该模型能够根据特定需求生成高质量的合成数据,帮助构建更为精准的行业专属模型。微软推出的开源合成数据工具Synthetic Data Showcase则旨在通过生成合成数据和用户界面,实现隐私保护的数据共享和分析。亚马逊云科技推出的Amazon SageMaker Ground Truth也能为用户生成数十万张自动标记的合成图像。

  此外,去年12月,元宇宙平台公司推出开源大模型Llama 3.3,更是大幅降低了生成合成数据的成本。

  过度依赖风险难测

  尽管合成数据暂时解决了AI训练的燃眉之急,但它也并非尽善尽美。

  一个关键问题在于:当AI模型过于依赖合成数据时,它们可能会“崩溃”。它们会产生更多“幻觉”,编造看似合理可信但实际上并不存在的信息。而且,AI模型的质量和性能也会飞速下降,甚至无法使用。例如,某个AI模型生成的数据出现了一些拼写错误,利用这些充满了错误的数据训练其他模型,这些AI模型必定会“以讹传讹”,导致更大的错误。

  此外,合成数据也存在过于简单化的风险。它可能缺乏真实数据集蕴含的细节和多样性,这可能导致在其上训练的AI模型的输出也过于简单,缺乏实用性。

  为解决这些问题,国际标准化组织需要着手创建强大的系统,来跟踪和验证AI训练数据。此外,AI系统可以配备元数据追踪功能,让用户或系统能对合成数据进行溯源。人类也需要在AI模型的整个训练过程中对合成数据进行监督,以确保其高质量且符合道德标准。

  AI的未来在很大程度上取决于数据的质量,合成数据将在克服数据短缺方面发挥越来越重要的作用。对合成数据的使用,人们必须保持谨慎态度,尽量减少错误,确保其作为真实数据的可靠补充,从而保障AI系统的准确性和可信度。(记者刘 霞)

[ 责编:杨煜 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 河北曹妃甸“湿地优雅精灵”

  • 河北丰南:春暖农事忙

独家策划

推荐阅读
2025年3月13日是第20个世界肾脏日,本届主题是“您的肾脏还好吗?早检查,保健康”,旨在呼吁全社会关注肾脏健康,提高对慢性肾脏病的早期认识,强调了早期发现和干预对肾脏健康的重要性。
2025-03-13 09:15
从中国农业科学院棉花研究所获悉,该所王占彪研究员团队定量解析了童装、针织衫、工作服、T恤和作训服等棉质纺织品“从种子到成衣”全阶段的碳排放情况,即碳足迹,并提出对应的具体“减碳”策略,为我国棉花纺织服装产业的可持续发展提供了重要思路和线索,也为全球棉花纺织产业减排策略的制定提供了科学依据。相关研究成果近日发表在环境科学类国际期刊《资源、保护与回收》上。
2025-03-13 04:40
刚开学,我和学生聊天,询问他们假期有啥进步。有学生说深入钻研了英语六级通关秘籍,自信本学期六级必定取得高分;有学生讲潜心研究了高压绝缘,C刊论文胜券在握;
2025-03-13 05:15
这个春天,越来越多“Z世代”新农人走进田间地头,带来春耕新气象。如今,他接到了3000多亩农田的服务“订单”,周边农户都乐意把农田托付给这个老练的“新农人”来打理。
2025-03-13 09:01
在总结11个术前免穿刺手术案例的基础上,邢念增在国际上首创“前列腺癌免穿刺理念”。
2025-03-13 09:01
人工智能的快速发展和广泛应用,能够推动数实深度融合,释放需求潜力,提升产出效率,推动全要素生产率持续提高。
2025-03-13 09:00
2025年世界移动通信大会(MWC2025)虽已落幕,但引发的思考和争论仍在持续。
2025-03-12 10:11
龙泉又多了一张新名片——汽车空调热管理产业,全市不到30万的人口中,就有近2万人从事汽车空调行业。
2025-03-12 10:01
发展新质生产力,抢占科技创新与产业创新制高点已成为各国在新一轮科技革命和产业变革中抢占先机的“首选项”。
2025-03-12 09:59
新一轮科技革命和产业变革带来的机遇之下,找准产业发展需求的“钉子”,砸实科技成果转化的“锤子”,是实施创新驱动发展战略的关键。
2025-03-12 09:58
代表委员之声——创新引领推动未来产业
2025-03-12 09:53
CGT25型燃气轮机额定输出功率25兆瓦,具有功率密度大、结构紧凑、地域适应性强、双燃料适配及在线切换等特点。
2025-03-11 09:05
科普事业的发展,是一场与时代共进的征程。把科普这一“翼”做强做优,在全社会形成崇尚科学、追求创新的良好风尚,就能更好助力科技创新的腾飞。
2025-03-11 09:04
从伦理治理的角度看,研发者应在数据收集、模型训练和算法设计阶段,引入多样性、多元化的视角,避免单一文化或群体偏见主导AI。
2025-03-11 09:04
新修订的《科普法》明确,开展科普,“应当采取公众易于接触、理解、接受、参与的方式。”
2025-03-11 09:01
今年的政府工作报告提出,持续推进“人工智能+”行动,将数字技术与制造优势、市场优势更好结合起来,支持大模型广泛应用,大力发展智能网联新能源汽车、人工智能手机和电脑、智能机器人等新一代智能终端以及智能制造装备。
2025-03-11 04:55
农稳社稷,粮安天下。今年的政府工作报告提出“持续增强粮食等重要农产品稳产保供能力”,体现的正是确保国家粮食安全的战略考量。
2025-03-11 05:00
走路,本是一桩简单的小事,但对瘫痪病人而言,却是遥不可及的梦想。而加福民团队采取微创手术,将2个直径约1毫米的电极芯片植入到运动脑区,脑部、脊髓的手术可在4小时左右一次完成。
2025-03-10 09:10
近年来,沪市民营上市公司以创新为引擎,其智能工厂代表了当前制造企业数字化转型、智能化升级的领先水平。
2025-03-10 09:09
北京市科学技术研究院创新发展战略研究所所长伊彤代表观察到,人工智能技术在推动产业智能化变革发展的同时,引发的技术风险也日益凸显。
2025-03-10 09:09
加载更多