发布日期：2024-07-18 02:15 点击次数：64
作家 | ZeR0
智东西3月20日音书，据《连线》报说念，两位了解该来去的东说念主士暴露，英伟达已以九位数收购了合成数据公司Gretel。
音书东说念主士称，这次收购价钱跳跃了Gretel最新的3.2亿好意思元（约合东说念主民币23亿元）估值，不外具体的收购条目尚不明晰。Gretel很是约80名职工的团队将被并入英伟达，其工夫将当作英伟达生成式AI服务套件的一部分。
这次收购恰巧英伟达推出合成数据生成器具之际，拓荒东说念主员不错磨真金不怕火我方的AI模子并针对特定垄断进行微调。表面上，合成数据不错创造近乎无穷的AI磨真金不怕火数据供应，并匡助处分自2022年ChatGPT成为主流以来一直困扰AI行业的数据稀缺问题。尽管巨匠暗示，在生成式AI中使用合成数据有其本人的风险。
英伟达、Gretel发言东说念主拒却发表辩驳。
一、来去将补强英伟达合成数据布局
Gretel成立于2019年，首创东说念主包括Alex Watson、John Myers、Ali Golshan，Golshan担任首席践诺官。这家初创公司为念念要构建生成式AI模子但无法获取满盈磨真金不怕火数据或对使用果真数据存在躲闪担忧的拓荒东说念主员提供合成数据平台和一套API。
Gretel不会构建和授权我方的前沿AI模子，而是对现存的开源模子进行微调以添加各异躲闪和安全功能，然后将它们打包在一皆出售。Pitchbook夸耀，该公司在被收购前筹集了跳跃6700万好意思元的风险投资资金。
与东说念主类生成的数据或现实天下数据不同，合成数据是由贪图机生成的，旨在效法现实天下的数据。赈济者合计，这使得构建AI模子所需的数据生成更具可推广性、做事强度更低，而况更易于范围较小或资源较少的AI拓荒东说念主员使用。
躲闪保护是合成数据的另一个关节卖点，使其成为医疗健康提供商、银行和政府机构的有诱骗力的聘请。
多年来，英伟达一直在为拓荒东说念主员提供合成数据器具。2022年，该公司推出了Omniverse Replicator，闪拓荒东说念主员能够生成自界说的、物理上准确的合成3D数据来磨真金不怕火神经麇集。
旧年6月，英伟达开动推出一系列绽放式AI模子，这些模子可生成合成磨真金不怕火数据，供拓荒东说念主员用于构建或微调大谈话模子。这些迷你模子被称为Nemotron-4 340B，拓荒东说念主员不错使用它们为我方的大谈话模子采聚积成数据，触及“医疗保健、金融、制造、零卖和其他扫数行业”。
二、合成数据能补凑数据集，增强躲闪保护
在昨日主题演讲中，英伟达首创东说念主兼CEO黄仁勋谈到行业在以经济高效的面孔快速推广AI方面所面对的挑战。
“咱们重心关切三个问题，”他说。“第一，若何处分数据问题？若何以及在那处创建磨真金不怕火AI所需的数据？第二，模子架构是什么？第三，Scaling Laws是什么？”黄仁勋持续态状了该公司刻下如安在其机器东说念主平台上使用合成数据生成。
瑞士洛桑联邦理工学院究诘合成数据躲闪的博士后究诘员Ana-Maria Cretu说，合成数据至少能以几种不同的面孔使用。它不错给与表格数据的模式，举例东说念主口统计或医疗数据，这不错处分数据稀缺问题或创建更各种化的数据集。
Cretu举了一个例子：要是一家病院念念要成立一个AI模子来跟踪某种类型的癌症，但正在处理的数据集唯有1000名患者，那么不错使用合成数据来填凑数据集，排斥偏见，并匿名化果真东说念主类的数据。
“这还不错提供一些躲闪保护，因为您不行向利益联系者或软件互助伙伴暴露果真数据。”Cretu说。
但Cretu补充说，在大谈话模子范围，迪士尼彩乐园手机版合成数据也已成为“咱们若何才能跟着时候的推移加多大谈话模子的数据量？”的一个同时兼备的阶段。
三、近似磨真金不怕火可能导致质地显贵下落
巨匠们牵挂，在不久的异日，AI公司将无法像夙昔通常目田地获取东说念主类创造的互联网数据来磨真金不怕火他们的AI模子。旧年，麻省理工学院数据开首经营的一份文书夸耀，对绽放麇集现实的放弃正在加多。
表面上，合成数据不错提供一个节略的处分有洽商。但2024年7月《天然》杂志上的一篇著述强调，当AI谈话模子用其他模子生成的数据反复微调时，它们可能会“崩溃”，即质地显贵下落。
换句话说，要是你只给机器喂它我方生成的输出，表面上它就会开动颓败自主，结果吐出残渣。
AI数据标注公司Scale AI的首席践诺官Alexandr Wang共享了《天然》杂志对于X的著述中的发现，他写说念：“天然刻下很多究诘东说念主员将合成数据视为AI的形而上学之石，但寰宇莫得免费的午餐。” 他在自后的发帖中称，这便是他信赖夹杂数据模式的原因。
Gretel的一位集结首创东说念主反驳了《天然》杂志的这篇论文，他在一篇博客著述中指出，对纯合成数据进行近似磨真金不怕火的“极点场景”并不代表“现实天下的AI拓荒实践”。
瓦解科学家兼究诘员加里·马库斯（Gary Marcus）高声月旦AI炒作，他那时快活Alexandr Wang的“会诊，但不快活他的处方”。他合计，通过拓荒新的AI模子架构，而不是专注于数据集的特点，该行业将上前发展。
在给《连线》杂志的一封电子邮件中，马库斯谈说念，“像（OpenAI的）o1/o3这么的系统似乎在编码和数学等范围推崇更好，因为在这些范围，你不错生成和考证浩繁合成数据。在绽放式范围的通用推理方面，它们恶果较低。”
Cretu合计，围绕模子崩溃的科学表面是合理的。但她指出，大多数究诘东说念主员和贪图机科学家都在使用合成数据和果真数据进行磨真金不怕火。“通过在每一轮新磨真金不怕火中使用新数据，你大概能够幸免模子崩溃。”她说。
结语：大模子龙头和科技巨头已积极转向合成数据
对模子崩溃的担忧，并莫得遏止AI行业加入合成数据潮水，即便他们这么作念时格外严慎。
据报说念，在最近的摩根士丹利工夫会议上，OpenAI集结首创东说念主兼首席践诺官Sam Altman吹捧OpenAI使用现存AI模子创建更多数据的能力。
Anthropic首席践诺官Dario Amodei信赖可能不错构建“一个无穷的数据生成引擎”，通过在磨真金不怕火进程中注入少许新信息来保抓其质地。
大型科技公司也开动转向合成数据。
Meta谈到了若何使用合成数据磨真金不怕火其最先进的大谈话模子Llama 3，其中一些合成数据来自Meta的上一个模子Llama 2。
亚马逊云科技的Amazon Bedrock平台允许拓荒东说念主员使用Anthropic Claude来生成合成数据。
微软Phi-3微型谈话模子部分是在合成数据上进行磨真金不怕火的，该公司告戒称，“预磨真金不怕火过的大谈话模子生成的合成数据偶然会裁减准确性并加多卑劣任务的偏差。”
谷歌DeepMind也一直在使用合成数据，但这再次突显了拓荒用于生成和调理果真玄妙的合成数据的管说念的复杂性。
关键从华为Mate60系列到华为Pura 70系列就带来了很多给力的卖点，无论是麒麟9000S还是可伸缩长焦镜头都很强。
“咱们知说念扫数大型科技公司都在究诘合成数据的某些方面，”音乐授权初创公司Rightsify的首创东说念主Alex Bestall说迪士尼彩乐园黑钱吗，该公司还厚爱生成AI音乐并将其目次授权给AI模子。“但在咱们的来去中，东说念主类数据时常是条约要求。他们可能念念要一个60%由东说念主类生成、40%由合成的数据集。”
上一篇：迪士尼彩票乐园时时彩 感知山东| 济南市市中区七贤街谈社工站开展长辈诗歌诵读举止
下一篇：没有了