如果你的人工智能看起来更聪明,那要归功于更聪明的人类训练师If your AI seems smarter, it’s thanks to smarter human trainers

环球医讯 / AI与医疗健康来源:www.rappler.com瑞典 - 英语2024-09-29 12:04:00 - 阅读时长5分钟 - 2374字
在竞争激烈的人工智能领域,更复杂的模型更新需要专业知识的人类训练师,相关企业为此展开合作与竞争。
人工智能人类训练师ChatGPTCohereInvisibleTech减少幻觉数据标注OpenAIAI21微软ScaleAI专业知识高薪竞争
如果你的人工智能看起来更聪明,那要归功于更聪明的人类训练师

在竞争激烈的人工智能领域,对人工智能模型更复杂的更新现在需要一个迅速扩大的具有专业知识的人类训练师网络,从历史学家到科学家,其中一些人拥有博士学位。

瑞典斯德哥尔摩 - 在早期,要让像 ChatGPT 或其竞争对手 Cohere 这样的人工智能模型给出类似人类的回应,需要大量低成本的工作人员帮助模型区分诸如图像是汽车还是胡萝卜这样的基本事实。

但在竞争激烈的领域中,人工智能模型更复杂的更新现在需要一个迅速扩大的具有专业知识的人类训练师网络,从历史学家到科学家,其中一些人拥有博士学位。

Cohere 的联合创始人 Ivan Zhang 谈到其内部的人类训练师时说:“一年前,我们可以雇佣本科生来总体上教人工智能如何改进。现在我们有有执照的医生教模型如何在医疗环境中表现,或者有金融分析师或会计师。”

为了进行更多的训练,上次估值超过 50 亿美元的 Cohere 与一家名为 Invisible Tech 的初创公司合作。Cohere 是 OpenAI 的主要竞争对手之一,专注于为企业提供人工智能服务。

这家名为 Invisible Tech 的初创公司雇佣了数千名远程工作的训练师,并已成为从 AI21 到微软等人工智能公司的主要合作伙伴之一,以训练他们的人工智能模型来减少错误,在人工智能领域这被称为“幻觉”。

Invisible 的创始人 Francis Pedraza 说:“我们在全球 100 多个国家拥有 5000 人,他们是博士、硕士学位持有者和知识工作专家。”

Invisible 根据工人的位置和工作的复杂性,每小时支付高达 40 美元。有些公司,如 Outlier 每小时支付高达 50 美元,而另一家名为 Labelbox 的公司表示,对于像量子物理这样的“高专业知识”主题,每小时支付高达 200 美元,但基本主题从 15 美元起。

Invisible 成立于 2015 年,最初是一家为食品配送公司 DoorDash 等提供工作流程自动化服务以将其配送菜单数字化的公司。但在 2022 年春天,在 ChatGPT 公开推出之前,相对不知名的研究公司 OpenAI 联系了他们,情况发生了变化。

Pedraza 告诉路透社:“OpenAI 来找我们时遇到了一个问题,就是当你向早期版本的 ChatGPT 提问时,它会产生幻觉。你不能相信答案。他们需要一个先进的人工智能训练合作伙伴,提供基于人类反馈的强化学习。”

OpenAI 没有回应置评请求。

生成式人工智能根据用于训练它的过去数据生成新的内容。然而,有时它无法区分真假信息,并产生被称为幻觉的错误输出。在 2023 年的一个显著例子中,谷歌的一个聊天机器人在宣传视频中分享了关于哪个卫星首先拍摄了地球太阳系外行星的不准确信息。

人工智能公司意识到幻觉可能会破坏 GenAI 对企业的吸引力,并正在尝试各种方法来减少它,包括使用人类训练师来教授事实和虚构的概念。

自从与 OpenAI 合作以来,Invisible 表示它已成为包括 Cohere、AI21 和微软在内的大多数 GenAI 公司的人工智能训练合作伙伴。Cohere 和 AI21 证实他们是客户。微软没有确认它是 Invisible 的客户。

Pedraza 说:“这些都是在训练方面有挑战的公司,他们的首要成本是计算能力,其次是优质训练。”

如何运作?

引发了 GenAI 热潮的 OpenAI 有一个恰如其分地名为“人类数据团队”的研究团队,与人工智能训练师合作,为其像 ChatGPT 这样的模型收集专门的数据进行训练。

一位熟悉该公司流程的消息人士称,OpenAI 的研究人员进行各种实验,如减少幻觉或改进写作风格,并与来自 Invisible 和其他供应商的人工智能训练师合作。在任何时候,都有数十个实验正在进行,有些使用 OpenAI 开发的工具,有些使用供应商的工具。

根据人工智能公司的需求 - 从更好地了解瑞典历史到进行金融建模 - Invisible 为这些项目雇佣具有相关学位的工人,减轻了人工智能公司管理数百名训练师的负担。

Pedraza 说:“OpenAI 拥有一些世界上最不可思议的计算机科学家,但他们不一定是瑞典历史、化学问题、生物学问题或任何你能问它的问题的专家。”他还补充说,仅为 OpenAI 服务的合同工就超过 1000 人。

Cohere 的 Zhang 说他个人曾使用 Invisible 的训练师来寻找一种方法,教其 GenAI 模型从大数据集中找到相关信息。

竞争

在这个领域的竞争对手中,有 Scale AI 这家私人初创公司,上次估值为 140 亿美元,为人工智能公司提供训练数据集。它也涉足提供人工智能训练师的领域,并将 OpenAI 视为客户。Scale AI 没有回应就此报道的采访请求。

自 2021 年以来一直盈利的 Invisible 仅筹集了 800 万美元的主要资本。

Pedraza 说:“我们 70%由团队拥有,只有 30%由投资者拥有。我们确实促进了第二轮融资,最近的交易价格为 5 亿美元的估值。”路透社无法证实这一估值。

人类训练师最初通过数据标注工作进入人工智能训练,这需要较少的资格,报酬也较低,有时低至 2 美元,主要由非洲和亚洲国家的人完成。

随着人工智能公司推出更先进的模型,对专业训练师和多种语言的需求正在上升,创造了一个高薪的利基市场,来自各种学科的工人可以成为人工智能训练师,甚至不需要知道如何编码。

人工智能公司的需求导致了更多提供类似服务的公司的创建。

Zhang 说:“我的收件箱基本上被到处涌现的新公司淹没了。我确实认为这是一个新的空间,公司雇佣人类只是为像我们这样的人工智能实验室创建数据。”

大健康

猜你喜欢

  • 人工智能如何帮助弥合动物与人类之间的研究差距人工智能如何帮助弥合动物与人类之间的研究差距
  • 微软称其新的人工智能纠错功能可修复幻觉。这可行吗?微软称其新的人工智能纠错功能可修复幻觉。这可行吗?
  • Harrison.ai 推出放射学生成式人工智能等更多人工智能简报Harrison.ai 推出放射学生成式人工智能等更多人工智能简报
  • 英伟达为药物发现者推出人工智能参考工作流程英伟达为药物发现者推出人工智能参考工作流程
  • 微软声称其新的人工智能校正功能可修复幻觉。真的有效吗?微软声称其新的人工智能校正功能可修复幻觉。真的有效吗?
  • 医疗保健领域的人工智能:性别刻板印象依然存在医疗保健领域的人工智能:性别刻板印象依然存在
  • 社交媒体平台利用用户发布信息训练人工智能模型社交媒体平台利用用户发布信息训练人工智能模型
  • 澳大利亚放射学提供商的人工智能训练调查为美国医疗保健提供商提供重要提醒澳大利亚放射学提供商的人工智能训练调查为美国医疗保健提供商提供重要提醒
  • 微软称其新工具可纠正人工智能幻觉,但专家建议谨慎对待微软称其新工具可纠正人工智能幻觉,但专家建议谨慎对待
  • 如果人工智能看起来更聪明,那要归功于更聪明的人类如果人工智能看起来更聪明,那要归功于更聪明的人类
大健康
大健康

热点资讯

大健康

全站热点

大健康

全站热文

大健康