谷歌要求人工智能承包商必须对超出专业范围问题给出答案

作者: CBISMB

责任编辑: 张金祥

来源: ISMB

时间: 2024-12-19 10:08

关键字: 谷歌,Gemini

浏览: 1

点赞: 0

收藏: 0

近日,据外媒报道,谷歌在Gemini项目中实施了一项新的内部指导方针,要求承包商对超出专业范围的人工智能(AI)生成的响应进行评分。

Gemini项目背后有着谷歌等公司的大量员工,他们被称为“即时工程师”和分析师,负责评估聊天机器人输出的准确性,以不断改进人工智能系统。以往这些承包商在评估AI响应时,如遇到超出专业领域的提示,可以选择跳过。

例如没有科学背景的承包商可以跳过询问心脏病学问题的提示。然而,上周GlobalLogic宣布了谷歌的一项变更,即承包商不再被允许跳过此类提示,无论他们自己的专业知识如何。

内部通讯显示,之前的指导方针明确允许承包商在缺乏关键专业知识时跳过任务。但现在的指导方针则要求承包商“对你理解的提示部分进行评分”,并注明他们不具备领域知识,哪怕这意味着他们需要在不熟悉的领域进行评估。

这可能会让用户对Gemini在某些主题上准确性的担忧,承包商有时会被要求评估高度技术性的AI反应,如他们没有背景的罕见疾病等问题。这可能导致不准确的信息被传递给普通用户。

一名承包商在内部通讯中指出:“我以为跳过的目的是为了通过将工作交给更优秀的人来提高准确性?”这一疑问也反映了承包商对新指导方针的不满和担忧。

根据新指南,承包商现在只能在两种情况下跳过提示:一是完全缺少信息,如完整的提示或回复;二是包含需要特殊同意书来评估的有害内容。这一限制使得承包商在评估AI响应时面临更大的压力和挑战。

谷歌方面尚未对此事发表正式回应。

©本站发布的所有内容,包括但不限于文字、图片、音频、视频、图表、标志、标识、广告、商标、商号、域名、软件、程序等,除特别标明外,均来源于网络或用户投稿,版权归原作者或原出处所有。我们致力于保护原作者版权,若涉及版权问题,请及时联系我们进行处理。