谷歌要求人工智能承包商必须对超出专业范围问题给出答案
作者: CBISMB
责任编辑: 张金祥
来源: ISMB
时间: 2024-12-19 10:08
关键字: 谷歌,Gemini
浏览: 1
点赞: 0
收藏: 0
近日,据外媒报道,谷歌在Gemini项目中实施了一项新的内部指导方针,要求承包商对超出专业范围的人工智能(AI)生成的响应进行评分。

Gemini项目背后有着谷歌等公司的大量员工,他们被称为“即时工程师”和分析师,负责评估聊天机器人输出的准确性,以不断改进人工智能系统。以往这些承包商在评估AI响应时,如遇到超出专业领域的提示,可以选择跳过。
例如没有科学背景的承包商可以跳过询问心脏病学问题的提示。然而,上周GlobalLogic宣布了谷歌的一项变更,即承包商不再被允许跳过此类提示,无论他们自己的专业知识如何。
内部通讯显示,之前的指导方针明确允许承包商在缺乏关键专业知识时跳过任务。但现在的指导方针则要求承包商“对你理解的提示部分进行评分”,并注明他们不具备领域知识,哪怕这意味着他们需要在不熟悉的领域进行评估。
这可能会让用户对Gemini在某些主题上准确性的担忧,承包商有时会被要求评估高度技术性的AI反应,如他们没有背景的罕见疾病等问题。这可能导致不准确的信息被传递给普通用户。
一名承包商在内部通讯中指出:“我以为跳过的目的是为了通过将工作交给更优秀的人来提高准确性?”这一疑问也反映了承包商对新指导方针的不满和担忧。
根据新指南,承包商现在只能在两种情况下跳过提示:一是完全缺少信息,如完整的提示或回复;二是包含需要特殊同意书来评估的有害内容。这一限制使得承包商在评估AI响应时面临更大的压力和挑战。
谷歌方面尚未对此事发表正式回应。