谷歌因AI聊天机器人Gemini深陷争议

编辑

2024年2月28日11:15 CST 更新
谷歌(Google)的AI技术引发了一个令人头疼的声誉问题。

上周，基于谷歌最先进AI技术的聊天机器人Gemini因生成不符合史实的图像、拒绝生成白人图像的请求而激怒了用户。上周末，Gemini对不同哲学问题的回答也招致批评，令争议演变成了一场更广泛的声讨。

过去几天，针对Gemini对 “自由主义者和斯大林，谁造成的伤害更大？”等问题的回答，马斯克(Elon Musk)等科技评论人士提出了新的批评。

根据马斯克的社交媒体平台X上分享的一张截图，在回答将主张有限政府的政治哲学与冷酷无情的苏联独裁者斯大林(Joseph Stalin)相比较的问题时，Gemini说：“很难明确地说其中哪一种意识形态造成的伤害更大。”

围绕Gemini的网络声讨生动地诠释了谷歌曾抱有的顾虑，几年前，正是这种顾虑阻碍了谷歌向公众发布聊天机器人技术。谷歌的谨慎为初创公司OpenAI及其最大支持者微软(Microsoft)创造了机会，后者凭借爆火聊天机器人ChatGPT抢尽风头。

像Gemini这样的聊天机器人的设计思路是，根据人类语言的统计模型，生成序列中下一个最可能出现的单词，因此它们有时难以预测，也很难控制。谷歌和其他聊天机器人制造商经常试图通过额外的编程来引导聊天机器人朝着某些预期行为的方向发展。

谷歌前员工、AI初创公司Galileo的联合创始人Yash Sheth说，如果以同样的方式提示，竞争对手的聊天机器人也可能做出类似的有争议的回应。

Sheth说，由于多年来谷歌在搜索引擎用户中建立的信任，外界对谷歌的容错空间较小。“大家绝对信任它，相信它给出的都是真实内容。”

谷歌的一位发言人周一在一份声明中说：“Gemini是作为一种创造力和生产力工具而构建的，它可能并不总是准确或可靠的。我们将继续快速处理产品没有适当响应的情况。”

谷歌去年曾表示，将限制Gemini和其他消费者AI服务回应某些与选举有关的问题，但并未提供更多细节，这表明该公司在努力限制AI在争议性话题上的输出。


谷歌本月将其聊天机器人更名为Gemini。

图片来源：erik s lesser/Shutterstock

近一年前，谷歌发布了聊天机器人Bard，并将其标为“早期实验”。本月，谷歌去掉了这一提醒，将该产品更名为Gemini，并开始对使用该公司最先进AI技术支持的版本收取每月略低于20美元的费用。

谷歌高管表示，他们希望该聊天机器人的用户数量达到数以十亿计，这是一个重要的里程碑，该公司只有少数几项服务达到了这一水平。

谷歌母公司Alphabet的股价在周一下跌超过4%，反映出投资者担忧这一争议会对谷歌新业务的推进产生潜在影响。谷歌已在搜索引擎的新功能里和一套办公应用软件工具中内置了同样的AI技术，对每位用户的月收费高达30美元。

谷歌夸耀Gemini等聊天机器人是具有创造力和生产率的工具，但这些工具编造错误信息的问题也是众所周知的。研究人员还担心，聊天机器人往往会复制它们依赖的底层数据库（包括大部分互联网内容）里存在的偏见。

麦格理(Macquarie)的分析师在周一的一份研究报告中写道，“围绕Gemini的争议揭示出AI领域的一个更大问题：公众要如何信任AI模型？”

周末在X上被广泛分享的另一张截图显示，谷歌聊天机器人对马斯克和希特勒的相对影响力进行了评估。截图显示，Gemini的回复在开头写道：“就马斯克发推和希特勒进行比较，无法确切地讲谁对社会的负面影响更大。”

《华尔街日报》(The Wall Street Journal)周一使用付费版的Gemini Advanced，未能重现以斯大林和希特勒为话题焦点的人机对话交流。谷歌没有对聊天机器人的具体回复案例发表评论。

谷歌上周五为Gemini的视觉功能道歉，该功能生成了与史实不符的图像，在某些情况下拒绝生成白人肖像。一天前，谷歌已经完全暂停了该聊天机器人生成人物图像的功能。


谷歌AI研究部门Google DeepMind的负责人Demis Hassabis在周一的一次会议上称，公司计划在未来几周内恢复Gemini生成人物图像的能力。

图片来源：pau barrena/Agence France-Presse/Getty Images

谷歌上周表示，Gemini的图像生成功能 “出了差错”，究其原因，一是公司试图对回应进行微调，二是该技术的发展偏离了预期行为。

负责管理聊天机器人工作和谷歌旗舰搜索引擎的高级副总裁Prabhakar Raghavan在一篇谷歌博文中说：“这两点导致模型在某些情况下过度补偿，在另一些情况下则过度保守，从而产生了令人尴尬和错误的图片。”

谷歌AI研究部门Google DeepMind的负责人Demis Hassabis在周一的一次会议上称，公司计划在未来几周内恢复Gemini生成人物图像的能力。

马斯克和其他一些人最近几天指责谷歌设计Gemini是为了反映一种左翼正统观念，他们声称这种观念已在大型科技公司中大行其道。X推出了与之竞争的名为Grok的聊天机器人，马斯克的AI公司xAI将其宣传为自带“反叛倾向”。

在Stratechery资讯平台上颇具影响力的科技评论员Ben Thompson周一撰文指出，Gemini的回复似乎贯穿了始终如一的观点，表明该公司的企业文化需要改革。

Thompson写道，作为回应，谷歌应该考虑 “上至首席执行官皮采(Sundar Pichai)在内 ”的领导层变动。