谷歌CEO内部信:AI大模型翻车“不可接受” 将全面纠正错误(附全文)
创始人
2024-02-28 23:01:56
0

财联社2月28日讯(编辑 刘蕊)在谷歌人工智能产品Gemini的人物图片生成功能功能上周 翻车 之后,美东时间周二,谷歌CEO桑达尔 皮查伊(Sundar Pichai)给员工发了一封内部邮件,首次就Gemini的问题进行了回应,称这是 完全不可接受的 。

皮查伊在内部信中写道,谷歌的AI团队正在昼夜不停地纠正问题,并且已经取得进展。他强调,公司将对Gemini进行结构性改革,以防止类似事件的发生。

Gemini离谱错误 不可接受

Gemini(原名Bard)是谷歌规模最大、功能最强大的多模态人工智能模型。上周,这款产品因为其生成的人物图片过于 政治正确 而遭到不少非议:一些用户近期发现,Gemini生成的大多数人物图像基本都是有色人种,甚至在被要求生成美国国父、教皇、二战德国士兵等人物时,都会生成非裔和亚裔的形象。

谷歌CEO内部信:AI大模型翻车“不可接受” 将全面纠正错误(附全文)

Gemini生成的美国国父图片

谷歌CEO内部信:AI大模型翻车“不可接受” 将全面纠正错误(附全文)

Gemini生成的二战德国士兵图片

这引发了外界的不少批评和担忧,也促使Alphabet在上周四暂停了Gemini的人物图像的生成功能。

在本周一,谷歌AI研究部门DeepMind的负责人Demis Hassabis在出席世界移动通信大会(MWC)时透露,谷歌计划在 未来几周内 恢复人物图像生成功能。

而在本周二,谷歌CEO皮查伊在内部信中,给出了更详细的说明。他写道:

我们将推动一系列明确的行动,包括结构变革、更新产品指南、改进发布流程、建立强有力的评估体系和红队测试(Red-Teaming,一种安全评估方法),以及技术建议。

他敦促把团队把工作重点放在打造 值得用户信任的有用产品 上。

以下是皮查伊写给谷歌员工的完整信件:

我准备解决最近在Gemini应用程序(以前的Bard)中的文本和图像响应的问题。我知道它的一些回答冒犯了我们的用户,并表现出一些偏见 澄清一下,这是完全不可接受的,我们错了。

我们的团队一直在夜以继日地工作以解决这些问题。我们已经看到了大量的实质性改进。没有哪个人工智能是完美的,尤其是在这个行业发展的新兴阶段,但我们知道我们的门槛很高,无论需要多长时间,我们都会坚持下去。我们会审视各种情况,并确保我们能大规模地修复它。

我们的使命是将世界上的信息组织起来,使其普遍可用而且有用处,这一使命是神圣的。我们一直寻求在我们的产品中为用户提供有用、准确和公正的信息。这就是人们信任这些产品的原因。这也必须成为我们所有产品所遵循的路径,包括我们新兴的人工智能产品。

我们将推动一系列明确的行动,包括结构变革、更新产品指南、改进发布流程、建立强有力的评估体系和红队测试(Red-Teaming,一种安全评估方法),以及技术建议。我们正在考虑所有这些问题,并将做出必要的改变。

即使我们从这次的错误中吸取教训,我们也应该在过去几周我们在AI方面所做的产品和技术声明的基础上继续发展。这包括我们在基础模型上的一些基础性进步,例如我们支持100万token的长上下文窗口的突破和我们的开放模型,这两者都得到了很好的认可。

我们知道如何创造出被数十亿人和企业使用和喜爱的伟大产品,凭借我们的基础设施和研究专长,我们为人工智能浪潮提供了一个令人难以置信的跳板。让我们把重点放在最重要的事情上:打造值得用户信速的有用产品。

相关内容

热门资讯

成龙做客京东体验荣耀新机 分享... 成龙做客京东手机直播间,在第一时间体验荣耀手机新品的同时分享自己“先人一步”的创作经历与心得体会,引...
小米澎湃T1信号增强芯片来了:... 2月21日消息,小米14 Ultra将于明日晚7点正式登场,这款旗舰主打影像,是小米史上最好的影像旗...
智能门锁市场稳定增长 2024... 今年1到11月,中国智能门锁线上市场的监测销量为400.1万套,同比增长2.8%。 ...
单卡功耗可达1400W!黄仁勋... NVIDIA CEO黄仁勋在近日的2024 SIEPR经济峰会上透露,下一代DGX GPU服务器将会...
92岁亿万富翁默多克第6次订婚... 有时候真得佩服一些人的精力 92岁的传媒大亨鲁珀特 默多克(Rupert Murdoch)又一次订婚...
vivo X Fold3折叠机... 知名数码博主“数码闲聊站”曝光了vivo X Fold3的线稿,其采用横折叠设计,机身背部采用圆形镜...
外观定了!华为P70手机壳在第... 3月11日消息,据报道,华为P70系列将于4月份正式发布。虽然手机还未官宣,但是多家第三方店铺已经提...
男子7300元买巨型移动电源用... 3月5日消息,据国内媒体报道,杭州的李先生花7300元买了一个巨大的移动电源,放在副驾驶上,开车时通...
IDC:笔记本市场量价齐跌 细... IDC认为,在笔记本电脑消费市场整体需求趋缓,量价齐跌的市场环境下,不同尺寸细分市场的用户差异化需求...
24新款:保罗阿斯登卫衣/夹克... 天猫PUOSLAO旗舰店,保罗阿斯登卫衣/夹克/冲锋衣日常售价339.9元起(共有12款可以选择),...