半岛综合体育据环球网援引26日报道,对于用户反馈谷歌公司推出的人工智能(AI)模型Gemini在生成人物图像时出现疑似“反白人”的问题,谷歌高级副总裁普拉巴卡尔·拉加万日前进行了道歉。
报道称,谷歌公司推出的AI模型Gemini具有根据文字生成图像的功能,但一些用户近期发现,大多数生成的人物图像都不是白人,而是有色人种,甚至连美国第一任总统华盛顿都是“黑人”。有用户认为,该模型在生成图像的过程中存在“反白人”问题。对此,谷歌称,将暂时停止Gemini运行生成人物图像的功能。
当地时间2月23日,拉加万在谷歌博客网站发文称,“很明显,该功能未能达到预期效果,生成的一些图像不准确或者甚至令人不快。我们感谢用户的反馈,对该功能未能很好发挥作用感到抱歉”。“当我们在Gemini中设置此功能时,我们对其作出了调整,以确保不会陷入我们过去在图像生成技术中看到的一些陷阱,例如生成暴力图像或露骨图像,或真人图像。”拉加万称,“我们的用户来自世界各地,我们希望它能够为每个人提供良好服务。”
据了解,人工智能模型Gemini可在几秒钟内根据提示创建图像,用户可以在使用时编写简单的文字提示,不少用户使用该模型生成了各种各样的图像,包括狗乘冲浪板、飞行汽车等。
不过,有一些用户表示,自己在使用Gemini生成人物图像时发现问题,包括要求Gemini“创建一个教皇的图像”,结果发现该模型创建出的两幅作品都是有色人种。一些用户认为,谷歌的Gemini存在针对白人的“种族主义”。Gemini系统的高级主管杰克·克劳茨克在接受《每日邮报》采访时回应称,“Gemini的AI生成图像确实能够生成各种各样的人物形象。这通常是一件好事,因为全世界的人都在使用它bob半岛在线登录。但它没有达到预期效果”。他还称bob半岛在线登录,谷歌正努力解决此类问题bob半岛在线登录。
这并不是AI第一次在现实世界中遇到问题。BBC称,例如,近10年以前,谷歌因其照片应用程序将一对黑人夫妇的照片标记为“大猩猩”而不得不道歉bob半岛在线登录。
不过,人工智能领域的专家反对就此认定人工智能存在“逆向歧视”。据报道,研究人工智能图像生成器偏见的华盛顿大学研究员戈什(Sourojit Ghosh)表示bob半岛在线登录,他的研究并不支持“白人擦除”的结论。他指出,现有文献和研究都表明,(美国社会中)传统上的边缘群体极易被人工智能模型抹去,而创造一个不会造成代表性损害的图像生成工具的努力不会一蹴而就。