谷歌因虚假性侵指控而下架Gemma大模(型_新浪)财经_新浪网
看日本操逼視 - 精彩内容每日更新,热门短片火热上线,海量资源一键直达
谷歌近日将其 Gemma 大模型撤下,仅保留给开发者通过 API 使用。事件起因是美国田纳西州参议员玛莎·布莱克本指控该模型“编造”她在1987年竞选期间与州警存在非自愿性关系的谣言,甚至虚构出处链接。事实上,她直到1998年才参选,且从未出现类似指控。 布莱克本致函谷歌 CEO 皮查伊,强调这类虚假输出不是简单的“幻觉(hallucination)”,而是“AI制造的诽谤”,并要求谷歌在11月6日前解释生成机制及预防措施。 谷歌回应称,已发现有人在 AI Studio平台中用 Gemma 查询事实,而该模型原本仅面向开发者,不适合作为通用问答,因而决定收紧权限。 这一事件并非孤例。此前保守派人士罗比·斯塔巴克因遭谷歌旗下 Bard、Gemini、Gemma 模型错误标注为“强奸儿童”“连环性侵者”,已提起超1500万美元诉讼。微软系工具也曾错误描述德国记者为“儿童性侵犯”。 随着生成式AI广泛落地,行业普遍存在“自信地胡编乱造”问题,小型开源模型尤其突出。法律专家警告,AI 诽谤案件激增,将成为监管与司法的新挑战。 谷歌表示致力于减少错误生成,但也承认“只要有人刻意诱导,AI仍可能输出误导内容”,凸显行业在安全机制、事实溯源与责任界定上仍缺乏成熟方案。 .appendQr_wrap{border:1px solid #E6E6E6;padding:8px;} .appendQr_normal{float:left;} .appendQr_normal img{width:100px;} .appendQr_normal_txt{float:left;font-size:20px;line-height:100px;padding-left:20px;color:#333;} 海量资讯、精准解读,尽在新浪财经APP 责任编辑:黄康
看日本操逼視 - 精彩内容每日更新,热门短片火热上线,海量资源一键直达
分享让更多人看到 




9415 




第一时间为您推送权威资讯
报道全球 传播中国
关注人民网出品,传播正能量