Grok提供色情化女性及儿童照片功能遭到谴责

Daobo

Grok提供色情化女性及儿童照片功能遭到谴责

马斯克旗下的AI聊天机器人Grok提供图片编辑功能，允许将女性和儿童的照片转化为色情图像并在X平台发布和传播。此举遭到多方投诉和谴责。

马斯克和Grok

马斯克和Grok

法国相关部长表示，由Grok生成的内容也已被提交给法国媒体监管机构，以检查这些内容是否符合欧盟《数字服务法》的相关规定。图像来源: Algi Febri Sugita/ZUMA Press Wire/picture alliance

（德国之声中文网）马斯克（Elon Musk）旗下的人工智能聊天机器人Grok遭到用户指控：该聊天机器人会将女性和儿童的照片转化为色情图像并在X平台发布和传播。

Grok在社交平台X上发文表示：“我们已经发现安全防护方面的漏洞，正在紧急修复。”

自12月下旬Grok推出“编辑图片”功能后，X平台上便开始涌现大量投诉。

投诉称，这项新功能允许用户在平台上修改图片，部分用户选择将图片中女性或儿童的衣物全部或部分移除。

Grok表示：“CSAM（儿童性虐待内容）是非法且被禁止的。”

目前尚无法确定该功能在多大程度上被滥用。

但路透社在美国东部时间周五（1月2日）中午的一个10分钟时段内，审查了用户发送给 Grok的公开请求，经统计发现，有102次请求是X用户要求Grok对人物照片进行数字编辑，使其看起来像是穿着比基尼。

色情化图像引发多国担忧

这些色情化图像在X平台上的广泛传播，已在多个国家引发担忧。

法国议员已就这些令人不安的图像向检察官和监管机构举报X，并在周五发表声明称，这些“色情和性别歧视”内容“显然是非法的”。

法国相关部长表示，由Grok生成的内容也已被提交给法国媒体监管机构，以检查这些内容是否符合欧盟《数字服务法》的相关规定。

与此同时，印度政府向X发出通知，要求其采取纠正措施，并在72小时内提交一份报告，说明该平台正在采取哪些措施，以移除Grok所生成、未经当事人同意的“猥亵、裸体、不雅及性暗示内容”。

近几个月来，Grok多次因其生成的敏感言论引发争议，其中包括加沙战争、印巴冲突、反犹发言，以及散布有关澳大利亚致命枪击案的不实资讯。

（法新社、路透社）