马斯克Grok陷入“AI情裸奔”海西塑料挤出机，撞多国监管红线
Q Q：183445502记者 陈归辞
马斯克Grok陷入“AI情裸奔”，撞多国监管红线
近期，埃隆·马斯克旗下东说念主工智能公司xAI被优势口浪。
因平台监管严重缺失，xAI旗下聊天机器东说念主“格罗克”(Grok)被凡俗奢华于生成情内容，致使波及儿童情内容，遭到英国、欧盟、印尼等多国激烈责怪，干系监管机构已接踵启动访谒或实施封禁。
据新华社报说念，“格罗克”由xAI公司设备，并内置于马斯克旗下的酬酢媒体X平台，用户可直接调用。近期，部分用户诓骗“格罗克”裁剪图片和的，伪造涉真实东说念主物的露出内容，并在X平台上传播。受害者包括多名成年女和未成年东说念主。
xAI面对多国访谒及封禁海西塑料挤出机，为“AI情裸奔”敲响警钟。
“论是出于对劣势群体的保护，已经对社会顺次的谨防对生成式AI施加护栏(Guardrails)是弗成逆转的共鸣。”上海社会科学院信息扣问所长处刘炜在接受21世纪经济报说念记者采访时暴露。
Grok成AI情重灾地
xAI于2025年8月向付用度户出AI图像生成Grok Imagine，因循用户通过翰墨教唆或上传图片来生成图像和。该器具还颠倒配置了“火辣气象”(spicy)，可生成成东说念主内容。
X平台上多数用户诓骗干系对图像中东说念主物引申“脱穿戴”、“给她穿上比基尼”等教唆，致多数女、公世东说念主物致使未成年东说念主的像片，在未经本东说念主欢喜的情况下被生成露出图像或暴露图像。
前年底，跟着Grok运转多数反应用户修改他东说念主发布图像的申请，乱象速即扩大，X沦为AI情重灾地。
据环球时报征引英国《卫报》报说念海西塑料挤出机，Grok的用户群体平均每小时要生成6700多张“脱衣”图像。
其中，多数生成图像的素材源自真东说念主，且未经当事东说念主欢喜。英国三学院的项酬酢媒体扣问骄矜，在酬酢平台X上由Grok生成的图像有3/4的部分均出自“真实素材”，即真实存在的女或未成年东说念主，且Grok对他们所进行的“角色”操作未经当事东说念主欢喜。
比较谷歌的Veo、OpenAI的Sora等其他AI生成家具对NSFW内容(Not Safe For Work：多指露出、、情或冒犯等不合乎公众场的内容)设有较严格的截至，xAI 偏激旗下家具Grok Imagine和AI伴侣Ani，直因安全护栏宽松而备受外界品评。
在刘炜看来，马斯克贯谙流量才是果然的生命线，而争议则是好的催化剂。允许Grok生成那些ChatGPT拒生成的旯旮内容，实上是为X Premium工作提供了种隐痛的“荷尔蒙”。
刘炜觉得，马斯克的利益动机彰着是通过监管套利(Regulatory Arbitrage)，收割那些被主流AI平台拒之门外的用户需求。
多国监管介入
综新华社及环球时报音信，Grok的问题已禁受到英国、欧盟、印尼、澳大利亚等多国的度暖热海西塑料挤出机，多国政府对其抒发责怪并张开访谒。
印度尼西亚政府1月10日晓示暂时封禁Grok，觉得它已“严重骚扰东说念主权尊容以及公民汇集安全”。印尼通讯和数字事务部长默蒂娅·哈菲兹10日在份声明中暴露，塑料挤出设备此举关于保护公众受东说念主工智能生成的露骨图像所带来的危害是要的，并条目马斯克旗下的酬酢媒体X平台就“格罗克”所激发的负面影响尽快作出讲解。
英国相斯塔默痛斥Grok干系内容“令东说念主不齿”“令东说念主作呕”。英国通讯科罚局1月5日暴露，已紧迫计划X平台。
欧盟委员会发言东说念主托马斯·雷尼耶指出，这类内容关“火辣”，即是赤裸裸的“违警”，它们在欧盟不应具备生活空间。他暴露，正严肃访谒针对“格罗克”的干系投诉，欧盟委员会条目X平台提供多信息。
法国巴黎检1月2日对媒体证据，将对Grok涉嫌生成罪人情内容启动访谒。
此外，据新华社报说念，波兰、印度、马来西亚和巴西等国的官员及监管机构也纷纷对X平台暴露责怪，并号令张开访谒。
“裸奔”的AI与“数字玷辱”的监管红线
当AI在失管状况下被奢华于骚扰他东说念主权益，毫费心地沦为汇集霸凌与克扣孳生和传播温床，这异于对伦理底线的公然糟踏。同期，这也直接撞上了列国关于“数字玷辱”的监管红线。
刘炜指出，Grok生成的不单是是广博的成东说念主内容，而是波及大模子护栏下的度伪造(Deepfake)和儿童克扣或薄情材料 (CSAM)。这种危害不仅在于对当事东说念主(如泰勒·斯威夫疏淡名东说念主)肖像权的骚扰，在于它恶浊了施行与臆造的限制，可能成为汇集霸凌和克扣的低价“核刀兵”。
“未经授权使用他东说念主面部特征生成的情内容，论那时候何等，骨子上王人是种。”刘炜称。
据环球时报报说念，在责怪声浪与监管压力下， Grok日前仅作念出小幅疗养：将图像生成与裁剪配置为“仅限付用度户使用”，并饱读吹平台用户积订阅、解锁干系。
对此，据新华社报说念，英国科学、革新和时候大臣莉兹·肯德尔称，Grok允许用户付费后还陆续生成“度伪造”情内容的步履是具有“侮辱的”，“弗成接受”。
另据新华社报说念，X平台在篇帖子中宣称会对罪人内容选拔活动，举例删除内容、封禁账户，并在要时与当地政府和端正部门作。
刘炜觉得，关于X而言，陆续在法律和说念德的旯旮试探，轻率能换来时的狂热信徒和订阅收入，但终将致其在天下主要市集的瘫痪。
“X平台面对的封禁是个明确的信号：‘解放’是有代价的海西塑料挤出机，而马斯克正在为此收到账单。论是出于对劣势群体的保护，已经对社会顺次的谨防，对生成式AI施加护栏(Guardrails)是弗成逆转的共鸣。”刘炜暴露。