X 深度伪造调查：欧盟对马斯克X平台AI聊天机器人展开调查

中国 - 美联社

X 深度伪造调查已正式启动，欧盟委员会周一宣布，已对埃隆·马斯克旗下的社交媒体平台X及其人工智能聊天机器人Grok展开正式调查。此举是在Grok涉嫌生成性化女性和未成年人深度伪造图像的报告浮出水面后采取的，标志着国际社会对该工具反弹的最新一步，也凸显了对人工智能滥用的日益关注。

欧盟委员会的此次调查是根据《数字服务法案》（DSA）启动的，该法案旨在确保大型在线平台对其内容负责。这并非X首次成为欧盟监管机构的目标。此前的担忧包括虚假信息传播、非法内容处理不力以及透明度不足。此次的关注点则直接指向了AI工具生成有害内容的潜在风险。

X 深度伪造调查：Grok的角色与影响

Grok是X平台推出的一款AI聊天机器人，旨在提供实时信息和幽默回复。然而，最近的指控表明，该工具已被用于创建令人不安的深度伪造图像，特别涉及对未成年人的性化内容。这种行为不仅严重侵犯了个人权利，更对儿童的网络安全构成了直接威胁。深度伪造技术通过人工智能合成，可以生成高度逼真但虚假的图像、音频或视频，使其在辨别真伪上极具挑战性。

欧盟对X的调查将聚焦于多个方面：

• Grok AI生成性化深度伪造内容的具体机制与范围。
• X平台在检测、删除和防止此类非法内容传播方面的措施是否充分有效。
• X是否遵守了DSA关于风险评估、内容审核以及保护未成年人的义务。
• X平台在应对算法偏见和AI系统潜在危害方面的透明度。

此次调查的启动，正值全球范围内对生成式AI技术伦理和安全担忧日益加剧之际。从虚假信息传播到个人隐私侵犯，AI工具的快速发展带来了前所未有的挑战。欧盟一直走在AI监管的前沿，其《人工智能法案》正在推进中，旨在为AI系统建立一套全面的风险管理框架。

对于X平台而言，此次调查可能导致巨额罚款，罚款金额最高可达其全球年营业额的6%。更重要的是，它将迫使X重新审视其AI工具的开发和部署策略，并加强内容审核机制，以符合欧盟严格的数字服务标准。埃隆·马斯克曾多次强调言论自由的重要性，但欧盟的行动表明，这种自由并非没有界限，尤其是在涉及未成年人保护和非法内容时。

专家指出，AI深度伪造技术，尤其是与儿童色情内容相关的，构成了严重的社会威胁。它不仅可能对受害者造成长期的心理创伤，也可能被犯罪分子利用，加剧网络犯罪的蔓延。此次欧盟的行动是对科技公司发出的明确信号：在追求技术创新的同时，必须承担起社会责任，确保其产品和服务不会被用于制造和传播有害内容。

随着调查的深入，X平台可能面临严格的审查和监管压力。这不仅是对X平台的一次考验，也是对整个科技行业如何平衡创新与责任、自由与安全的一次重要示范。欧盟的这一举措无疑将进一步塑造全球数字治理的格局。

更多详情请访问 美联社官方网站。