埃隆·马斯克最新的创新——Grok聊天机器人，因其最近的功能引发了重大争议。该功能允许用户在X平台上生成和分享AI生成的图像。这一新功能使用户能够基于文本提示创建高度逼真的图像，导致涉及高层政治人物的有问题内容激增。
自推出以来，Grok被用于生成一系列虚假的图像，其中包括前总统唐纳德·特朗普、副总统卡马拉·哈里斯以及马斯克本人。这些图像中，一些描绘了公众人物处于令人不安的虚构情境中，包括与9/11袭击相关的争议场景。这些图像的迅速传播引发了对AI工具可能误导公众和传播虚假信息的担忧，尤其是在美国总统选举临近的情况下。
Grok由马斯克的人工智能初创公司xAI开发，与其他AI图像生成工具相比，其在防止滥用方面的保护措施有限。与更多受监管的平台不同，Grok对用户可以创建的内容类型几乎没有限制。这种监督不足使用户能够生成和分享可能在脱离上下文时产生误导或危害的图像。
Grok生成的图像中既有无害的也有争议的。例如，一张图像显示马斯克在公园里吃牛排，这相对无害。然而，其他图像则展示了令人不安且可能具有误导性的内容，比如特朗普从卡车上射击的图像，这张图像已被观看近40万次。这些内容引发了对该工具可能影响公众舆论和传播虚假信息的重大担忧。
这一情况突显了AI图像生成领域的更广泛问题。尽管像OpenAI、META和微软这样的公司已采取措施防止其工具用于生成误导性政治内容，但Grok的有限限制和执行力度导致了问题图像的增加。其他社交媒体平台，包括YouTube、TikTok、Instagram和Facebook，也引入了标记AI生成内容的机制，以努力减缓虚假信息的传播。
针对批评意见和令人不安的内容报告，xAI已开始对Grok施加新的限制。截至目前，该工具已更新，禁止生成涉及政治人物或版权角色的暴力或仇恨言论相关图像。然而，用户发现这些限制并非总是被一致地应用，仍有一些问题内容未被有效遏制。
X平台的政策规定，禁止“合成、操控或脱离上下文的媒体，这些媒体可能误导或混淆公众并导致伤害”。尽管如此，该政策的执行情况仍不明确，最近包括马斯克分享的一段误导哈里斯评论的视频在内的事件表明，在维持这些标准方面存在挑战。
Grok的推出及其争议性使用突显了对AI技术伦理影响的持续关注。类似的问题也出现在其他AI工具中。例如，谷歌在其Gemini AI聊天机器人被批评生成历史不准确的图像后，暂时暂停了该工具生成人物图像的能力。Meta的AI图像生成器因未能准确表现多种种族背景而受到批评，TikTok则因其AI视频工具有可能生成虚假内容而被迫撤回。
尽管采取了一些措施以应对滥用问题，Grok的功能仍强调了对AI生成内容需要更有效的监管和监督。该工具生成逼真的虚假图像的能力对公众信任和民主过程构成了风险，强调了负责任使用AI的重要性。
看看新闻记者: 费文睿 任美星
编辑: 费文睿
责编: 章一叶
相关文章
