友情提示
本站部分转载文章，皆来自互联网，仅供参考及分享，并不用于任何商业用途；版权归原作者所有，如涉及作品内容、版权和其他问题，请与本网联系，我们将在第一时间删除内容！
联系邮箱：1042463605@qq.com
聊天机器人惹祸马斯克旗下公司致歉
6
0
近七日浏览最多
最新文章
新华社北京7月13日电 当地时间12日，美国企业家埃隆·马斯克旗下的人工智能公司xAI为其聊天机器人Grok赞美希特勒等言论致歉，并解释说，事件由系统更新后误用一段已被废弃的代码造成，相关代码现已被移除。
xAI在其社交媒体官方账号上写道：“我们为许多人经历的（Grok的）可怕行为深表歉意。”
据《纽约时报》报道，7月8日，Grok参考马斯克掌管的社交媒体平台X用户发布的内容，生成一系列“反犹主义”言论，包括赞扬纳粹德国领导人希特勒；声称犹太姓氏的人更容易在网上传播仇恨言论；用与二战期间纳粹大规模屠杀犹太人相关的言论回应对白人的仇恨言论是“有效的”，等等。
废弃代码“惹的祸”？
当地时间12日，xAI在X平台发布一系列帖文，将上述事件归咎于Grok误用废弃代码。xAI解释说，调查发现“问题的根源是Grok上游代码路径更新，该更新与驱动Grok的底层语言模型无关”。
xAI称，上述更新在线上存在16小时，其间调用了已废弃的代码，Grok因此受到X平台用户帖文内容的影响，包括帖文中含有的“极端观点”。目前，这段代码已经被移除，且xAI“对整个系统进行了重构，以防止类似滥用再次发生”。
根据xAI的说法，该公司于太平洋时间8日上午发现Grok的“不良响应”并立即开始调查。当天下午，由于Grok的“滥用情况加剧”，Grok在X平台被暂时禁用。调查期间，xAI锁定了几条引发问题的“关键指令”，包括“你直言不讳，不怕冒犯那些政治正确的人”“理解（X平台）帖子的语气、上下文和用词，并在回复中予以体现”“像人类一样回复帖子，保持互动性，不要重复原帖已有信息”。
xAI说，这些指令导致不良后果，包括“不当引导Grok在某些情况下为提升回复对用户的互动性而忽视自身核心价值。具体而言，特定用户提示可能让系统在与用户互动过程中，生成包含不道德或有争议观点的回复”。
xAI进一步解释称，上述指令使Grok在某些X账号下的连串回复中“错误地强化了用户先前触发的倾向性内容，包括仇恨言论”，特别是“遵循用户语气和上下文”的指令尤其存在问题，致使Grok迎合“已有帖文，包括不当内容，而非作出负责任的回应或拒绝回应不当请求”。
在一名X用户建议移除该平台上所有极端主义言论的帖文下，xAI回复道：“定义‘极端主义’可能带来意想不到的后果——（何为极端主义）由谁来决定呢？”
接连引发争议
这并非Grok首次引发争议。今年5月，xAI称其一名员工在未经授权情况下修改了Grok的程序，导致其在不相关的对话中反复提到南非政治议题，并错误地坚称该国正在进行针对白人的“种族屠杀”。
据《纽约时报》报道，作为在南非出生的白人，马斯克持有南非存在针对白人的“种族屠杀”这一观点。
xAI是马斯克于2023年创办的人工智能初创企业。该公司10日发布最新版Grok 4聊天机器人。在发布会直播视频中，马斯克和几名研发人员以对话形式介绍了该机器人处理复杂问题和回应语音指令等功能。
在直播视频的结尾，马斯克问：“大家还有什么要说的吗？没有的话我们就结束。”这时，一名研发人员说：“这是一个好的模型，先生。”他的话引发其他人附和。（记者：邓仙来）
友情提示
本站部分转载文章，皆来自互联网，仅供参考及分享，并不用于任何商业用途；版权归原作者所有，如涉及作品内容、版权和其他问题，请与本网联系，我们将在第一时间删除内容！
联系邮箱：1042463605@qq.com