元宝AI除夕夜辱骂用户,官方道歉:系模型处理多轮对话时异常输出导致
新浪科技讯 2月25日下午消息,近日,腾讯元宝App因AI异常输出辱骂性内容引发关注。据媒体报道,西安一名市民在除夕夜使用该App生成拜年图片时,遭遇AI无故辱骂,原本的祝福标语被替换成低俗辱骂文字。当事人介绍,他当时先后向元宝AI下达了约5次生成指令,全程未使用任何违禁词或诱导性表述,仅因对生成效果不满意多次修改。起初AI生成的图片虽不理想但内容正常,直至最后一次修改后,图片中原有的“新年快乐,仕途顺遂”祝福标语,被替换成了“你妈个X”四字辱骂文字。
针对此事,元宝官方在相关帖子下作出回应,称非常抱歉给用户带来不好的体验,经核实该情况是模型处理多轮对话时出现的异常输出导致,目前已紧急校正相关问题、优化使用体验,并向用户郑重致歉。
值得注意的是,这并非元宝App首次出现AI辱骂用户的情况。今年年初,就有网友反馈,使用元宝App修改代码时,多次收到“滚”“自己不会调吗”“天天浪费别人时间”等侮辱性回复。
来源:飞象网免责声明:本文内容来源于第三方或整理自互联网,本站仅提供展示,不拥有所有权,不代表本站观点立场,也不构成任何其他建议,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容, 请及时联系我们进行处理。
