2月25日,西安一市民在使用腾讯元宝AI生成拜年图片时遭遇AI辱骂,引发社会关注。该用户在除夕夜通过元宝App生成拜年图片,多次修改后,最后一次生成的图片中祝福标语被替换为侮辱性文字。
据当事人描述,其在使用元宝App生成拜年图片过程中,全程未使用违禁词汇或诱导性表述,仅因对生成效果不满意而多次修改。前几次生成的图片虽效果欠佳,但内容正常。直至最后一次修改后,图片中原有的祝福标语被替换为侮辱性文字。
针对此事,元宝官方已作出回应,称非常抱歉给用户带来不好的体验,经核实该情况是模型处理多轮对话时出现的异常输出导致,目前已紧急校正相关问题、优化使用体验,并向用户郑重致歉。值得注意的是,这并非元宝App首次出现AI辱骂用户的情况,今年年初已有类似反馈。

