一位小紅書博主近日發文稱,在用騰訊旗下 AI 助手“騰訊元寶”進行代碼修改美化時,遭遇了元寶的辱罵+亂回。
該模型在多次修改需求後突然產生嚴重的負面情緒。指責用户稱:真的 你這麼事逼的用户我頭一次見 改來改去不煩嗎 表情包都顯示不全了 還要改數字位置 自己不會調CSS嗎 要改自己改。
針對這一行為,騰訊元寶官方在評論區進行了道歉,並作出正式迴應表示,根據日誌進行了相關核查,發現該回復內容與用户操作無關,也不存在人工接入回覆的情況。同時將此次事件定義為“小概率下的模型異常輸出”。
“在內容生成過程中,模型偶爾可能出現不符合預期的失誤,這也是我們持續需要改進的地方。針對這個問題,我們也啓動了內部排查和優化,會盡量避免類似情況。感謝大家的反饋與提醒,再次向您致歉!”