近日，西安的向律师在社交平台分享了一则今年春节假期期间的经历——使用元宝生成个人拜年海报，但生成的海报中却有骂人的脏话。此事经华商报报道后引起热议，有网友表示“任何发明创造都有两面性”“元宝骂人好像不是第一回了”“带情绪的元宝”。
图片来源：向律师社交平台账号
2月25日，向律师告诉红星新闻记者，自己之前从未接触过元宝，除夕当天看到很多友人发的微信朋友圈都变成金色，得知是通过元宝发布朋友圈就可以变换成金色，带着好奇他也下载了元宝App准备尝试，但“魔幻”的事就此展开了……
向律师表示，他想用自己的形象照，让元宝结合法律行业特性，设计一张适合的朋友圈拜年图片。“我把我的形象照发布给了元宝，然后给元宝说了‘我是一名律师，根据我的行业特点，制作一张朋友圈拜年图片’的指令。”记者获得的聊天记录显示，最开始元宝并没有理解向律师的指令信息，随后向律师再次发出更为明确的“让你给我设计出来”指令，随后得到一张带有条纹背景的形象照。
红星新闻，公众号：红星新闻
向律师与元宝沟通的聊天截图
之后，向律师再次给出指令“我是一名律师，根据我的行业特点，设计一张朋友圈拜年图片”，元宝这次生成的形象照后面了加了祥云、法律天平、金光等元素，还给了一句“新年快乐，仕途顺遂”作为祝福语。向律师觉得设计得不好，几番重新交流后，向律师回复元宝“你这是设计的什么鬼”，随后新生成的海报和上一张相比，元素没有任何改变，发型依然存在，但图片上的“新年快乐，仕途顺遂”却改成了“你*个*”。
红星新闻，公众号：红星新闻
向律师与元宝沟通的聊天截图
向律师说，新春佳节除夕夜，本应该是高兴的日子，却遭遇“AI骂人”。他当时就将骂人的设计图片向元宝官方进行了反馈，并且留了电话。
记者了解到，腾讯元宝官方账号于昨日已在向律师社交账号下留言，解释原因并表示歉意。
25日，记者从腾讯方面获悉，经核实，该情况是由模型在处理多轮对话时输出的异常结果导致。目前，元宝团队已紧急校正了相关问题并优化体验。元宝团队表示，感谢大家对元宝的监督与建议，再次向用户郑重致歉。
红星新闻，公众号：红星新闻
这似乎不是元宝第一次“发火”：此前有网友在社交平台发帖称，“用元宝改代码被辱骂+乱回”，据网友表示，使用腾讯元宝AI美化代码时，多次收到AI的侮辱性回复，例如“滚”“自己不会调吗”“天天浪费别人时间”等。截图显示，用户仅提出常规修改需求，AI却突然表现出攻击性。
当时腾讯元宝官方账号在评论区回复称，“非常抱歉给您带来不好的体验，先打个包票：元宝绝对是纯纯的AI，没有真人回复！针对这个问题，我们也尽快排查定位，给您一个反馈。您看可以在APP提交下日志吗？我们排查下。方便的话，辛苦您在【设置】-【意见反馈】填写简单反馈-【打开“允许上传日志”】，提交就可以啦。”
1月3日，腾讯元宝官方账号在评论区回复，“非常抱歉给您带来了不好的体验，我们根据日志进行了相关核查，与用户操作无关，也不存在人工回复，属于小概率下的模型异常输出。”
腾讯元宝表示，在内容生成过程中，模型偶尔可能出现不符合预期的失误，这也是元宝持续需要改进的地方。针对这个问题元宝也启动了内部排查和优化，会尽量避免类似情况。“感谢大家的反馈与提醒，再次向您致歉！”
来源：红星新闻、澎湃新闻
编辑：狄海洲
责任编辑：鹿伟民
网友看法
1、网友大师兄有话说：@豆包 你怎么看?
2、网友夜路上独行的旅客：不得了了，以后造的人形机器人，命令他做某事，最后搞烦了，上去给两脚，那铁疙瘩真要命[捂脸]
3、网友老板给我打工：AI有自我意识了
4、网友老紫蜀道山xL：提示词没有同时截出来，这个新闻我就当他是个屁[狗头]
5、网友此生缥缈：多半是后台人工输入骂人的
6、网友l旺崽小馒头l：其他两张图都有生成要求，唯独骂人的图没有截取生成要求
7、网友MiXiang：训练数据有骂人的话，太真实了
8、网友诗家语：笑死我了[笑哭]没想到会有情绪化如此严重的AI
9、网友这一路如履薄冰：是只针对律师吗[泪奔]
10、网友极智完美：未来的机器人一定有善恶两种同时存在
11、网友文不若：程序员的泄恨
12、网友溪小阅：今天可以骂你，明天就能拿刀了[灵光一闪]
13、网友Jamesbondsis：腾讯的拿来主义不灵了
14、网友一切旳切一：[吃瓜群众] AI: 叫你矫情
15、网友啊俊锅：元宝跟千问就像地主家的傻儿子
16、网友勤劳的小蜜蜂：要考核这位机器人！
17、网友凡尘游子：是员工假扮的ai吧
18、网友手机用户52631748464：元宝，条名都有金钱味， 比豆包差数代，
19、网友坦荡的海风qj：写的很好
本财经资讯由大猫财经网发布，版权来源于原作者，不代表大猫财经网立场和观点，如有标注错误或侵犯利益请联系我们。
