国庆假期期间,短视频平台上出现了大量“雷军AI配音”的恶搞视频。
在视频中,“雷军”锐评了堵车、假期等热门话题,还涉及捐款给某大学、用小米SU7撞人、远程控制小米手机进行爆炸等。其中还有一些不雅谩骂。目前,相关短视频平台已逐步下架这些内容。
10月29日,雷军在个人社交账号发布视频回应“雷军AI语音包”一事。
雷军表示,“最近两年,AI特别特别火,技术进步特别特别快。前段时间我在刷抖音的时候,经常看到很多人在玩‘雷军语音包’。有网友跟我投诉,说国庆期间被我连续‘骂’了7天,的确让我挺困扰,也挺不舒服的。”
“我在这里希望大家都不要玩了,这个事情不太好。”
“虽然我自己非常困扰,但我觉得AI还是非常好的技术,也非常实用。”雷军随后提到,小米发布的“小米澎湃OS2”在AI体验上会带来完全不同的感受,“它能帮你创作、帮你翻译、想你所想,甚至升级了‘超级小爱’,帮你把日常小事都做好。”
此前据媒体报道,近日,在社交媒体上,用雷军AI配音已经形成一种创作风潮,各种配音模仿、恶搞视频层出不穷。抖音上话题浏览量过亿,B站上相关创作超过百条。
目前市面上有大量AI配音的小程序,用户只需在程序内选择相应的人物声音并输入文字,便可借用他人的声音发表言论。
此前据北京日报报道,在国庆期间,有不少网友在雷军个人账号评论区中向雷军询问“语音包骂人”一事。10月7日晚,针对网友“为何骂人”的询问,雷军回复了三个愤怒表情。
10月9日,有网友在小米集团公关部总经理王化评论区留言称,“把雷军AI语音骂人的事情先解决一下吧”。对此,王化回复称:“已经转给他们。(小米法务部)”。
据南方都市报报道,通过下载、比对“雷军”AI骂人配音的隐形声纹水印,言域科技CEO谢伟铎发现,许多恶搞音频由网友使用其公司的“Reecho睿声”平台制作生成。近期,该AI语音平台DAU(日活跃用户数)攀升至几十万的量级,社交媒体上也有一些介绍使用“Reecho睿声”生成“雷军”AI配音的教程。
言域科技正是9月底三只羊“录音门”伪造音频背后的涉事公司。该公司此前公开声明称,经与合肥警方配合查实,涉案嫌疑人使用了“Reecho睿声”来伪造卢某某录音。
针对“雷军”AI配音,谢伟铎向记者承认,有些配音确实不太文明,但言域科技只是创作工具提供方,没有足够的力量控制事态的演变,“对此也感到比较遗憾”。
据中国青年报,北京京本律师事务所主任连大有律师表示,无论是普通人还是知名人士,未经其本人同意,擅自使用其肖像和声音进行编辑合成,甚至发布具有辱骂和诽谤性质的内容,明显侵犯了其相关民事权利,如肖像权、名誉权等。
连大有律师称,雷军可以依据《民法典》规定,要求恶搞者承担包括停止侵权、公开道歉、恢复名誉和赔偿损失等法律责任。如恶搞者的恶搞行为违反《治安管理处罚法》相关规定的,也会面临行政处罚如行政罚款或(和)行政拘留。再者,如果这些恶搞内容传播谣言并造成严重社会影响,则可能触犯刑法。
2023年7月,国家网信办等七部门联合公布了《生成式人工智能服务管理暂行办法》,规定了AI服务提供者应当依法承担网络信息内容生产者责任,履行网络信息安全义务;涉及个人信息的,依法承担个人信息处理者责任,履行个人信息保护义务。
今年4月,北京互联网法院宣判的全国首例“AI声音侵权案”指出,若未经许可,将可识别的自然人声音转换成AI产品构成侵权。
九派新闻综合当事人社交账号、北京日报、南方都市报、中国青年报、社交媒体平台
参与评论积分 龙珠商城兑好礼
打开华龙网查看全部评论 >