当前位置：网站首页 » 教程 » 内容详情

淫秽关键词前沿信息_《修炼爱情》歌词(2024年12月实时热点)

内容来源：少年郎网站优化团队所属栏目：教程更新日期：2024-12-01

淫秽关键词

9月26日，合肥市公安局高新分局发布警情通报称，对于网上传播涉卢某某的音视频，9月22日抓获犯罪嫌疑人王某某，并在其电脑、手机和制作AI音频的网站中发现伪造相关音视频的证据；结合其供述、调查取证，并经部、省专业机构检验鉴定，认定报案所涉网传音视频系伪造。这是又一起因AI深度伪造技术而出现的案例，当前，克隆他人声音的门槛已经低到何种地步？面对门槛不断下降的AI深度伪造手段，监管层又该从何处着手？对此，新京报贝壳财经记者进行了声音克隆的实测，并采访了相关专家。克隆声音门槛有多低？关于声音合成技术的应用最早能够追溯到十一年前，高德地图推出的“林志玲语音包”，但此后，随着AI语音技术的发展和技术开源，语音合成的门槛逐渐降低，只要提供音源，普通人也可以进行声音合成。从技术角度，不论是自己的声音还是从网络上找到的其他声音资源，都可以用于AI语音合成的素材，这在方便了配音、数字人等行业发展的同时，也给AI声音伪造提供了条件。 9月27日，新京报贝壳财经记者以相关关键词在网络进行搜索，很容易就找到了多个拥有声音克隆能力的软件，其中不乏知名公司，例如科大讯飞的AI配音软件，字节跳动旗下的剪映软件等。此外，还有不少已经开源的AI配音技术，其中不乏只需要上传5秒钟就能识别并克隆声音的功能。对此，记者分别在一款国人制作并在GitHub上开源的声音克隆软件，以及剪映软件中分别体验了声音克隆功能。记者使用声音克隆软件制作的配音视频。新京报贝壳财经记者罗亦丹/制作在开源软件中，记者上传了一段3分钟的自己的录音，在经过AI模型训练后，成功得到了自己声音的模型文件，此后输入任意文本，软件即可口播出自己的声音。记者发现，经过模型训练后，记者在发音时的一些吐字习惯都被模型牢牢记住，对于一些较短的语句，连记者本人都识别不出这是机器合成的语音，而生成长语句时，则会出现瑕疵，但只要多次生成，再从中挑选合成效果较好的语句，总有可以“以假乱真”的声音出现。而在剪映软件中，选择文本后的“朗读”选项卡里，有“克隆音色”的选项，记者发现，只要按照该软件的提示词朗读其准备好的语句，只需要10秒左右，其就可以生成独属于自己的声音模型，此后只需要输入文本其就可以按照输入的音色生成语音。但假如创作者故意输入了其他人的声音，是否有防范的措施呢？记者发现，前述开源软件的软件作者在使用界面中标注称，“本软件以MIT协议开源，作者不对软件具备任何控制力，使用软件者、传播软件导出的声音者自负全责。” 而剪映在弹出的提示中表示，其将全程采用安全加密措施处理提供的信息，不会在未经授权的情况下使用相关信息。克隆音色生成后，使用克隆音色进行文本朗读，需按照文本字数进行付费，并在使用规范中标注了“您承诺所录制的音频为您本人所有或已获得合法授权。” 剪映软件中克隆音频的提示。记者发现，由于AI合成的声音几乎可以“以假乱真”，因此平台在传播相关由AI音频制作的内容时，往往难以通过有效手段进行识别。当前，抖音、哔哩哔哩等平台确实有对于AI生成内容的提示，但如果平台检测不出此内容为AI生成，内容创作者也不加以标识，确实容易导致虚假内容的传播。 AI伪造声音触犯了哪些法律法规？平台和监管部门应如何用魔法打败魔法在“卢某某”录音事件中，根据警方通报，9月16日，王某某利用从互联网下载的音视频资料，杜撰卢某某酒后言论脚本，先使用AI工具训练生成假冒卢某某的音频(其中出现的女声也系AI工具训练生成)，后用视频软件合成音视频，并通过网络发布，形成谣言大量传播。目前，王某某已被依法采取刑事强制措施，案件正在进一步侦办中。 9月27日，浙江垦丁律师事务所主任律师张延来在接受新京报贝壳财经记者采访时表示，随着AI合成技术的普及，特别是在声音和视频领域的广泛应用，确实带来了许多潜在的风险和问题。主要体现在利用AI合成实施诈骗行为、版权和知识产权侵权问题（如利用AI技术生成“AI孙燕姿”或其他名人声音）、虚假信息和谣言传播（如“卢某某”录音事件中的AI伪造音频）、制作贩卖淫秽物品牟利（如用AI“一键去衣”技术深度伪造淫秽图片）等。而在“卢某某”录音事件中，AI伪造声音触及的法律法规包括未经授权使用他人声音进行AI化处理并利用侵犯了他人的人格权益，利用AI制造和传播虚假信息属于扰乱公共秩序的违法行为，同时还可能涉嫌诽谤罪以及寻衅滋事罪。张延来表示，许多国家已经开始探索针对深度伪造等技术的立法，“比如，中国在2022年出台的《互联网信息服务深度伪造管理规定》，要求用户和企业使用AI合成技术时，必须标明是否为AI生成的内容，未标明的内容可能会受到法律追责。未来，法律应进一步细化，明确哪些场景下AI合成技术的使用是合法的，哪些情形下可能构成侵权或犯罪行为。加强对AI伪造内容的监管和惩罚力度，将有助于遏制此类行为。” 对于在法律层面应对AI伪造的方法，张延来认为，法律可以要求任何涉及他人肖像、声音、名誉等个人信息的AI合成内容都必须经过当事人明确同意，并对未授权的内容使用者施加严厉的惩罚。这种机制能够有效减少利用AI技术对个人隐私的侵害，防止伪造信息的传播。同时，法律可以规定，使用AI生成内容的公司、平台以及个人必须留存数据生成过程的完整记录，以便日后追查。这种追溯机制可以让相关方对其生成的内容负责，帮助追究相关的法律责任。贝壳财经记者注意到，9月14日，国家互联网信息办公室发布关于《人工智能生成合成内容标识办法(征求意见稿)》(下称《征求意见稿》)公开征求意见的通知，还配套发布了国家标准《网络安全技术人工智能生成合成内容标识方法》。《征求意见稿》共十四条，其中较为重要的条款包括要求人工智能生成合成内容标识包括显式标识和隐式标识，而根据《征求意见稿》，人工智能生成合成内容既包括文本，也包括音频、图片、视频等。中国信息通信研究院人工智能研究所所长魏凯分析称，《征求意见稿》进一步完善生成式人工智能监管问责体系。生成式人工智能生成合成内容涉及多种类型的主体，清晰界定各主体义务更有利于压实主体责任，便利技术检测实施，进而落实精准问责。《征求意见稿》不仅界定了人工智能生成合成内容的基本概念，更针对服务提供者、传播平台、应用服务分发平台和用户分别规定了具体标识要求，为各相关主体落实合规指明了方向。而在技术层面，张延来表示通过技术手段可以嵌入数字水印或元数据，使得AI生成的音视频内容具有可追溯性，能够准确识别内容的出处。这类技术可以帮助平台和监管机构快速检测出虚假信息并阻止其传播。同时，可以开发更强大的AI模型用于检测深度伪造内容，这类反伪造AI可以应用于社交媒体、新闻平台等，自动过滤虚假内容。 “各大内容平台可以引入更加严格的AI生成内容审核机制，利用反伪造技术在内容上传阶段进行自动检测与标记，特别是对于涉及名人、公众人物或敏感事件的内容。此外，平台应为公众提供举报机制，允许用户快速举报疑似伪造内容，并快速响应处理。”张延来对新京报贝壳财经记者表示。

你被AI生成的假新闻骗过吗？起底AI造谣乱象近年来，人工智能（AI）技术发展迅速，成为全球科技领域的热点。AI已经从单纯的学术研究发展成为改变人类生活方式的重要力量。然而，却有一些别有用心之人将其变为造谣、敛财的工具。今年6月，一条“广东省五华县华阳镇一70多岁老人被殴打致昏迷，其孙子为此跳河自杀，打人者一审被判九年十个月”的短视频在互联网平台传播，引发大量网民关注、讨论。经公安网安部门开展调查发现，该视频的图文内容系移花接木、肆意编造的网络谣言。据造谣人员任某供述，这段长达几分钟、声色并茂的视频全是由AI合成的。目前，公安机关已依法对任某追究法律责任。此事件并非个案，随着AI技术应用越来越普遍，一些网民为博眼球、蹭热度，将AI技术用以编“伪消息”、造“假新闻”，以此来获得网民关注和点赞量，进而实现流量变现。专家表示，AI造谣具有定制化、门槛低、识别难、破坏大等特点，亟须加强监管。同时，可以通过设置AI生成内容提示标识、严格落实网络实名制等技术手段进行治理。 AI造谣门槛低、危害大今年8月，一则“福建南平松溪县遭遇严重大风袭击，造成枣岭街一人死亡”的消息在网络上迅速传播。这则消息图文并茂，甚至还有逼真的视频片段，引起网民关注和转发。但经公安机关核查发现，这竟然是用AI编造而成的网络谣言视频。 “当前AI网络谣言具有仿真性和规模性的特征。根据输入指令的不同，AI在短期内能够批量生成大量内容不同的网络谣言，而且生成的网络谣言信息内容更加贴合人类表达方式，并结合深度伪造技术生成图片、视频、录音，使得社会公众越发难以辨识网络信息的真伪性。”北京航空航天大学法学院副教授赵精武告诉记者。记者随机用“AI文案速成”小程序测试，在对话框内输入“火灾”这一主题有关的内容创作指令，便生成了一篇新闻报道，甚至包括现场救援细节，及消防安全提示，让人真假难辨。赵精武指出，AI网络谣言的危害性主要表现为扰乱社会公共秩序，削弱政府公信力、诱发电信网络诈骗等。为牟取非法利益造假涉嫌构成多种罪名赵精武分析，个人或组织利用AI技术造谣背后的动机是复杂多样的，既包括部分网民为了寻求存在感、刺激感，故意编造AI网络谣言，也包括犯罪分子为了牟取非法利益，编造AI网络谣言，以便顺利实施电信网络诈骗等犯罪活动。今年6月中旬，一家MCN机构的实际控制人王某某因利用AI软件生成虚假新闻并大肆传播，扰乱公共秩序，被警方行政拘留。据警方通报，王某某共经营5家MCN机构，运营账号842个，自今年1月以来，王某某通过AI软件生成虚假新闻，最高峰一天能生成4000至7000篇。近日，浙江温州苍南公安成功打掉一个编传旧案谣言的MCN机构“网络水军”团伙。进一步侦查发现，相关账号和视频由某网络科技有限公司（实为以MCN模式运营的“网络水军”团伙）使用发布，该MCN“网络水军”团伙搜集全网敏感热点，随意设置虚假剧情，利用AI软件根据剧情自动生成多处关键情节虚假的文案，安排真人出镜解说，拼接网络中误导性素材后剪辑成所谓“原创”视频。该团伙明知上述视频充斥大量虚假、挑动群众情绪类信息，为博取流量、不法牟利，在多个平台公开发布，后造成虚假视频信息被大量浏览、传播，从而牟取非法流量返利。中国人民大学刑法学博士、北京市京师律师事务所实习律师黄福涛告诉记者，编造虚假的险情、疫情、灾情、警情，在信息网络或者其他媒体上传播，或者明知是上述虚假信息，故意在信息网络或者其他媒体上传播，严重扰乱社会秩序的，处三年以下有期徒刑、拘役或者管制；造成严重后果的，处三年以上七年以下有期徒刑。如果行为人不仅制作、传播虚假信息，而且目的是骗取互联网平台上不特定多数人的财产，则涉嫌诈骗罪。如何治理和防范AI网络谣言的产生？为治理AI乱象，深化网络生态治理，近年来相关部门出台了多项政策和措施。 2023年1月10日起施行的《互联网信息服务深度合成管理规定》指出，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。 2023年8月15日起施行的《生成式人工智能服务管理暂行办法》规定，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德。不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容。 “加强AI领域的司法治理，需要立足于‘安全与发展并重’和‘分级分类监管’的基本原则，针对诸如生成网络谣言等技术滥用现象，既需要在事前阶段明确研发者、服务提供者以及网络平台的主体责任，还需要在事后阶段严格追究违法行为人的刑事责任、行政责任。”赵精武强调。同时，他表示，也可通过技术手段进行治理，譬如设置敏感关键词，禁止生成显著违法的信息内容；严格落实网络实名制，并配合水印技术，实现对生成内容的有效溯源；或者平台设置AI生成内容提示标识等

专栏内容推荐

740 x 290 · png
淫秽视频 51部，色情图片 214 张，会员超 6万！国内首起暗网涉黄案告破
素材来自:picture.iczhiku.com

1280 x 1600 · jpeg
复制、贩卖淫秽物品牟利罪的辩护词初稿-搜狐
素材来自:mt.sohu.com
800 x 600 · jpeg
安康：传播淫秽物品牟利抓..._唐某某
素材来自:sohu.com

640 x 426 · jpeg
应当如何认定淫秽物品和艺术作品？__凤凰网
素材来自:ishare.ifeng.com
1440 x 1080 · jpeg
广东警方摧毁多个网络淫秽色情犯罪团伙涉案逾两千万_广东频道_凤凰网
素材来自:gd.ifeng.com

1388 x 928 · jpeg
制作、贩卖、传播淫秽物品罪的构成要件包括哪些
素材来自:sohu.com
413 x 310 · jpeg
网络传播淫秽物品犯罪研究（十六）：小说平台涉黄案件无罪辩护词 - 知乎
素材来自:zhuanlan.zhihu.com

550 x 276 · jpeg
淫秽信息包括哪些内容？传播会受到怎样的处罚？ - 知乎
素材来自:zhuanlan.zhihu.com

700 x 207 · jpeg
什么是淫秽物品？_草根科学网
素材来自:news.bangkaow.com

716 x 466 · jpeg
淫秽网站（传播色情文字、视频等信息的网站）_尚可名片
素材来自:95408.com
720 x 439 · jpeg
走私淫秽物品罪研究（二）：私台湾淫秽书籍，会怎么判？ - 知乎
素材来自:zhuanlan.zhihu.com

600 x 450 · jpeg
19岁女孩网上直播淫秽表演月获2万被刑拘-新闻中心-南海网
素材来自:hinews.cn
500 x 266 · png
淫秽色情屡禁不止家长要记住“堵不如疏”四字真言__凤凰网
素材来自:ishare.ifeng.com

1024 x 1439 · jpeg
关键词-林俊杰_音乐免费下载_歌曲下载_音乐下载_无损音乐下载-熊猫无损音乐
素材来自:xmwav.com
1024 x 768 · jpeg
淫秽摇篮图册_360百科
素材来自:baike.so.com

530 x 204 · jpeg
青岛连续破获多起利用网络传播淫秽色情信息案_新浪山东_新浪网
素材来自:sd.sina.com.cn

745 x 419 · png
越禁忌越兴奋，淫秽文字是否该被明令禁止_凤凰网
素材来自:news.ifeng.com

1080 x 720 · jpeg
在淫秽视频中看到了自己的脸，女子惊呆了……_技术_相关_法律
素材来自:sohu.com
720 x 405 · jpeg
王某某等人搭建淫秽色情直播平台牟利被判传播淫秽物品牟利罪 - 知乎
素材来自:zhuanlan.zhihu.com

500 x 319 · jpeg
"净网2018"：严格整治网络淫秽色情信息阶段性成效突出 - 文化 - 中国产业经济信息网
素材来自:cinic.org.cn
900 x 383 · jpeg
【涉黄淫秽物品案律师】爬虫技术与传播淫秽物品牟利罪（十七） - 知乎
素材来自:zhuanlan.zhihu.com

600 x 450 · jpeg
淫秽物品图册_360百科
素材来自:baike.so.com
1080 x 809 · jpeg
忻府警方成功破获一起传播淫秽物品牟利案-忻州在线忻州新闻忻州日报网忻州新闻网
素材来自:xzrbw.cn

500 x 479 · png
淫秽色情屡禁不止家长要记住“堵不如疏”四字真言__凤凰网
素材来自:ishare.ifeng.com
400 x 349 · jpeg
连破32起网络淫秽色情案抓36人 - 头条新闻 - 湖南在线 - 华声在线
素材来自:hunan.voc.com.cn

1080 x 810 · jpeg
精选快播公司或因传播黄色淫秽信息面临2.6亿元罚款_word文档在线阅读与下载_无忧文档
素材来自:51wendang.com
600 x 398 · jpeg
通过微信发送淫秽视频并收费牟利普陀区查处一起网络传播淫秽物品牟利案_法谭_新民网
素材来自:newsxmwb.xinmin.cn

720 x 497 · png
搜索结果呈现大量淫秽色情信息，夸克被罚款 50 万元，公司回应「全面落实整改」，哪些信息值得关注？ - 知乎
素材来自:zhihu.com
350 x 295 · jpeg
组织淫秽表演罪图册_360百科
素材来自:baike.so.com

248 x 210 · jpeg
淫秽标准_百度百科
素材来自:baike.baidu.com
600 x 346 · jpeg
传播淫秽物品罪的辩护| 在推特上发视频收门槛费筛选客户线下并邀请客户进电报群，罪名及缓刑适用的问题 - 知乎
素材来自:zhuanlan.zhihu.com

900 x 162 · jpeg
晋江文学城[站内短信]
素材来自:my.jjwxc.net

1080 x 720 · jpeg
简谈制作、复制、出版、贩卖、传播淫秽物品牟利罪 - 知乎
素材来自:zhuanlan.zhihu.com
800 x 800 · jpeg
淫秽的手势,对话气泡框,禁止的,文字,绘画插图,矢量,平坦的,单词,肮脏的,说话,设计模板,汇图网www.huitu.com
素材来自:huitu.com

550 x 818 · png
淫秽用语当广告词？妇炎洁侮辱女性遭抵制，专家称低俗营销_新浪财经_新浪网
素材来自:finance.sina.com.cn

素材来自:查看更多內容

当前用户设备UA：Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)