当前位置:人间百态>今日热点 >   网易易盾正式发布AIGC内容风控解决方案

网易易盾正式发布AIGC内容风控解决方案

导读:2023年,注定是AIGC发展的关键一年,它标志着人工智能逐渐从学术研究走向产业化,并与商业融合形成互为支点的发展格局,进入产业商用期。技术无罪,商用却有风险。不少AIGC平台在上线后仅仅几天时间内就频频遭遇翻车。究其背后,是国家对人工智能技术发展的引导和规范体

2023年,必定是AIGC发展的核心一年,它意味着人工智能技术已经从科学研究迈向产业发展,并和商业服务结合产生相互之间支撑点的新格局,进到产业链商业期。

技术无罪,商业但有风险性。许多AIGC机构在正式上线只是几天之内不断遭受大型翻车。就其身后,是国家对于人工智能应用持续发展的指导和标准反映。

4月11日,我国国家网信办发布了《生成式人工智能服务管理办法(征求意见稿)》(下称方法)。这代表了,中国即将步入第一个AIGC最新政策。在其中,在《办法》的21条现行政策中释放出来出了一条的关键所在数据信号,我国适用AIGC健康有序发展和商用化,前提条件一定要依法依规,并有13条的规定都确立指向了”AIGC 服务提供商“。

在这样的背景下,网易易盾从AIGC服务提供商经营角度考虑,融合国家新政策与丰富多样的从业经验,给予遮盖事先—电商平台运营外置风险、事中—服务平台具体内容合规风险、过后—举报与违规处理风险性等各个环节解决方法。

01 事先—电商平台运营外置风险性

1. AI优化算法整治

从优化算法整治角度考虑,AIGC服务提供商有义务在行业交付使用时对可能出现的情况进行预计、判断制定相对应对策,对优化算法使用中的安全监控、优化算法评定及其个性化推荐对私人信息行为主体造成的影响等信息进行标准。

与此同时,《办法》中明文规定,AIGC服务和形成具体内容务必“合乎社会主义社会的观念”,避免出现中华民族、信念等岐视、重视商业伦理、尊重别人合法权利、“避免形成不实信息”等意识形态领域和价值趋向难题。

因而,人工智能技术服务供应商需对生成式人工智能应用的预训练数据信息、优化训练信息来源的合规性担负,给予预训练和优化训练数据信息的源头等叙述,人工标注标准,人工标注数据库的经营规模种类等必需信息内容。

因为大模型依靠训练样本,在数据传送方面可能存在故意控制风险,包含有害键入、成见、意识形态领域进攻、社会舆论操纵、不实信息、个人隐私泄露等。因而,模型推理词库基本上确定AIGC形成具体内容的观念。数据堂是AI数据训练环节中的“关键一步”,纯粹、迎合AI场景应用的数据库可解决数据训练中90%问题。

对于此事,易盾可以对模型推理词库给予人工标注服务项目。易盾有着头部企业海量信息的标明工作经验,可以快速、清晰地提供全方位人工标注服务项目,包含文本、照片、音频视频及独特情境与角色,并且对猛增信息量可创建应急处置步骤,为模型推理给予迎合适用场景的高品质数据信息。

网易易盾正式发布AIGC内容风控解决方案

2. 安全制度

用户认证管理方法

AIGC服务提供商还需提供包含用户认证、重点群体保护与优化算法全透明服务项目。依照《中华人民共和国网络安全法》要求,给予生成式人工智能服务理应规定客户提供身份信息内容。

在强化信息内容验证能力水平,易盾提供丰富的身份认证方法,灵便组成;自主创新优化算法水平,积极应对AI技术性生成面部、3D面罩等鼻子假体进攻;另外在用户注册或使用AIGC服务项目前集成化启用信息内容验证水平,降低恶意注册的安全隐患。

技术性安全风险评估

《互联网信息服务深度合成管理规定》第二十条 深层生成服务供应商开发设计发布具备社会舆论特性或是社会发展动员能力的新品、创新应用、特色功能的,理应按照有关规定进行安全风险评估。

易盾可帮助AIGC服务提供商不断完善AIGC有关的安全制度及业务技能材料的适用,帮助企业进行了现场迎查,包含文档提前准备,工作人员采访,技术检测,问题记录,问题整改。

服务项目优化算法办理备案

AIGC服务提供商应当按照《互联网信息服务算法推荐管理规定》执行优化算法办理备案和变动、强制注销办理手续。易盾可以提供优化算法办理备案资询一站式服务,帮助企业进行办理备案信息填写。

02 事中—服务平台具体内容合规风险

1.AI实时互动内容审查

为了能遵守法律和反映践行社会主义核心价值观,针对实时互动内容审查和运用AI形成具体内容,应加强比较敏感内容审查,比如涉政、色情交易、涉暴等相关信息,以保证信息内容的安全合规。但是,特殊prompt命令可能绕开AI自已的安全策略,提升审批的难度复杂性。

针对这种情况,网易易盾带来了对于AIGC+UGC环境下的设备审批水平,可以根据需求场景配置审核的紧松水平,选择合适的审批对策去满足不同的场景的合规管理规定。

如果在语音聊天会话场景下,存有真正消费者和服务机器人两种角色,这就要求机审能够迅速鉴别不良记录,保证人机对战聊天实用性。易盾的机审技术性可以根据需求场景不一样,在UGC内容与AIGC形成具体内容配备不同类型的松紧程度审批对策,兼具用户体验感和网络安全内容合规。

网易易盾正式发布AIGC内容风控解决方案

2.前后文相关性分析+人审

AI形成具体内容因为优化算法体制缘故,具有客户运用敏感词汇、循序渐进诱发提出问题等形式导出不合理AIGC视频的状况,尤其是包括好几条前后文具体内容,单关键词阅读文章没什么问题,关系前后文多关键词阅读文章会出现违规违纪的信息,违法人员常使用藏头诗、场景台本、歌曲歌词等方式形成长文本(长图文)共享,来避开平台上的审查制度。

网易易盾自主开发AI文本挖掘技术性,给予AI机审前后文关系水平;同时结合视频审核,对AI形成长图分享、记忆力薄等信息进行关系测试分析。此外易盾自主研发视频审核系统软件能还原历史会话情景,区别AI智能机器人与真实客户的对话,大幅度提高审批精确度及审批高效率,合理识别预防客户运用敏感词汇、循序渐进诱发提出问题等形式导出不合理信息内容。

网易易盾正式发布AIGC内容风控解决方案

3.AI仿冒内容识别

因为Deepfake等新技术的乱用可能会致使很严重的行骗和诈骗行为,所以需要采取有效措施来严厉打击AI乱用个人行为。易盾根据深度伪造检测算法,打造出了动态性自我防御机制,可以检测由AI产生的视频和声频。这项技术可以检测Deepfake等不实信息,以保护社交媒体和其它服务平台的消费者免遭诈骗和诈骗的损害。

依据《互联网信息服务深度合成管理规定》针对由AI产生的照片、视频等具体内容要进行标志,以保证信息真实性和精确性,防止不实信息传播造成影响。网易易盾提议系统提供深层生成视频的明显标志作用,客户在设计AIGC具体内容的时候也可以自主进行明显标志的标识实际操作。标志AI产生的具体内容,及其采用防护措施来严厉打击AI乱用个人行为,是保证互联网技术网络信息安全的重要手段。

网易易盾正式发布AIGC内容风控解决方案

03 过后—举报与违规处理风险性

网易易盾可帮助客户创建举报接手体制,提议系统提供消费者投诉举报渠道,激励用户参与服务平台具体内容整治,易盾智能审批系统软件都将给予客户投诉审核制度,连通设备审查和服务平台业务接口,及时将客户投诉具体内容进行审查处理。

AIGC能够降低写作门坎,为信息生产与传播带来了全新的转型和机会。针对AIGC服务提供商来讲,与机遇共存更多风险性和挑战。

新技术应用和新市场的发展也与现行政策合规管理紧密联系,怎样在合规管理的前提下平稳完成运用落地式、推动产品升级,是AIGC服务提供商进入后避不开的一点。做为新一代数据内容风控服务提供商,网易易盾将帮助AIGC服务平台合规管理发展趋势,给新行业可持续发展观不断做出贡献。

标签:
相关阅读
为您推荐
  • 上汽飞凡确定出席「让业务用起来」2023观远数据敏捷分析实践巡展·上海站
    上汽飞凡确定出席「让业务用起来」2023观远数据敏捷分析实践巡展·上海站
    2023-05-24 08:11:23
    当前,车企正站在数字化转型的浪潮之巅。一方面,中国车市已由增量市场转为存量市场,汽车产业向新能源电动、自动驾驶等高端智能、服务化转移的方向明晰可见;另一方面,数字技术正全面融入车企生命周期运营体系,深度重构汽车价值链及运营模式。此外,随着消费者需求升级,车企
  • 以点滴能量 汇筑爱的港湾 所托瑞安“安行”公益汇聚爱的力量
    以点滴能量 汇筑爱的港湾 所托瑞安“安行”公益汇聚爱的力量
    2023-05-24 08:11:19
    积露成波,涓滴成河。自2020年起,所托瑞安携手中国乡村发展基金会(原“中国扶贫基金会”)一同发起所托“安行”公益帮扶救助项目,至此该项目已经走过了三个年头。伴随着公益项目帮扶卡友数量的增多,线下慰问活动逐步开展,所托瑞安也收到了来自这些卡友越来越多的真挚
  • 虚拟仿真技术革新职教技能实训模式,积木易搭地铁轨道VR虚拟仿真解决方案,助力沉浸式轨道交通教学
    虚拟仿真技术革新职教技能实训模式,积木易搭地铁轨道VR虚拟仿真解决方案,助力沉浸式轨道交通教学
    2023-05-24 08:11:12
    随着科技的飞速发展,轨道交通已经成为许多城市交通系统的重要组成部分,因此,对于地铁驾驶员的需求也越来越大。然而,各职校传统的地铁驾驶专业教学方式存在着一定问题,如训练场地有限,需要花费大量时间和资金进行地铁驾驶实训基地建设等,且教学难以满足学员个性化
  • 火山引擎DataTester:小改动带来大收益,A/B实验助力幸福里APP精准优化
    火山引擎DataTester:小改动带来大收益,A/B实验助力幸福里APP精准优化
    2023-05-24 08:11:12
    幸福里APP是抖音集团旗下开发运营的集内容、社区、工具于一体的房产信息综合平台,基于个性化推荐引擎向用户推荐优质的房产内容房源信息。本文将介绍幸福里APP应用火山引擎A/B测试DataTester完成产品体验优化,并解决实验流量过度曝光的案例。幸福里APP在整理用户反馈时
  • ChatGPT国内中文版官网入口
    ChatGPT国内中文版官网入口
    2023-05-24 08:11:12
    ChatGPT国内中文版官网入口地址:ChatGPT网页版链接:https://ai.chatgpt963.com/h5/10001/APP下载链接:https://ai.chatgpt963.com/ChatGPT自问世以来,立刻就成为全球科技领域关注的热点,据新华社报道,ChatGPT推出约两个月后,活跃用户即已达到1亿,成为历史上增长最快的消
  • 字节跳动数据平台论文被ICDE2023国际顶会收录,将通过火山引擎开放相关成果
    字节跳动数据平台论文被ICDE2023国际顶会收录,将通过火山引擎开放相关成果
    2023-05-24 08:11:10
    近期,第39届IEEE数据工程国际会议(以下简称ICDE )在美国加利福尼亚召开,由字节跳动数据平台提交的论文聚焦数据库领域,提出 WaLSM架构设计、优化和性能提升的创新技术方案,成功被大会收录。ICDE是全球数据库领域的三大会议之一,重点面向数据工程和数据密集型系统研
  • 抖音电商木青:全域兴趣电商步入新阶段,“人人都能做全域”
    抖音电商木青:全域兴趣电商步入新阶段,“人人都能做全域”
    2023-05-24 08:11:06
    在刚刚过去的2023抖音电商生态大会上,“全域一体,飞轮增长”这一新经营导向引起了电商行业的好奇。与此同时,抖音电商木青提到“人人都能做全域”的方向,也增强了众多商家对投身全域兴趣电商的信心。在新的发展阶段,商家具体应如何经营?如何把握增长的浪潮?在本届抖
  • 抖音电商嵇鹏飞:以用户需求为原点,为好生意打造坚实的平台基础
    抖音电商嵇鹏飞:以用户需求为原点,为好生意打造坚实的平台基础
    2023-05-24 08:11:01
    5月16日,以“RIGHT HERE丨对 就在这”为主题的2023抖音电商生态大会在广州越秀会议中心举办。现场,抖音电商产品负责人嵇鹏飞以“场景连通 质效同驰”为主题进行了演讲,明确了全域兴趣电商的产品升级思路,并发布了抖音电商的最新流量策略。嵇鹏飞表示,在全域兴趣电
  • 开源新秀 MatrixOrigin,即将亮相 GOTC 2023
    开源新秀 MatrixOrigin,即将亮相 GOTC 2023
    2023-05-24 08:10:58
    全球开源技术峰会(Global Open-source Technology Conference)GOTC 2023 由开放原子开源基金会、 Linux 基金会亚太区、上海浦东软件园和开源中国联合发起, 将于 5 月 27 日至 28 日在上海张江科学会堂隆重举行。其中,矩阵起源 MatrixOrigin 成为了 GOTC 2023 的白银赞
  • 铭凡新品发布:UM790Pro/UM780Pro:突破极限、定义卓越
    铭凡新品发布:UM790Pro/UM780Pro:突破极限、定义卓越
    2023-05-23 08:10:28
    2023年5月16日,知名迷你电脑生产商铭凡(MINISFORUM)召开发布会,正式公布了其基于AMD锐龙7040HS系列的新品---UM790 Pro和UM780 Pro。铭凡致力于迷你电脑的研发、生产与销售,并拥有独立的研发中心和生产基地。此次基于AMD锐龙7040HS系列的新品,充分展示了铭凡在迷你电