为AIGC内容治理加码,知道创宇CDAI认知域AI引擎再获认可

阅读量467487

发布时间 : 2023-11-15 11:33:05

在数字化、智能化时代,AI 大模型的发展已经成为推动社会进步的重要力量。

11 月 14 日,数据猿与上海大数据联盟联合推出《2023 中国数据智能产业 AI 大模型先锋企业》榜单,知道创宇凭借 CDAI 认知域 AI 大模型卓越的技术实力和出色的市场表现,成功荣登榜单,这一荣誉充分肯定了知道创宇在业务安全领域的突出贡献和成就。

内容治理环境复杂

AIGC 内容风险野蛮生长

随着网络和社交媒体的交织日益复杂,国外逐步转向认知域风险作战,其中不乏有外部势力通过煽动、虚构和散布虚假信息,操纵公众的认知和观念。AIGC(人工智能生成内容)的盛行,以及 AI 大模型的快速发展,也为不法分子提供了可趁之机,他们将 AIGC 应用转化为制造内容风险的工具,导致 AIGC 内容风险野蛮生长。

为了保护公共利益和用户权益,监管单位正在针对 AIGC 技术的发展制定新的法律法规和监管措施;内容安全公司也在积极创新和提升技术能力,通过新产品和解决方案来应对 AIGC 带来的内容安全风险,确保用户和社会能够在可信赖的信息环境中获得安全、可靠的内容。

知道创宇 CDAI

推动 AIGC 内容治理产业向前发展

基于上述背景,知道创宇业务安全产品线融合多年业务审核实践经验,联合众多内容安全审核领域专家智囊,使用数十种前沿数据科学算法作为能力核心,研发了 CDAI(Cognitive Domain Artificial Intelligence)认知域 AI 引擎系统,助力 AIGC 治理。

CDAI 认知域 AI 引擎系统通过先进的机器学习和深度学习算法,能够提供高度准确的结果和预测,其具备良好的可扩展性,能够处理大规模的数据和复杂的任务,在实时或近实时的情况下能够快速响应,提供对结果和决策的可解释性。

同时,CDAI 认知域 AI 引擎系统也具备灵活性,能够适应不同的任务和领域,最终为各种应用场景提供强大的 AI 能力和支持,为 AIGC 治理注入新力量。

4 种先进范式,提供高度准确预测

CDAI 认知域 AI 引擎系统蕴含四种先进范式,通过先进的机器学习和深度学习算法,能够提供高度准确的结果和预测。

01数据优先范式

为了更好的理解数据、处理数据、管理数据,构建了全面的、覆盖整个训练周期的的数据分析及可视化手段。秉持“data-driven”为信念的开发实践,在该范式的加持下,对数据的清晰认知、精准把控,算法迭代效率较传统方式提升400%

02持续迭代范式

采用介入式模型迭代、在线权重学习迭代两种迭代算法,在此种流程范式的加持下,算法团队,AI引擎,大数据标注师能始终保持“高内聚低耦合”的配合原则。系统生产力极大增强,沟通力得到400%提升。

03算法可解释性范式

根据AIGC内容风控要点,可解释性范式带来五项成果:满足监管标准、政策或行业要求;增强系统客户对机器学习算法的信心,消除顾虑;帮助数据科学家理解和验证AI系统的输出,推动系统设计改进;防止数据集偏见,促进算法公平;协助评估风险,同时增强模型鲁棒性。

04灵活部署范式

使用微服务方式部署模型集群,最大化释放数据科学家的创造力;自研模型推理专用微服务框架,在统一的原子引擎API之内,支持多种开发语言;设计了先进的模型集成决策权重算法,统合数十个原子引擎,既支持人工权重配置,又支持在线学习反馈优化算法。以三个中心点为核心的部署范式,迭代效率提升400%

AI 核心技术搭建,全方位守护各行各业内容安全

知道创宇 AI 核心技术以文本数据、图像数据、视频数据、音频数据以及资质数据为全能基座,数据经产品线多年经验积累进行脱敏标注,自研并工程化多种成熟的深度学习模型,辅之以功能完善的数据科学平台及久经考验的模型开发流程,开发出算法微服务集群,为知道创宇诸多应用提供 AI 能力。目前已赋能 ScanA 5 个版本、互联网认证平台、内容审核平台、数据精标平台等多项产品。

1. ScanA 监管版

为监管单位提供属地网站群、自媒体帐号群的内容治理工作。

2.ScanA 舆情版

为监管单位提供属地舆情风险的全网排查工作,并及时预警。

3.ScanA 政企版

为企事业单位提供网站、自媒体帐号的内容风险自查工作。

4.ScanA 企业版

为互联网平台提供多种方式的内容安全审查工作。

5.ScanA AIGC 内容风控服务

为 AIGC 服务提供者提供训练标注服务、智能审核定制、合规基线评测等服务。

6. 智能互联网认证服务

为互联网平台提供资质等认证体系的搭建咨询和实施服务。

7.电商平台大数据风控服务

提供覆盖资质认证、内容审核等全维度的电商风控方案。

ScanA AIGC 版 3 套解决方案,助力 AIGC 内容风控

AIGC 在国内的广泛应用,逐步引发一系列问题,如虚假信息和不良内容传播、AI 换脸诈骗等,造成不同程度的社会负面影响。

依托于深度算法引擎系统,知道创宇 ScanA 全栈式内容风控体系拥有高效识别和精准过滤的机审能力,审核的内容包括图文音视文档等,覆盖 AI 对话、AI 绘画、AI 办公、AI 搜索、AI 视频、AI 音频等多种 AIGC 应用场景。

无论是输入词还是内容生成,平台通过 API 调用或离线的方式进行违规内容拦截。内容无异常,平台则正常对外展示;内容若违规,会打上相应标签返回给平台方。

结合以上产品能力,知道创宇针对“AIGC 服务提供者”提供 3 套内容安全风控方案。

01AIGC 训练标注服务

充分发挥人审专家优势,为各大厂商提供专业、高质量的 RLHF 服务,助力客户厂商的 GPT 类模型训练。

02AIGC 智能审核定制

使用 Instruction GPT 类模型强大的指令执行特性,极速指定审核模版,分钟级上线定制化机审能力。

03AIGC 合规基线评测

提供内容安全领域专业的测试人员对 AIGC 基线开展测试和评估,最终评测结果将为人工智能系统的开发和应用提供参考和指导。

作为一家基于 AI 和大数据的下一代网络安全企业,知道创宇始终致力于为客户提供前沿、高效的网络安全解决方案。本次获奖,不仅代表着知道创宇 CDAI 认知域 AI 引擎系统获得了业界的广泛认可,更是知道创宇在 AIGC 内容合规领域持续探索的重要动力。

未来,知道创宇将继续关注 AIGC 内容风险,与业界各方携手,致力于规避 AIGC 内容风险,帮助人们更好的享受 AIGC 带来的高效与便利,构建安全、健康、繁荣的信息环境。

 

本文由知道创宇原创发布

转载,请参考转载声明,注明出处: https://www.anquanke.com/post/id/291382

安全客 - 有思想的安全新媒体

分享到:微信
+133赞
收藏
知道创宇
分享到:微信

发表评论

内容需知
  • 投稿须知
  • 转载须知
  • 官网QQ群8:819797106
  • 官网QQ群3:830462644(已满)
  • 官网QQ群2:814450983(已满)
  • 官网QQ群1:702511263(已满)
合作单位
  • 安全客
  • 安全客
Copyright © 北京奇虎科技有限公司 360网络攻防实验室 安全客 All Rights Reserved 京ICP备08010314号-66