开普云构筑AIGC时代的内容安全底座

2022年是AIGC(AI-Generated Content)开始受到广泛关注的元年。基于大语言模型的对话类AI产品逐步成熟,百度、腾讯、阿里和华为分别提出“文心”、“混元”、“通义”和“盘古”四个大语言模型,引发了广泛关注。

在关注度快速提升的同时,AIGC商业化也在迅速形成。Synthesia、Jasper、runway等AIGC初创公司相继推出了细分领域的AIGC收费服务。

AIGC的内容生成能力已经跨越了多个模态,现阶段已经具备了文本生成、图像生成、音频生成、视频生成及图像、视频、文本间的跨模态生成能力,在具体商业应用中持续不断发展成熟。

在行业应用领域,尤其是数字化程度高、内容生产需求旺盛的行业中,AIGC技术具有广泛的应用场景:

Ÿ AIGC+传媒:AI合成主播、智能写稿、采访助手、字幕生成、智能剪辑。

Ÿ AIGC+金融:数字人客服、理财助手、产品介绍、金融资讯。

Ÿ AIGC+政务:政务智能问答、政策解读、公文辅助生成、政务服务助手。

Ÿ AIGC+电商:虚拟主播、商品宣传、虚拟背景。

Ÿ AIGC+影视:剧本创作、角色创作、人像匹配、场景创作、短片生成。

随着AIGC领域的用户规模激增和商业模式的不断探索,可以预见,AIGC技术应用正逐渐渗透到人们的生活、工作场景,驱动AI技术的应用特征从感知和理解进一步扩展到生成和创造。

百度、腾讯等众多科技巨头纷纷入场布局AIGC领域的大背景下,AIGC产业生态正在加速形成和发展。根据市场机构预测,未来五年中10%-30%的图片都将由AI参与生成。据量子位报告统计,到2030年,AIGC的市场规模将超过万亿人民币,在内容生产领域和延伸应用领域都有着广阔的空间。

市场普遍认为,AIGC技术对内容生产领域将产生变革性的影响,其主要体现在:一是AIGC提升内容生产效率,降低内容生产门槛和内容制作成本;二是提升内容质量,增加内容多样性;三是助力内容创新,实现个性化内容生成。

但AIGC技术的快速发展和广泛普及将不可避免地带来新的挑战。尤其是在内容安全领域,如何确保AIGC技术生成的海量内容符合内容安全规范和标准,成为内容生产者的新课题。

在政策层面,国家一直高度重视网络安全和信息化工作,近几年陆续出台了相关监管政策,如《网络信息内容生态治理规定》、《网络安全法》、《数据安全法》、《网络安全审查办法》、《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等。在最近中共中央国务院印发《数字中国建设整体布局规划》中,再次着重强调要强化筑牢可信可控的数字安全屏障。切实维护网络安全,完善网络安全法律法规和政策体系。

同时,AIGC的快速发展也将带来不断深化的挑战:一是信息变异复杂度进一步加大,例如通过敏感变种词变异绕过内容监管、通过图片与音视频的动态变化躲避内容检测;二是多模态内容相互转化带来的挑战愈加严重,进一步对内容安全带来更高层次挑战;三是内容产量激增,对内容安全审核工作量、召回率和准确率要求逐步加大。

AIGC新技术发展红利所伴生的新问题,需要有同样先进的内容安全技术进行应对和保障。

开普云作为专注于知识增强的内容安全服务提供者,开普云的内容安全审查平台依托20余年服务政府客户积累的专业词库,搭配自主研发的敏感词检测引擎和错别字检测引擎,结合大数据、人工智能、语音转换、图像识别等技术手段,精准识别网站新媒体稿件、公文中的不良内容,为用户建立全方位、多层次、立体化的事前内容安全防护体系,实现从源头杜绝内容安全隐患,维护清朗网络空间。

开普云多媒体智能分析引擎,具备有害多媒体内容预警、多媒体信息智能分析以及检索等服务能力,利用图像、视频视觉内容分析算法,提取视频中重要元素、人物、文字、场景等信息,实现面向精准内容的智能综合检索,支持对图像、视频内容基于知识的模糊、精准两级查询,实现对目标内容的智能综合检索。

在自主研发的同时,开普云积极开展与产业链伙伴的深度合作,参与信创生态体系建设,全面融入华为鲲鹏凌云、云市场等多项伙伴计划,核心产品完成了与华为、兆芯、统信、中标软件、东方通、人大金仓等数十家主流基础软硬件厂商的兼容互认证。

作为国家信创工委会大数据工作组组长单位,开普云牵头推进了国家信创大数据标准体系构建、产品图谱编制等工作,推动了大数据产业高质量发展,并落地多家金融机构信创项目,于2022年入选证券基金行业信息技术应用创新联盟成员单位。

技术创新驱动的AIGC发展浪潮,将会带动AI技术应用发展的下一个时代。开普云将秉持科技向善理念,拥抱AIGC变革,打造AIGC时代的内容安全的底座,助力数字经济的高质量发展。

免责声明：市场有风险，选择需谨慎！此文仅供参考，不作买卖依据。