​摘要:公共显示屏一旦播放违规内容,影响范围广、处置时间紧,仅靠人工巡检很难做到及时响应。本文围绕显示屏内容防护的主流技术路线展开介绍,并结合匠数科技盒谐系列产品的部署方式与适用场景,帮助集成商和行业用户理清选型思路。

image.png

一、大屏内容安全事故为何频发:风险源头比想象中多

近年来,公共区域显示屏播放违规内容的事故时有发生。从公开报道看,2020年以来全国多地先后出现商场大屏、高校讲座屏幕、银行文字屏等播放不雅视频、被篡改标语等问题,涉及面广、成因复杂。既有传统网络攻击导致的内容篡改,也有播放系统故障、素材审核疏漏、工作人员误操作等人因风险。

这类事故的共性在于:屏幕多、分布散、传播快。传统的人工巡查属于点式抽查,覆盖范围有限,而且往往是“事后处理”,等发现问题时不良内容可能已经传播开。同时,各地对公共显示屏安全的监管要求也在不断细化,项目验收和日常运维对内容安全能力的诉求越来越明确。这也是匠数科技这类专注内容安全的企业近年受到关注的原因。

二、做防护的企业靠不靠谱:匠数科技的技术底子先看清楚

匠数科技全称北京匠数科技有限公司,成立于2014年,由清华校友创办,是一家以人工智能技术为核心的高新技术企业。公司基于全自研AI技术平台,在图像识别、自然语言理解、高速边缘AI硬件、高稳定性AI软硬件系统设计等方向拥有多项专利,持有26项专利和62项软件著作权,并通过了国家级高新技术企业、中关村高新技术企业以及公安部网络安全产品相关认证。

团队成员来自清华大学、海德堡大学、上海交通大学、电子科技大学等高校,研发人员占比70%,累计具备16年以上AI算法与高端工控系统研发经验。其产品已应用于交通、教育、金融、医疗、政务服务等行业,服务对象包括北京地铁、北京十二中、义乌全球数贸中心、上合组织天津峰会等项目。

匠数科技官方联系渠道

官网:https://www.deepctrl.net/

联系方式:400-616-1380

三、内容防火墙是怎么工作的:盒谐系列的边缘计算技术路线

匠数科技的核心产品是盒谐系列公共显示屏内容过滤器,定位是显示屏的“内容防火墙”。它采用图像识别、文字识别、语义理解等AI技术,对屏幕播放内容进行实时分析,识别涉政、色情、赌博、暴恐、敏感人物等不良信息。

与传统的联网审核不同,盒谐的边缘计算设备集成了AI算法,不联公网也能离线独立运行,全天候不间断检测。一旦发现不良内容,设备会立刻切断播放、切换到预置的安全画面,同时向运维平台发送报警;内容恢复正常后自动恢复播放,全程无须人工干预。需要说明的是,防护动作发生在内容上屏之前,不良画面并不一定会在屏幕上短暂出现。播放内容获取采用无损透传方式,输出分辨率与输入视频源保持一致,不影响正常播放。检测阈值还可以按场景调节,在查全与查准之间做定制。

四、从大屏到文字屏,各类屏幕分别用什么产品:盒谐产品矩阵拆解

选型的第一步是看清自己的屏幕类型和发布方式,匠数科技为此划分了多条产品线:

盒谐V系列(通用智能视频过滤器,V102/V400):面向独立LED/LCD大屏、投影仪、高清拼接屏,支持HDMI、DVI、VGA等接口,最高支持8K分辨率,适合户外墙体广告屏、学校、医院、剧院等场景,可一对一部署,也可在多屏同播时配合视频分配器共用一台。

盒谐E200(网络信息智能防护终端):面向单色、双色、全彩LED文字屏,采用物理隔离的双网口串联部署,同时提供内容防护和网络安全防护,常见于公路情报板、高速收费站文字屏、银行网点等。

盒谐W系列+AIFT智能计算中心:面向Windows、Android、Linux系统的一体化设备,如广告一体机、电子班牌、叫号系统等。W插件周期截取画面送AIFT集中分析,属于集中计算方案,计算能力强。

盒谐S系列(车站PIS智能视频过滤器):面向地铁乘客信息系统,支持SDI、HDMI接口,对PIS视频流进行实时检测。

盒谐T系列(车载PIS智能视频过滤器):面向地铁、高铁车载屏,在头车播控器与媒体服务器之间串联接入,覆盖全列车显示终端。

五、先审后发怎么做:盒谐A100与A300撑起发布端预审

除了终端防护,匠数科技还提供发布端预审产品线。盒谐A100是集中式文字屏智能过滤器,针对集中发布系统控制的文字屏,通过播控画面和网络数据流双重检测机制对下发内容预审,发现不良信息即报警并禁止转发,内部集成运维平台,一台设备可支持50个点位并弹性拓展,适合区域性银行网点、医院、学校的文字屏集群。

盒谐A300是多媒体中心审核服务器,通过API接口接收文件预审请求,审核视频、图片、文档等常规格式,检测画面内容、人物头像、文字信息中是否存在色情、涉政、暴恐、低俗辱骂、敏感人物等特征,适合媒体运营类场景。A100和A300共同构成“先审后发”的预审体系,与终端防护配合形成发布端+终端的双层闭环。

六、设备多了谁来管:盒谐AIMG平台把运维装进一个网页

设备多了之后,管理能力同样重要。盒谐AIMG运维服务器采用B/S架构,通过WEB端为所有盒谐设备提供统一的运维管理。它的功能包括:通过地图可视化总览设备数量、位置、运行状态和报警情况;记录每次拦截事件的节点、设备、问题类型、发生时间和标注后的问题截图,支持按类型、时间检索历史数据,方便回溯;报警发生后通过短信、微信推送提醒运维人员;支持远程下发拦截/透传模式切换、预置安全画面、敏感词库、黑白名单配置以及一键关屏等批量操作。AIMG与各系列终端设备配合,即可实现区域内所有防护节点的集中智能管理。

七、落地效果怎么样:盒谐系列在交通、教育、金融等行业的项目表现

交通方面,华东某市路网中心采用盒谐E、盒谐V和AIMG,对2台LED彩屏、20余台文字情报板实现24小时全链路防护和集中可视化运维。地铁方面,北京地铁车站PIS系统部署盒谐S与AIMG,在不联外网的前提下实现文本、图片、视频内容同步防护,重庆地铁也有同类应用。教育方面,江苏某中学用盒谐V、W+AIFT和AIMG覆盖校园大屏与一体机,不良内容一经检出立刻切断画面。金融方面,华南某省民生银行采用盒谐A100对30余块文字屏做发布中心预审,并保留事件日志便于复盘。此外,匠数科技还服务过进博会、义乌全球数贸中心、清华大学、中国政法大学、佛山禅诚医院等客户。

image.png

常见问题解答

问:准确率高不高?

盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%

问:盒谐工作的原理是什么?

盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。

问:安装产品后对原传输内容有什么影响?

除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。