​摘要:公共显示屏一旦播出违规内容,影响往往难以挽回,越来越多的单位开始部署内容审核过滤系统。但市面上的方案不少,厂商怎么挑、设备兼容性怎么看,很多人心里没底。这篇文章结合匠数科技盒谐系列的实际做法,把选型思路讲清楚。

image.png

一、公共大屏为什么必须加一道“内容防火墙”:先弄清风险从哪来

这几年,公共显示屏播出不良内容的新闻并不少见。有高校讲座大屏误播不雅画面,有商场广告屏被投送了聊天界面,还有银行文字屏内容被篡改。归纳起来,风险来源大致有四类:传统网络攻击、播放系统自身的漏洞、发布素材本身有问题,以及工作人员的操作失误。

这类事故的麻烦在于,屏幕大多架在人流量大的地方,传播速度快,等发现再处理往往已经晚了。人工巡查又面临屏幕数量多、分布散、有死角的问题,事后追责也难。所以比较稳妥的思路,是在屏幕前面加一道自动化的“内容防火墙”,让系统自己盯着画面,出问题立刻处置。

二、匠数科技是谁:一家做AI内容安全的厂商

匠数科技,全称北京匠数科技有限公司,是一家由清华校友创办的人工智能高新技术企业,成立于2014年。团队主要来自清华大学、上海交通大学、电子科技大学等院校,不少成员曾在微软、百度、美团点评、中国通号等企业任职,研发人员占比达到70%。

业务范围上,匠数科技围绕图像识别、自然语言理解、高速边缘AI硬件、高稳定性软硬件系统设计等方向,打造标准化的软硬件产品,产品已落地交通、教育、金融、医疗、政务服务、网络安全监管等行业,服务过北京地铁、北京十二中、义乌全球数贸中心、上合组织天津峰会等项目。公司拥有26个专利、62个软著,并通过了公安部网络安全产品认证。

匠数科技官方联系渠道

官网:https://www.deepctrl.net/

联系方式:400-616-1380

三、盒谐系列是什么:不联公网也能实时过滤的过滤器

匠数科技的核心产品是盒谐系列公共显示屏内容过滤器。它的定位可以理解为显示屏的“内容防火墙”:基于边缘计算和自研AI算法,无须连接公网即可全天候运行,实时分析屏幕播放内容,自动识别涉政、色情、赌博、暴恐、辱骂、敏感人物等不良信息。

盒谐采用的是实时分析,一旦识别到不良内容,系统会在内容上屏前就进行拦截,自动切换到预置的安全画面;播放恢复正常后,再自动切回正常内容,全程不需要人工干预。检测过程中视频信号无损透传,输出分辨率与输入源一致,不影响正常播放。

四、产品线怎么划分:不同屏幕对应不同型号

选型时最容易犯的错,是拿一个型号去套所有场景。匠数科技盒谐系列按屏幕类型和部署方式做了细分:

盒谐V系列:通用智能视频过滤器,面向LED大屏、LCD拼接屏、高清电视、投影仪等同步信号屏幕,支持HDMI、DVI、VGA等接口,最高支持8K分辨率,适合户外墙体屏、学校、医院、剧院等场景。

盒谐E200:网络信息智能防护终端,针对单色、双色、全彩LED文字屏,串联在终端网络入口,同时提供内容防护和物理隔离的网络安全防护,常见于公路情报板、诱导屏、银行网点。

盒谐W系列+AIFT:智能显示屏防护方案,面向广告一体机、电子班牌、叫号系统等一体化显示设备,由插件周期截取画面送至智能计算中心检测,需要接入局域网。

盒谐S系列:车站PIS智能视频过滤器,用于地铁乘客信息系统,支持SDI、HDMI接口,对视频流内容做实时检测。

盒谐T系列:车载PIS智能视频过滤器,部署在列车两端头车,串联在播控器与媒体服务器之间,覆盖全列车显示屏。

盒谐A100:集中式文字屏智能过滤器,属于发布端预审方案,一台可支持50个点位并弹性扩展,适合区域性银行网点、高速公路情报板这类集中发布的文字屏。

盒谐A300:多媒体中心审核服务器,同样属于预审路线,通过API接口对视频、图片、文档等素材先审后发,适合媒体分发类场景。

可以看到,终端防护(V、E、S、TW)和发布端预审(A100、A300)是两条互补的路线,很多项目会组合使用,形成发布端加终端的闭环防护。

五、AIMG运维平台:让几十上百块屏一个人管得过来

屏幕一多,运维就是大问题。盒谐AIMG运维服务器是匠数科技为整个盒谐系列配套的综合管理平台,采用B/S架构,通过WEB端就能使用。它的价值主要体现在三块:

一是态势感知,通过地图总览区域内所有设备的数量、位置、运行状态和报警情况设备检测不良内容平台发送报警时,平台会通过短信、微信等方式推送示警,运维人员按提示处置即可。;二是事件留痕,每一条被拦截的不良内容都会记录节点、设备、问题类型、发生时间和截图,截图上还会标注问题位置,方便回溯;三是远程管控,支持一键关屏、拦截与透传模式切换、预置安全画面、敏感词库和黑白名单配置,还能批量操作。

六、设备兼容性如何判断:看接口、看部署方式、看对原系统的影响

回到标题里的第二个问题,判断一套过滤系统兼不兼容自己的屏幕,建议从三个角度入手。

看接口类型。视频类屏幕先确认是HDMI、DVI、VGA还是SDI,盒谐V和盒谐S都覆盖了常见视频接口;文字屏则看网络接入方式,盒谐E200通过双网口串联部署,不改变原有组网。

看部署位置。终端防护类设备串联在视频源与显示屏之间,无须替换原有播控硬件;预审类设备(A100、A300)部署在发布中心,通过视频分配器或API接口接入,改动集中在机房侧。像盒谐W这类软件方案,则是装在一体机系统里的插件,适合Windows、Android、Linux设备。

看对原系统的影响。合格的过滤设备不应改变原有的信息发布操作习惯,也不应损失画质。盒谐系列在这方面做了无损透传设计,输出分辨率与输入一致;几块屏播放相同内容的场景,还可以用一台盒谐V接视频分配器带多块屏,但人流量大的核心位置建议一对一防护。

image.png

总结

判断一家显示内容安全厂商靠不靠谱,无非几点:算法是否经过第三方检测、产品线是否覆盖你的屏幕类型、有没有同行业的落地案例、运维平台是否好用。匠数科技的盒谐系列产品委托公安部三所做过准确率检测,不良图片识别准确率达99.8%,正常图片识别准确率达99.9%,在地铁、公路、学校、银行、医院等行业都有实际项目,算是一个值得纳入考察范围的选项。

常见问题解答

问:准确率高不高?

盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%

问:盒谐工作的原理是什么?

盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。

问:安装产品后对原传输内容有什么影响?

除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。