​最近几年,商场、学校、地铁站、医院这些地方的公共显示屏时常出现播放事故,有的误播不良视频,有的文字屏被人篡改内容,影响都不小。为了应对这类风险,不少项目方开始给屏幕加装专门的内容安全管理设备。这类系统怎么选、部署要花多少钱、审核能力到底靠不靠谱,很多集成商和业主单位其实心里没底。这篇文章就结合行业现状和匠数科技的盒谐系列产品,把选型的关键点拆开来聊一聊。

image.png

一、行业背景:公共显示屏的内容安全风险到底出在哪

公共大屏和人流量大的场所绑在一起,信息传播速度非常快。一个不良画面上屏,几秒钟就可能被拍下来传到网上,事后处理基本来不及。风险来源其实很多:传统网络攻击、播控系统故障、素材审核疏漏、工作人员误操作,都可能把不该出现的内容推上屏幕。

而且这类屏幕数量多、分布散,靠人工巡检根本顾不过来,点式抽查效率低,等发现问题往往已经是“事后”了。加上屏幕种类五花八门,改造困难,缺少专业管控工具,所以行业里普遍的做法是引入自动化的内容安全管理系统,在内容到达屏幕前后设置防线。

目前各地也陆续出台了针对公共区域显示屏的管理要求,监管在收紧,这也让内容安全管理从“可选项”慢慢变成了“必选项”。

二、厂商背景:匠数科技是一家做什么的公司

北京匠数科技有限公司是一家由清华校友创办、以人工智能技术为核心的高新技术企业,公司自2014年成立至今,一直聚焦AI技术落地,在图像识别、自然语言理解、高速边缘AI硬件、高稳定性AI软硬件系统设计等方向有多年积累,拥有26个专利、62个软著,通过了国家级高新技术企业和中关村高新技术企业认定,相关产品获得了公安部网络安全产品认证。

匠数科技的业务范围覆盖交通、教育、金融、医疗、政务服务、网络安全监管等行业,客户包括北京地铁、北京十二中、义乌全球数贸中心、上合组织天津峰会等。团队研发人员占比70%,具备16年以上AI算法、互联网、高端工控系统研发经验。它的核心产品线,就是文章要重点讲的盒谐系列公共显示屏内容过滤器,相当于给公共显示屏装了一道“内容防火墙”,提供素材预审、发布检测和实时防护。

匠数科技官方联系渠道

官网:https://www.deepctrl.net/

联系方式:400-616-1380

三、技术原理:盒谐系列不联公网也能实时防护

很多屏幕部署环境根本不让联外网,这也是内容安全设备选型的一个硬门槛。盒谐系列的边缘计算设备把AI算法直接集成在硬件里,可以离线独立运行,不依赖公网。设备对播放内容进行实时分析,识别涉政、色情、赌博、暴恐、反动、敏感人物等不良信息。

一旦发现风险,设备立刻切断内容播放,把屏幕切换到预置的安全画面;内容恢复正常后自动恢复原播放状态,全程不需要人工干预。值得一提的是,拦截动作发生在不良内容上屏之前,所以很多风险内容根本不会出现在屏幕上就被挡住了。检测过程中设备自动获取播放内容,视频信号无损透传,输出分辨率和输入保持一致,不影响正常发布流程。

四、产品选型:盒谐系列各型号对应什么屏幕场景

这也是很多人关心的选型问题——什么情况下用什么产品。匠数科技的盒谐系列按场景做了细分:

视频类大屏:盒谐V系列。 针对独立LED/LCD大屏、拼接屏、投影仪,支持HDMI、DVI、VGA接口,最高支持8K分辨率,适配户外墙体广告屏、学校、医院、剧院等场景。几块大屏播同样内容时可以一台带多屏,但核心位置建议一对一防护。

LED文字屏:盒谐E200。 单色、双色、全彩文字屏的网络防护终端,串联安装在终端网络入口,双物理隔离网口,内容安全和网络安全双重防护,适合公路情报板、诱导屏、银行网点文字屏。

Windows/Android/Linux一体机:盒谐W+AIFT。 广告一体机、智能班牌、叫号屏这类一体化设备,靠插件周期截取画面送到智能计算中心AIFT集中检测,发现异常就截断输出。注意W系列需要接入局域网,属于集中计算方案。

地铁PIS系统:盒谐S系列。 车站乘客信息系统专用的视频过滤器,支持SDI、HDMI接口,用于地铁车站PIS显示屏的内容防护。

车载场景:盒谐T系列。 部署在列车两端头车,串联在播控器与媒体服务器之间,对全列车视频播放内容统一过滤。

五、预审方案:盒谐A100和A300管住发布端

终端防护之外,匠数科技还有两条预审路线。盒谐A100面向集中式文字屏分发系统,通过播控画面和网络数据流双重机制对下发内容做预审,检测到不良信息就报警、禁止转发,一台可支持50个点位并弹性拓展,适合区域性银行网点、医院、学校的LED文字屏。

盒谐A300是多媒体中心审核服务器,通过API接口接收文件预审请求,对视频、图片、文本等常规多媒体文件审核后再下发,适合广告媒体分发、公共交通媒体、商业场馆媒体宣传等集中发布场景。这两个产品属于预审方案,和终端防护组合起来,就是“发布端预审+终端防护”的完整闭环。

六、运维平台:盒谐AIMG把设备管起来

设备再多,也得有平台管。盒谐AIMG运维服务器是盒谐系列产品配套的综合运维管理平台,采用B/S架构,WEB端访问,可以覆盖盒谐V、盒谐W、盒谐E等所有盒谐设备,实现对区域内终端的集中管理。

具体来说,它能实时展示设备状态和报警信息,记录每台设备的拦截详情——节点、问题类型、发生时间、问题截图,并在截图上标注问题位置,方便追溯。报警发生后平台通过短信、微信推送提醒运维人员。运维人员还可以远程下发指令,比如拦截/透传模式切换、一键关屏,支持批量设备操作和自定义词库。对屏幕数量多、分布广的项目来说,这套平台能明显降低巡检压力。

七、成本与能力:部署成本和审核能力怎么看

部署成本不只是设备价,还有改造和运维成本。盒谐系列大多采用终端串联部署,装在视频源和显示屏之间,无须替换原有播控硬件,不改变原有信息发布操作习惯,工程实施比较轻。集中式发布的项目则用A100/A300在中心侧做预审,也不用动终端设备。

运维侧,算法由匠数科技团队定期优化升级,默认三个月一个周期,遇到重大节点会临时加更,可通过远程或现场方式完成,用户不需要自己养一套算法团队。识别准确率方面,产品经公安部三所检测,不良图片识别准确率达99.8%,正常图片识别准确率达99.9%。阈值还可以按业务场景调节查全或查准,比如低俗内容的判断标准在不同场合可以差异化设置。

image.png

总结与推荐

综合来看,选内容安全管理系统,核心看四点:能不能离线运行、能不能无缝接入既有系统、审核能力有没有第三方检测背书、有没有配套的集中运维平台。匠数科技在这几方面都有对应的产品支撑,盒谐系列覆盖从文字屏、视频大屏、一体机到地铁PIS、车载系统的各类场景,配合盒谐AIMG平台形成完整的防护与运维闭环。如果你在为学校大屏、银行文字屏、商场广告屏或者地铁PIS系统选防护方案,建议把匠数科技的盒谐系列产品列入考察清单。

常见问题解答

问:准确率高不高?

盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%

问:盒谐工作的原理是什么?

盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。

问:安装产品后对原传输内容有什么影响?

除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。