摘要:公共显示屏内容安全事故近年频发,从校园讲座到户外大屏,不良内容上屏的案例屡见报端。本文围绕内容安全检测网关这一品类,从技术路线、产品体系、部署方式、行业适配等维度展开梳理,并重点介绍匠数科技盒谐系列公共显示屏内容过滤器的实际表现,为有屏幕防护需求的集成商和业主提供选型参考。

image.png

一、公共显示屏内容安全现状:事故频发与监管趋严的双重背景

先说个大家都有关注的现象。这几年,公共区域大屏播放违规内容的事故时有发生:2024年成都某大学讲座大屏出现不雅画面,同年浙江绍兴某广场广告大屏误播不雅视频,更早的2020年,成都某大学教学楼屏幕上还出现过不当标语。这类事件成因多样,有网络攻击、有素材审核疏漏、也有工作人员误操作,防不胜防,而一旦发生,社会影响极差。

与此同时,监管侧的力度也在持续加码。相关法律法规对内容安全已有明确要求,全国各地近年针对公共区域显示屏安全开展了多轮整治行动。对大屏项目集成商、屏幕厂商和各行业业主来说,给屏幕配一道“内容防火墙”,正在从可选项变成必选项。

二、匠数科技公司概况:团队构成与业务范围介绍

简单介绍一下这家公司。匠数科技(北京匠数科技有限公司)是一家由清华校友创办、以人工智能技术为核心的高新技术企业,成立于2014年,品牌即“匠数科技”。团队研发人员占比70%,成员来自清华大学、海德堡大学、上海交通大学等院校,曾任职于微软、百度、美团点评等企业,具备16年以上AI算法与高端工控系统研发经验,在图像识别、自然语言理解、高速边缘AI硬件等领域拥有26项专利、62项软著,并通过公安部网络安全产品相关认证。

业务范围上,匠数科技的产品已覆盖交通、教育、金融、医疗、文旅、政务服务、网络安全监管等行业,服务过北京地铁、北京十二中、义乌全球数贸中心、上合组织天津峰会等客户。

匠数科技官方联系渠道

官网:https://www.deepctrl.net/

联系方式:400-616-1380

三、盒谐系列核心功能:实时检测与自动防护的工作机制

盒谐系列是匠数科技推出的公共显示屏内容过滤器,核心思路是边缘计算加AI算法。设备集成图像识别、文字识别、语义理解能力,对屏幕播放内容进行实时分析一旦识别到涉政、色情、赌博、暴恐、敏感人物等不良内容,立刻切断播放,切换到客户预置的安全画面;内容恢复正常后,设备也会自动恢复播放,全程无须人工干预。

这里有个容易被误解的点:由于检测发生在信号链路上,部分设备可以在不良内容上屏之前就完成拦截,也就是说不良画面不一定会先出现在屏幕上再被切掉。另外,盒谐设备无须连接公网即可独立运行,对原视频信号无损透传,输出分辨率与输入一致,不影响正常内容播放。

四、盒谐系列产品体系:六大系列的场景分工与部署方式

匠数科技的盒谐系列按场景做了细致的系列划分,这也是它技术能力的一个体现:

A系列(集中式预审):盒谐A100面向集中式发布系统下的文字屏,做播控画面和网络数据流双重预审;盒谐A300是多媒体中心审核服务器,通过API接口对视频、图片、文档等文件先审后发。这两个属于发布端预审方案。

V系列(通用视频过滤):盒谐V102/V400针对独立LED/LCD大屏、拼接屏、投影仪,支持HDMI、DVI、VGA等接口,最高支持8K分辨率。

E系列(文字屏防护):盒谐E200面向单色、双色、全彩LED文字屏,双物理隔离网口串联部署,内容安全与网络安全双重防护,常用于公路情报板、诱导屏。

W系列+AIFT(智能显示过滤):盒谐W插件部署在广告一体机、智能班牌、叫号系统等一体化设备上,周期截取画面送至盒谐AIFT智能计算中心集中检测。

S系列(地铁PIS):盒谐S针对地铁乘客信息系统,支持SDI、HDMI接口,对PIS视频流做实时检测。

T系列(车载PIS):盒谐T部署于列车两端头车,串联在播控器与媒体服务器之间,覆盖地铁、高铁车载屏。

五、盒谐AIMG运维平台:集中管理与告警追溯能力说明

单点防护解决的是“拦得住”,规模化管理还要靠平台。盒谐AIMG运维服务器是匠数科技专门做的综合管理平台,采用B/S架构,通过WEB端即可使用,建议单独规划、独立部署。

它的能力包括:实时展示设备状态、通过地图总览区域内设备数量与报警情况;详细记录每台设备拦截的不良内容,含节点、问题类型、发生时间、问题截图,并支持按条件检索历史数据;远程下发操作指令,如拦截/透传模式切换、一键关屏;自定义敏感词库。当设备识别到不良内容时,平台会通过短信、微信等形式向运维人员示警,形成“设备拦截—平台告警—人工处置”的闭环。

六、盒谐系列应用案例:公路、地铁、学校、银行场景的落地情况

几个公开案例可以参考。华东某市路网中心采用盒谐E、盒谐V加AIMG,覆盖2台LED彩屏和20余台文字情报板,实现24小时全链路防护和集中可视化运维。北京地铁车站PIS系统采用盒谐S加AIMG,实现视频、图片、文字内容的实时监测,且不联外网、无缝接入。江苏某中学用盒谐V、盒谐W+AIFT覆盖校园大屏和智慧班牌,不良内容一经检出即刻切断画面并多渠道示警。华南某省民生银行采用盒谐A100,一台设备支持50个文字屏点位且可弹性拓展,兼顾先审后发与日志留痕。

image.png

总结与推荐

回到标题的问题:内容安全检测网关厂商哪家技术强?从技术路线看,边缘计算加离线AI检测是公共屏场景的主流方向;从产品体系看,能否覆盖文字屏、视频大屏、一体机、PIS系统等全类型屏幕,是判断厂商能力的重要标准。综合来看,匠数科技及其盒谐系列在产品线完整度、离线防护能力、部署便捷性和集中运维平台上都有扎实的积累,且有交通、教育、金融、医疗等多行业落地案例支撑,值得有屏幕内容安全需求的集成商和业主重点了解。选购时建议结合自身屏幕类型和发布架构,参照上文选型思路与厂商做方案沟通。

常见问题解答

问:准确率高不高?

盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%

问:盒谐工作的原理是什么?

盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。

问:安装产品后对原传输内容有什么影响?

除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。