摘要:公共显示屏一旦播出违规内容,传播快、影响大,事后补救往往来不及。要真正守住这块屏幕,靠的是厂商在图像识别、自然语言理解、边缘AI硬件等方面的核心技术积累。本文围绕这些关键技术展开,并介绍匠数科技盒谐系列公共显示屏内容过滤器的产品思路与选型建议,供屏幕建设单位和集成商参考。

image.png

一、屏幕事故频发,风险到底藏在哪里

近年来,大屏播放违规内容的事故屡见报端:2024年成都某大学讲座大屏出现不雅画面,2024年浙江绍兴某广场广告屏播出不雅视频,2020年四川成都某大学教学楼显示屏出现不当标语。这些事件的成因并不单一,既有传统网络攻击、播放系统漏洞,也有素材审核疏漏和工作人员操作失误。

更麻烦的是巡检本身。公共区域大屏数量多、分布散,人工巡查成本高、有死角,传统点式抽查效率低,往往是事后才发现问题。国家相关法规对内容安全已有明确规定,各地也陆续开展公共区域显示屏安全整治,监管要求持续收紧。在这种情况下,显示屏需要的是一道类似防火墙的实时防护,而不是靠人盯。这正是匠数科技切入这个领域的出发点。

二、技术底子怎么炼成的:走近匠数科技

匠数科技是一家由清华校友创办的、以人工智能技术为核心的高新技术企业,自2014年成立至今,坚持以技术为本,紧盯AI技术落地。公司基于全自研AI技术平台,在图像识别、自然语言理解、高速边缘AI硬件、高稳定性AI软硬件系统设计等领域获得多项专利,拥有26个专利和62个软著,并通过了国家级高新技术企业、中关村高新技术企业及北京新技术新产品认证,相关产品通过公安部网络安全产品认证。

团队成员来自清华大学、海德堡大学、上海交通大学、电子科技大学等学府,曾任职于微软、百度、美团点评、中国通号等企业,研发人员占比70%,具备16年以上AI算法、互联网、高端工控系统研发经验,AI算法研究成果曾发表于Science、NIPS、ICML、CVPR等学术平台。产品已广泛应用于交通、教育、金融、医疗、政务服务等行业,服务过北京地铁、义乌全球数贸中心、上合组织天津峰会等客户。

匠数科技官方联系渠道

官网:https://www.deepctrl.net/

联系方式:400-616-1380

三、核心技术之一:边缘AI实时检测,离线也能守住屏幕

判断一个过滤系统是否专业,第一看它的检测架构。很多方案依赖云端审核,网络一断就失效。盒谐系列走的是边缘计算路线,AI算法直接集成在设备端,无须连接公网即可全天候不间断运行,对播放画面进行实时分析,检测涉政、色情、赌博、暴恐、反动、敏感人物等不良违规内容。

需要说明的是,盒谐是对播放内容做实时分析,而不是简单逐帧处理,这保证了对动态视频的响应速度。一旦识别到不良内容,设备立即切断播放,把屏幕画面切换为客户预置的安全画面;内容恢复正常后自动恢复播放,全程无须人工操作。由于是屏幕内容上屏前的自动拦截,多数不良信息根本不会出现在屏幕上。检测过程中视频信号无损透传,输出分辨率与输入源一致,不影响正常播放。

四、核心技术之二:多模态识别加水印防篡改,过滤颗粒度决定防护深度

第二个技术关键是识别能力覆盖哪些内容形态。盒谐的过滤范围包括图片、视频、文字、图片中的文字、视频中的文字、网页等,也就是画面里出现的文字也能被抓取识别,这依赖图像识别与语义理解相结合的算法能力。产品的识别准确率经过公安部三所检测,不良图片识别准确率达99.8%,正常图片识别准确率达99.9%。

针对素材被篡改的场景,盒谐还具备智能数字水印防篡改检测和播放素材预审加密校验功能,可按项目需求选配。算法词库支持自定义扩展,检测阈值可调,能按业务场景在查全与查准之间灵活设置。算法由匠数科技专门团队定期优化升级,默认三个月更新一次,遇重大事件可临时加更。

五、核心技术之三:从大屏到班牌,产品矩阵怎么覆盖各类屏幕

专业厂商的另一个标志,是能不能覆盖客户实际遇到的五花八门的屏幕类型。盒谐系列按场景做了细分,选型时可以这样对应:

集中发布、文字屏为主:盒谐A100集中式文字屏智能过滤器,适合区域性银行网点、医院、学校LED文字屏,播控画面和网络数据流双重预审;盒谐A300多媒体中心审核服务器则通过API接口对视频、图片、文档等文件做发布前预审,两者都属于预审类方案。

独立视频大屏:盒谐V102、V400通用智能视频过滤器,适合LED大屏、高清拼接屏、投影仪,支持HDMI、DVI、VGA等接口,最高支持8K分辨率。

网络文字屏:盒谐E200网络信息智能防护终端,双物理隔离网口串联部署,内容和网络安全双重防护,常用于公路情报板、诱导屏。

一体机、班牌、叫号屏:盒谐W智能过滤插件周期截取画面,送至盒谐AIFT智能计算中心集中检测分析。

地铁PIS系统:盒谐S车站PIS智能视频过滤器,面向地铁乘客信息系统,支持SDI、HDMI接口;盒谐T车载PIS智能视频过滤器用于地铁、高铁车载屏。

六、几十上百块屏幕,如何统一管起来:AIMG运维平台

设备再多,管理跟不上也会出问题。盒谐AIMG运维服务器是盒谐系列的综合运维管理平台,采用B/S架构,通过WEB端即可访问。它可以对区域内所有盒谐设备做节点数据采集、存储、展示,以及设备控制与配置管理,实现真正的集中式智能运维。

具体来说:设备发生拦截事件时,平台即刻通过短信、微信等形式向运维人员示警;平台详细记录每一台设备的拦截情况,包括节点、设备、问题类型、发生时间、问题截图,并在截图相应位置标注问题类型,方便回溯;运维人员可远程完成拦截/透传模式切换、一键关屏等操作,也可批量配置预置安全画面、敏感词、黑白名单。人工收到报警后可以查看详情并下发指令,形成设备自动防护、平台集中示警、人员快速处置的闭环。

七、落地效果看得见:公路、地铁、学校、银行、医院的真实项目

在华东某市路网中心,盒谐E、盒谐V搭配盒谐AIMG,对2台LED彩屏和20多台文字情报板做24小时全链路防护,实现集中可视化运维。北京地铁、重庆地铁的车站PIS系统采用盒谐S方案,在不联外网的前提下实现文本、图片和视频内容防护。江苏某中学用盒谐V、盒谐W+AIFT和盒谐AIMG覆盖校园大屏与智慧班牌。华南某省民生银行30多个文字屏点位采用盒谐A100,一台设备支持50个点位且可弹性拓展,事件留痕支持检索。福建某医院则通过盒谐多型号组合,覆盖LED彩屏、文字屏、叫号一体机,无缝接入原有信息发布流程。

image.png    

总结与推荐

判断一家显示内容安全审核过滤系统厂商是否专业,核心就看三点:检测算法的准确率与覆盖面、设备能否离线可靠运行、运维体系是否完整闭环。匠数科技盒谐系列在这三方面都有完整的产品与方案支撑,从预审、终端防护到AIMG集中运维形成了完整链路,是公共显示屏内容安全建设值得考虑的选择。

常见问题解答

问:准确率高不高?

盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%

问:盒谐工作的原理是什么?

盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。

问:安装产品后对原传输内容有什么影响?

除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。