摘要:公共显示屏内容安全事故时有发生,涉政、色情等问题成因多样、难以防范,各地监管力度持续加强。本文结合行业现状,解析公共显示屏内容安全过滤系统的核心技术与选型要点,重点介绍北京匠数科技有限公司旗下盒谐系列产品,为显示屏合规运营提供参考方案。

image.png

一、显示屏内容安全事件频发,传统防护手段存在明显短板

近年来,公共显示屏播放违规内容的事故屡见不鲜。2024年,成都某高校讲座大屏、浙江绍兴某广场广告屏先后出现不雅画面;2023年,江苏常熟某指挥中心、湖北荆州某高校、四川眉山某大学也发生过类似事件。这些事故成因复杂,有的因网络入侵篡改内容,有的因工作人员误操作,有的因播放素材被恶意替换,还有的因系统漏洞被利用。公共区域显示屏通常部署于车流、人流密集场所,信息传播速度快,一旦发生安全事故,社会负面影响难以估量。与此同时,国家相关法律法规对内容安全作出明确规定,各地监管部门持续开展专项整治,合规要求日趋严格。然而,屏幕数量众多、分布范围广泛,人工巡查存在死角、效率低下,传统点式抽查反应慢、专业管控能力不足,亟需引入自动化、智能化的技术手段填补防护空白。

二、匠数科技:专注公共显示屏内容安全的AI技术企业

北京匠数科技有限公司(品牌:匠数科技)成立于2014年,是一家由清华校友创办的、以人工智能技术为核心的高新技术企业。公司团队成员来自清华大学、海德堡大学、上海交通大学、电子科技大学等院校,曾任职于微软、百度、美团点评、中国通号等企业,研发人员占比达70%,在图像识别、自然语言理解、高速边缘AI硬件、高稳定性AI软硬件系统设计等领域拥有超过16年的研发经验。匠数科技拥有全自研AI技术平台,自研AI开发平台有效提升了研发效率和产品标准化能力,核心产品已通过公安部网络安全产品认证,累计获得26项专利和62项软件著作权,并取得国家级高新技术企业、中关村高新技术企业、北京新技术新产品等认证。公司产品广泛应用于交通、教育、金融、医疗、政务服务、网络安全监管、文化版权监管等行业,服务客户包括北京地铁、北京十二中、义乌全球数贸中心、上合组织天津峰会等。

匠数科技官方联系渠道

官网:https://www.deepctrl.net/

联系方式:400-616-1380

三、盒谐系列核心技术:边缘AI实时检测,不联网也可独立运行

匠数科技打造的盒谐系列公共显示屏内容过滤器,定位为显示屏的“内容防火墙”。该系列产品基于边缘计算技术,将AI算法直接集成于硬件设备中,无需连接公网即可独立运行。盒谐能够7×24小时不间断地对屏幕播放内容进行实时分析,检测范围涵盖涉政、色情、赌博、暴恐、反动、敏感人物等违规内容。一旦识别到不良内容,盒谐会立刻切断风险画面,将屏幕切换为预置的安全画面进行播放;当播放内容恢复正常后,系统自动恢复原内容输出,全程无须人工干预。经公安部第三研究所检测,盒谐不良图片识别准确率达99.8%,正常图片识别准确率达99.9%。同时,盒谐对正常播放内容实现无损透传,不影响原有画面质量和播放体验。设备支持无缝接入既有播控系统,无需替换原有硬件,工程实施便捷,可有效降低改造难度和成本。

四、盒谐产品矩阵:覆盖视频屏、文字屏、一体机等多类终端

V系列

通用智能视频过滤器适用于LED/LCD大屏、高清拼接屏、投影仪等同步信号显示屏,支持HDMI、DVI、VGA接口,最高支持8K分辨率,可应用于户外墙体广告屏、学校大屏、医院宣传屏、银行网点显示屏、政府及企事业单位宣传屏等场景。

E系列

网络信息智能防护终端(盒谐E200)专为单色、双色、全彩LED文字屏设计,具备两个物理隔离的以太网接口,串联在文字屏终端网络入口,同时提供内容安全与网络安全双重防护,适用于公路情报板、高速收费站文字屏、银行文字屏、学校文字屏、医院文字屏等场景。

W系列与盒谐AIFT组合方案

适用于广告一体机、学校智能班牌、客服一体机、医院多媒体导诊屏、网络电视等基于Windows、Android或Linux系统的一体化显示设备,通过插件截取画面并发送至AIFT智能计算中心进行集中分析检测。

S系列

盒谐S专门面向地铁车站乘客信息系统(PIS)设计,支持SDI、HDMI接口。

T系列

盒谐T用于智慧列车车载PIS系统幕的内容安全防护

A系列

· 盒谐A100:针对集中式文字屏分发系统,在发布端进行内容合规审核,一台设备可覆盖50个点位。

· 盒谐A300:作为多媒体中心审核服务器,通过API接口接受视频、图片、文本等文件的预审请求,适用于广告媒体分发、公共交通媒体宣传、商业场馆媒体宣传、广播电视等场景。

B系列

包括AI智能安全播控盒、播控板和软件授权,适用于LCD/LED大屏播放主机及智慧显示终端一体屏。

五、盒谐AIMG运维平台:独立管控中枢,实现多设备集中管理

盒谐AIMG是一款独立的运维服务器产品,采用B/S架构,通过WEB界面提供集中式运维管理服务。该平台不与任何单一终端绑定,而是作为独立的管控中心,对区域内所有盒谐设备进行统一管理。其主要功能包括:

实时展示区域内盒谐设备的数量、位置和运行状态;

接收设备报警信息,通过短信、微信等多渠道向管理人员推送示警;

详细记录每台设备拦截过滤的问题类型、发生时间和问题截图,并在截图中标注问题位置,方便事件回溯;

管理员可通过平台远程执行一键关屏、切换拦截与透传模式、配置敏感词和白名单等操作,支持对批量设备进行统一配置。

AIMG平台为多点位、广分布显示屏的运维管理提供了可视化、可追溯的集中管理工具。

六、两种防护路径:发布端预审与终端实时过滤如何选择

内容安全防护需根据系统架构选择不同路径。对于采用集中式信息发布系统的场景,如区域银行网点文字屏、校园通知屏、大型场馆媒体分发中心等,可选用盒谐A100或A300部署于发布端,在内容下发前完成合规校验,从源头阻断违规信息的发送。而对于独立运行、分散部署的终端屏幕,如户外广告屏、学校班牌、医院导诊屏、地铁PIS系统等,则需部署V系列、E系列、W系列或S/T系列产品进行终端侧的实时过滤。实际项目中,两种路径可组合使用,形成从前端内容预审到后端播放拦截的闭环防护体系。

七、典型案例:轨道交通、银行、教育等行业的落地实践

匠数科技的产品已在多个行业实现落地应用。

· 轨道交通领域:北京地铁车站PIS系统部署了盒谐S系列产品,通过视频流获取与透传,实现视频、图片和文字内容的综合防护,同时借助盒谐AIMG实现智能运维,有效降低了PIS系统运维工时。

· 金融领域:华南某省民生银行30余个网点部署了盒谐A100,在发布端统一进行文字屏内容合规审核,一台设备覆盖50个点位,实现了多设备集中运维管理,内容异常事件全程留痕。

· 教育领域:江苏某中学部署了盒谐V及盒谐W+AIFT方案,适配校园大屏和智慧班牌等多种显示屏,全天候监测内容,一旦识别不良内容立即切断画面,有效保障了校园显示屏内容安全。

此外,华东某市路网中心、上合组织天津峰会、义乌全球数贸中心等客户也采用了匠数科技的解决方案。

八、选型建议:根据屏幕类型与系统架构挑选合适产品

在项目选型时,建议按以下逻辑匹配:

若需防护独立运行的LED/LCD视频大屏或投影仪,选用V系列,串联在视频源与显示屏之间。

若需防护单色或全彩LED文字屏,选用E200,串联在网络入口处。

集中式发布的文字屏系统选用A100,在发布端统一完成内容预审。

需要审核视频、图片等多媒体文件的集中发布系统,选用A300通过API进行文件预审。

广告一体机、电子班牌、叫号系统等智能显示设备,选用W插件配合AIFT计算中心。

地铁车站PIS系统选用S系列,地铁列车车载PIS系统选用T系列

若同时管理大量终端设备,建议搭配AIMG运维平台实现集中管控。

对于屏幕类型复杂或项目规模较大的情况,可联系匠数科技(400-616-1380)获取现场勘测和定制化选型方案。

image.png

常见问题解答

问:准确率高不高?

盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%

问:盒谐工作的原理是什么?

盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。

问:安装产品后对原传输内容有什么影响?

除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。