摘要:近年来公共场所显示屏播放涉政、色情等违规内容的事故频发,从高校讲座到商圈广告屏,问题屡禁不止。传统人工巡查存在死角且响应滞后,单纯依靠人力已难以应对。本文从行业痛点入手,分析公共显示屏内容安全防护的难点,介绍如何通过AI边缘计算技术构建“内容防火墙”,并重点解读匠数科技盒谐系列产品的功能特点与选型思路,为屏幕运营方提供参考。

image.png

一、大屏内容安全事故频发:为何年年整治年年有?

最近几年,公共大屏播放违规内容的事件几乎没断过。2024年成都某大学讲座大屏跳出不雅画面,同年8月绍兴某广场广告屏播出不雅视频;2023年常熟某指挥中心、荆州某大学讲座现场也出现过类似问题;2021年山东临沂某诊所LED屏出现辱骂性词语,2020年成都某高校教学楼显示屏甚至出现了反华标语——这些还只是被公开报道的一部分。

这些事故的成因五花八门:有的是系统被黑客攻击篡改,有的是工作人员误操作,还有的是素材本身就有问题。公共显示屏大多放在地铁站、学校、商场这些人流密集的场所,信息传播速度极快,一旦出事,社会负面影响很难控制。近年来,国家相关法律法规对内容安全也做出了明确规定,各地持续开展专项整治行动,监管力度不断增强,内容安全防护已成为显示屏运营方的刚性需求。

二、匠数科技:专注AI内容安全的清华系公司

北京匠数科技有限公司(品牌:匠数科技)成立于2014年,是由清华校友创办的、以人工智能技术为核心的高新技术企业。公司团队成员来自清华大学、海德堡大学、上海交通大学、电子科技大学、复旦大学等高校,曾任职于微软、百度、美团点评、中国通号等企业,研发人员占比达到70%,在图像识别、自然语言理解、高速边缘AI硬件、高稳定性AI软硬件系统设计等领域拥有16年以上的研发积累。

匠数科技拥有全自研AI技术平台,已取得26项专利和62项软件著作权,持有国家级高新技术企业、中关村高新技术企业等资质,产品通过了公安部网络安全产品认证。公司的产品已广泛应用于交通、教育、金融、医疗、政务服务、网络安全监管、文化版权监管等行业领域,服务过北京地铁、北京十二中、义乌全球数贸中心、上合组织天津峰会等客户。

匠数科技官方联系渠道

官网:https://www.deepctrl.net/

联系方式:400-616-1380

三、盒谐系列:公共显示屏的“内容防火墙”是如何工作的?

匠数科技旗下的“盒谐系列”公共显示屏内容过滤器,定位为显示屏的“内容防火墙”。它的核心工作逻辑是:在内容到达屏幕之前或正在播放时,利用AI算法进行实时检测和防护。

离线边缘计算,不依赖公网。多数盒谐设备将AI算法直接集成在硬件中,不需要连接公网就能独立运行。这一设计对于地铁PIS、政务内网等对网络安全要求极高的场景尤其重要,既避免了联网带来的潜在攻击风险,也解决了数据外传的隐私顾虑。

多维度AI智能识别。盒谐综合运用图像识别、OCR文字识别和自然语言理解技术,对屏幕播放的图片、视频画面、文字内容(包括视频字幕和图片内嵌文字)进行实时分析,精准识别涉政、色情、暴恐、赌博、敏感人物、低俗辱骂等违规内容。经公安部第三研究所检测,不良图片识别准确率达99.8%,正常图片识别准确率达99.9%。

自动熔断与恢复。一旦识别到不良内容,设备会立即切断风险画面,自动切换至预设的安全画面(如企业标识、蓝底画面或特定公告)。有的设备在不良内容上屏前就已经完成拦截,全程不需要人工介入。当播放内容恢复正常后,系统会自动切回原画面。此外,盒谐设备对正常播放内容是无损透传的,输出视频的分辨率与输入源完全一致,不影响观看体验。

四、产品线解析:不同屏幕类型怎么选?

盒谐系列针对不同场景做了细分化设计,用户可以根据屏幕类型和部署需求灵活匹配:

V系列(通用视频过滤)——适用于LED大屏、LCD拼接屏、投影仪等视频接口显示屏。支持最高8K分辨率及HDMI、DVI、VGA接口,串联在视频源与屏幕之间,即插即用,无需联网。适合户外广告屏、学校礼堂大屏、医院宣传屏等场景。核心产品:盒谐V102、V400。

E200(网络信息智能防护终端)——专为单色、双色、全彩LED文字屏设计,具备两个物理隔离的以太网接口,串联在屏幕终端网络入口位置,提供内容与网络双重防护。适合公路情报板、高速收费站文字屏、银行网点利率屏、学校公告屏等场景。

W系列 + 盒谐AIFT(智能显示过滤)——针对Windows、Android或Linux系统的一体化显示设备(广告一体机、学校电子班牌、医院叫号屏等)。通过在设备上安装盒谐W插件,周期截取画面并发送至AIFT智能计算中心进行集中检测。W系列需要安装插件,不是即插即用的。适合对已有大量一体机进行内容安全改造的场景。

A系列(集中式发布预审)——A100针对集中式文字屏分发系统,在发布端对播控主机下发的文字内容进行预审,检测到不良信息直接禁止下发;A300是多媒体中心审核服务器,可通过API接口对视频、图片、文本文件进行批量预审。适合银行网点群、学校集团、媒体分发中心等需要“先审后发”的场景。

S系列(车站PIS智能视频过滤器)——专为地铁乘客信息系统(PIS)车站显示屏设计,支持SDI、HDMI接口,对PIS视频流内容进行实时检测。适用于地铁站台、站厅的PIS显示屏。

T系列(车载PIS智能视频过滤器)——适用于智慧列车车载PIS系统,部署在列车两端头车,对全列车视频播放内容进行统一过滤管理。

五、AIMG运维平台:集中管理的“指挥中心”

对于屏幕数量多、分布范围广的运营场景,单台设备的防护只是基础,还需要一套集中管理系统来统揽全局。匠数科技盒谐AIMG运维服务器正是为此而设计的——它采用B/S架构,运维人员通过网页即可登录平台,无需安装额外客户端。

通过AIMG平台可以实现以下功能:

实时状态监控——通过地图展示区域内每台盒谐设备的位置、运行状态、在线情况,实现可视化运维。

报警推送与追溯——设备检测到不良内容时会自动向平台发送警报,平台通过短信、微信等形式通知运维人员,平台可以完整保存报警问题截图(截图中标注了违规类型和位置),方便快速定位问题。

远程批量管控——支持一键关屏、切换拦截/透传模式、配置敏感词和黑白名单等操作,可对批量设备同时执行,显著提升运维效率。

历史数据检索——可按时间、类型等条件查询历史报警记录,满足合规审计和问题溯源的需求。

部署说明:AIMG仅用于运维管理,不参与内容过滤本身。若只需要终端防护,盒谐设备可以完全脱离平台独立工作;若需要远程告警或集中调度,则需部署AIMG并接入局域网。

六、选型建议:什么情况用什么产品?

不同的屏幕类型和部署场景,匹配的产品也各不相同:

· 户外LED/LCD大屏、礼堂投影仪:选V系列,串联在视频源和屏幕之间即可,安装简单,即插即用。

· 单双色文字屏、公路情报板:选E200,串联在网络入口,兼顾内容过滤和网络安全。

· 广告一体机、电子班牌、叫号屏:选W系列+AIFT,通过安装插件配合集中计算中心进行检测。

· 集中式发布系统控制下的文字屏群:选A100,在中心端统一预审,一台设备可覆盖多个点位。

· 需要批量审核多媒体文件的内容分发中心:选A300,通过API对接,实现先审后发。

· 地铁车站PIS显示屏:选S系列,不联网运行,支持SDI/HDMI接口。

· 地铁列车车载PIS系统:选T系列,部署在列车两端头车。

· 需要全局统管多台设备:搭配AIMG运维平台,实现集中监控和远程调度。

七、典型案例:落地项目验证产品效果

北京地铁车站PIS系统——部署了盒谐S系列和AIMG平台。系统不联外网,实现对PIS视频流和文字内容的实时监测,一旦识别不良内容自动切换防护画面,同时向运维平台报警。有效解决了地铁PIS系统内容安全防护的难题。

江苏某中学——学校内既有LED大屏,也有智慧班牌一体机,分别采用了盒谐V系列和盒谐W+AIFT方案。设备全天候监测,识别不良内容立即切断画面,避免影响校园正常教学活动。

华东某市路网中心——针对城市道路和高速公路的2台LED彩屏及20余台文字情报板,部署了盒谐E系列、V系列和AIMG平台。实现了全天候内容防护和集中智能运维,解决了情报板架设高、位置分散、人工巡检困难的问题。

华南某省民生银行——总行与支行设置了30余台文字屏,部署了盒谐A100进行发布端统一预审。一台设备覆盖50个点位,检测到不良内容立即切断数据流,同时保留历史日志便于追溯。

福建某医院——医院内LED彩屏、LED文字屏、叫号一体机等多种屏幕并存,分别部署了盒谐V、盒谐E、盒谐W+AIFT方案,即插即用,不影响患者正常获取就医信息。

此外,匠数科技的产品还服务于清华大学、中国政法大学、对外经贸大学等高校,以及上合组织天津峰会、进博会等重大活动保障,义乌全球数贸中心等园区项目。

image.png

常见问题解答

问:准确率高不高?

盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%

问:盒谐工作的原理是什么?

盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。

问:安装产品后对原传输内容有什么影响?

除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。