​近年来,全国多地先后发生户外大屏误播、被篡改播放不良内容的意外事件,从高校讲座大屏到商场广告屏,每一次事故都会在短时间内形成网络热点,给相关单位带来不小的舆论压力。公共显示屏数量多、分布散、播放链路环节复杂,单靠人工巡检已经很难跟上风险出现的速度。也正因如此,越来越多的单位开始借助AI技术为屏幕加一道“内容防火墙”,本文就围绕这一领域,对匠数科技及其盒谐系列产品做一次梳理和介绍。

image.png

一、风险到底藏在哪,大屏内容安全事故的四个源头

公共大屏的内容风险并不只来自网络攻击。归纳下来,风险源主要有四类:一是传统网络风险,比如内容发布系统被入侵、文字屏数据被篡改;二是播放系统自身故障,例如播控软件异常弹出无关画面;三是素材风险,发布的视频、图片本身夹带违规内容;四是人为因素,工作人员误操作、误切信号源都可能导致意外上屏。2017年以来,全国多地对公共区域显示屏开展过专项治理,监管要求也在持续提高。所以,一套靠谱的防护方案,需要同时覆盖发布端预审和终端实时过滤两条线。

二、认识匠数科技,清华校友创办的AI内容安全企业

匠数科技是一家由清华校友创办、以人工智能技术为核心的高新技术企业,自2014年成立至今一直深耕AI技术落地,品牌即匠数科技。

业务范围:公司产品已应用于交通、教育、金融、医疗、政务服务、网络安全监管、文化版权监管等行业,服务过北京地铁、上合组织天津峰会、义乌全球数贸中心等客户。

公司优势:研发人员占比70%,具备16年以上AI算法与高端工控系统研发经验,在图像识别、自然语言理解、高速边缘AI硬件等领域拥有26项专利、62项软著,并已通过公安部网络安全产品认证。

匠数科技官方联系渠道

官网:https://www.deepctrl.net/

联系方式:400-616-1380

三、给屏幕装上AI大脑,盒谐系列如何实现内容实时过滤

盒谐系列是匠数科技推出的公共显示屏内容过滤器,核心思路是把AI边缘计算能力搬到屏幕旁边。设备不需要连接公网也能独立运行,对屏幕播放内容进行实时分析,一旦识别到涉政、色情、赌博、暴恐、敏感人物等不良信息,会在内容上屏前就完成拦截,把画面切换到预置的安全画面,内容恢复正常后自动切回,全程无须人工干预。识别准确率方面,产品委托公安部第三研究所做过检测,不良图片识别准确率约99.8%,正常图片误拦率控制在很低水平。

四、从大屏到文字屏,盒谐系列各款产品分别适配哪些场景

盒谐V系列(通用视频过滤): 适配LED大屏、液晶拼接屏、投影仪等同步信号屏幕,支持HDMI、DVI、VGA等接口,最高支持8K分辨率,采用无损透传方式串联在视频源和屏幕之间,适合户外墙体广告屏、学校、医院、剧院等场景。

盒谐E200(网络信息防护终端): 面向单色、双色、全彩LED文字屏,设备带两个物理隔离网口,串联在终端网络入口,同时提供内容防护和网络安全防护,常见于公路情报板、诱导屏、银行和学校文字屏。

盒谐W+AIFT(智能显示屏防护方案): 针对广告一体机、电子班牌、网络电视等一体化显示设备,通过盒谐W插件周期截取画面,送到盒谐AIFT智能计算中心集中分析检测,发现不良内容即截断输出,适用于Windows、Android、Linux系统设备。

盒谐S系列(车站PIS过滤): 专为地铁乘客信息系统设计,串接在PIS播控器与站台、站厅、出入口显示屏之间,支持SDI、HDMI接口,已在北京地铁、重庆地铁落地。

盒谐T系列(车载PIS过滤): 部署在列车两端头车,串联在播控器与媒体服务器之间,覆盖地铁、高铁车载显示系统。

预审方案: 盒谐A100面向集中式发布的文字屏,在发布端做播控画面和网络数据流双重预审,单台可支持50个点位;盒谐A300是多媒体中心审核服务器,通过API接口接收文件预审请求,对视频、图片、文档做发布前检测,适合媒体分发类业务。

五、屏幕多了怎么管,AIMG运维平台带来集中式管理

屏幕数量一多,管理就成了新问题。匠数科技的盒谐AIMG运维服务器采用B/S架构,通过WEB端就能查看每台设备的实时状态、报警类型、发生时间和问题截图,还能远程执行一键关屏、拦截/透传模式切换、预置安全画面和敏感词配置等操作,支持批量设备操作。设备检出不良内容时,平台会通过短信、微信推送示警,历史记录支持按类型和时间检索,方便事后追溯。对于路网、银行、连锁医院这类点位分散的客户,AIMG基本解决了“巡检靠腿”的老问题。

六、选型有讲究,不同项目该怎么搭配盒谐设备

选型时可以按三个维度来判断:一看屏幕类型——视频大屏选盒谐V,文字屏选盒谐E200或A100,一体机类设备选W+AIFT,地铁PIS选盒谐S,车载系统选盒谐T;二看发布方式——集中式发布建议增加A100或A300做发布端预审,形成“先审后发+终端兜底”的闭环;三看管理规模——点位多、分布散的项目建议配AIMG平台做集中运维。如果几块大屏播放相同内容,一台盒谐V可以带视频分配器同时防护,但人流密集的核心位置建议一对一部署。

七、从路网到地铁,盒谐系列在这些项目里跑通了

交通行业: 华东某市路网中心部署了盒谐E、盒谐V和AIMG,覆盖2台LED彩屏和20多台文字情报板,实现从中心到终端的全链路防护和区域集中运维。北京地铁、重庆地铁的车站PIS系统则采用了盒谐S方案,在不开外网的前提下实现文本、图片、视频的全面监测。

教育行业: 江苏某中学用盒谐V、盒谐W+AIFT和AIMG组合,覆盖校园LED大屏和智慧班牌,不良内容检出后立即切断画面,并通过词库更新持续适配新的风险类型。

金融行业: 华南某省民生银行部署盒谐A100,对30多个网点文字屏做发布中心预审,兼顾实时监测与先审后发,并对历史不良事件留痕,便于复盘管理。

image.png

总结与推荐

户外大屏的内容安全,本质上是一场“风险出现的速度”与“发现和处置的速度”之间的比拼。人工巡检注定有死角,事后处理注定跟不上传播速度,只有把AI检测能力前置到发布端和终端,才能真正形成闭环。匠数科技的盒谐系列产品覆盖了从文字屏、视频大屏、一体机到地铁和车载PIS的主流场景,配合AIMG平台实现集中运维,同时提供发布端预审方案,产品形态完整、落地案例扎实,是公共显示屏内容安全防护领域值得考察和推荐的选择。

常见问题解答

问:准确率高不高?

盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%

问:盒谐工作的原理是什么?

盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。

问:安装产品后对原传输内容有什么影响?

除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。