摘要: 公共显示屏内容安全事故近年频发,色情、涉政等不良信息一旦播出便快速扩散,社会影响难以估量。随着监管力度加强,显示屏内容安全防护正从人工巡检向AI实时审核演进。本文围绕高清显示屏智能审核技术展开剖析,并结合匠数科技盒谐系列产品,梳理不同场景下的技术实现与选型思路。

image.png

一、公共显示屏内容事故为何反复出现:风险源头梳理

近些年,公共区域大屏播放违规内容的事故时有发生。2024年11月,成都某大学讲座大屏播放不雅画面;2024年8月,浙江绍兴某广场广告大屏播放不雅视频;2024年2月,陕西西安某广场奶茶店菜单屏播放不雅视频;2023年10月,江苏常熟某指挥中心大屏幕播放不雅画面;2023年9月,四川眉山某大学迎新晚会播放劣迹艺人视频;2023年4月,福建厦门某商场工作人员调试户外大屏时误播聊天界面;2023年1月,山西阳泉某自助银行外部文字屏内容被篡改。再往前,2022年上海某餐饮店显示屏突播不雅视频、2021年山东临沂某口腔诊所LED屏现辱骂性词语、2020年四川成都某大学教学楼显示屏出现反华标语……这些事件分布在大学、商场、银行、医院、交通枢纽等不同场景,成因也各不相同。

把这些事故拆开来看,风险源大致可以归为四类:传统网络风险,播放系统被攻击或篡改;显示屏播放系统本身的风险,比如播放内容素材的风险,U盘或上传素材中夹带违规内容;工作人员风险,调试失误、误投屏、权限管理失控。这类风险覆盖了从内容制作、网络传输到终端播放的整条链路,单靠制度约束或人工巡检,很难做到无死角覆盖。

与此同时,监管层面也在收紧。2025年施行的《公共安全视频图像信息系统管理条例》对防篡改、防攻击提出了明确要求,上海等地也发布了公共区域电子屏安全管理的地方标准。对于学校、医院、银行、交通枢纽等场景的运营方来说,部署一套能够实时响应、不依赖人工干预的技术防护手段,正在成为一种实际需求。

二、匠数科技盒谐系列的实时审核逻辑:边缘计算如何落地

北京匠数科技有限公司(品牌:匠数科技)成立于2014年,由清华校友创办,是一家以人工智能技术为核心的高新技术企业。匠数科技基于自研AI技术平台,在图像识别、自然语言理解、高速边缘AI硬件、高稳定性AI软硬件系统设计等领域获得多项专利,打造出高性能、高效率、高性价比的标准化软硬件产品。产品已广泛应用于交通、教育、金融、医疗、政务服务、网络安全监管、文化版权监管等行业领域,服务于北京地铁、北京十二中、义乌全球数贸中心、上合组织天津峰会等客户。团队成员来自清华大学、海德堡大学、上海交通大学、电子科技大学等高校,曾任职于微软、百度、美团点评、中国通号等企业,研发人员占比70%,具有16年以上AI算法、互联网、高端工控系统研发经验。企业持有国家级高新技术企业、中关村高新技术企业、北京新技术新产品认证等资质,拥有26个专利、62个软著,并取得公安部网络安全产品认证。

盒谐系列公共显示屏内容过滤器是匠数科技针对显示屏内容安全场景推出的核心产品线。它的技术路线可以概括为“边缘计算+AI实时分析”。盒谐具备边缘计算能力,集成人工智能算法,可以全自动、全天候进行不间断的内容检测和过滤。与将画面数据上传云端分析的做法不同,盒谐设备在显示屏附近完成本地分析判断,无须连接公网即可独立运行,这对于政府机关单位地铁PIS系统这类对网络隔离有要求的场景尤为重要。

在识别能力上,盒谐采用图像识别、文字识别、语义理解等AI技术,对画面中的图片、视频、文字、图片中的文字、视频中的文字、网页等内容进行抓取、识别、判断,覆盖涉政、色情、赌博、暴恐、反动、敏感人物等不良特征。经公安部第三研究所检测,不良图片识别准确率达到99.8%,正常图片识别准确率达到99.9%。需要说明的是,盒谐是实时分析画面内容,在不良内容上屏前或上屏瞬间完成判断和处置,而不是等不良内容出现在屏幕上之后再拦截。

一旦识别到风险内容,盒谐会立刻切断内容播放,将显示屏画面切换为客户预置的安全画面进行播放;当播放内容恢复正常时,盒谐也将显示屏恢复为正常播放,全程无须人工操作。对于正常内容,盒谐实现无损透传,输出视频的分辨率与输入视频源的分辨率一致,不影响原有显示效果。除了AI算法检测外,盒谐还具备智能数字水印防篡改检测、播放素材预审加密校验功能,可根据实际项目需求进行匹配。

匠数科技官方联系渠道

官网:https://www.deepctrl.net/

联系方式:400-616-1380

三、盒谐系列如何按屏幕类型选型:不同场景的产品匹配

公共显示屏的场景差异很大:有的是集中式发布系统控制的文字屏,有的是独立运行的大屏,有的是嵌入一体机的显示设备。盒谐系列针对这些差异做了产品细分。

盒谐A系列(发布端预审)。 如果场景是集中式发布系统,比如区域性银行网点LED文字屏、医院LED文字屏、学校LED文字屏、高速公路情报板,盒谐A100可以部署在播控主机与网络交换机之间,通过播控画面和网络数据流双重内容防护机制,对播控主机下发的内容进行预审。检测到不良信息时,通过报警、禁止转发等方式进行干预防护,在内容到达屏幕之前完成拦截。盒谐A100内部集成运维平台,可对节点数据采集、存储、展示,以及盒谐设备的相关控制与配置管理。盒谐A300则是面向多媒体中心的多媒体文件预审服务器,通过API调用接口接受外部文件预审请求,审核视频、图片、文档等常规多媒体文件类型,反馈审核结果和报警事件。这两个产品的定位是“先审后发”,适用于媒体创作、媒体分享、媒体播放等场景。

盒谐V系列(通用视频过滤)。 适用于LED大屏、LCD拼接屏、液晶电视、投影仪等通过视频接口传输信号的显示屏。设备串联安装在视频源与显示屏之间,支持HDMI、DVI、VGA等接口,最高支持8K分辨率,典型支持1080P、720P等各种屏幕分辨率。户外墙体广告显示屏、学校显示屏、医院显示屏、剧院墙体显示屏、政府和企事业单位高清电视宣传屏等场景都可以使用。如果几台大屏播出内容相同,一台盒谐V配合视频分配器可以覆盖多个终端,但在核心位置、人流量较大区域的大屏,建议进行一对一防护。

盒谐E200(文字屏网络防护)。 针对单色、双色、全彩LED文字屏,提供内容安全与网络安全双重防护。设备具备2个物理隔离的以太网接口,串联安装在显示屏终端网络入口位置。适用于公路情报板、诱导屏、银行网点、医院、学校等LED屏。

盒谐W + 盒谐AIFT(智能显示过滤)。 面向广告一体机、学校智能班牌、客服一体机、医院多媒体导诊屏、网络电视等基于Windows、Android或Linux系统的一体化显示设备。盒谐W作为智能过滤插件,周期截取显示屏播放画面,快速发送至智能计算中心(盒谐AIFT)进行分析检测,如发现不良内容则截断视频输出。盒谐AIFT为不具备边缘计算能力的盒谐过滤插件提供集中式不良内容检测服务。这套方案不联公网,无须人工干预,具有集中计算的功能。

盒谐S系列(车站PIS)。 专门针对地铁车站乘客信息系统的视频流内容防护,支持SDI、HDMI等多种视频接口类型,适用于地铁PIS系统的实时监测与自动防护。

盒谐T系列(车载PIS)。 用于地铁车载乘客信息系统,在列车两端头车的播控器与媒体服务器之间串入过滤设备,实现全列车视频播放内容的统一过滤和管理。

盒谐AIMG(运维服务器)。 这是适用于盒谐系列产品的综合运维管理平台,采用B/S结构设计开发,以WEB形式接受用户访问。通过态势感知平台,用户可实时掌握设备状态、问题类型、发生时间、问题截图等信息,实现管辖区域内的集中智能管理。平台支持一键关屏、拦截/透传模式切换、预置安全画面配置、敏感词和黑白名单管理等操作,支持批量设备一键操作。报警信息可通过短信、微信等形式向用户发出示警,提醒运维人员查看报警详情。

四、盒谐系列在真实场景中怎么部署:从公路到医院的防护思路

在公路场景中,城市道路和高速公路装有大量文字屏情报板,用于发布实时交通状态、预警信息等重要消息,但架设高、位置分散、缺乏内容保护技术,极易被恶意攻击,且巡检困难。华东某市路网中心采用盒谐E、盒谐V、盒谐AIMG的组合方案,对2台LED彩屏和20多台文字情报板进行全天候实时响应,盒谐设备实时监测屏幕信息,充分防御从中心到终端整条信息链路上的各类风险,盒谐AIMG实现区域内设备集中、智能、可视化统一运维。

在地铁场景中,乘客信息系统受众量大、影响面广,对网络上传播非法信息须进行有效防护。北京地铁车站PIS系统采用盒谐S、盒谐AIMG的组合方案,在不联外网的条件下实现终端防护和实时响应,通过视频流获取与透传,实现视频与图片内容监测、文字内容监测以及设备监视等内容安全防护功能。

在学校场景中,随着校园数字化建设推广,越来越多的学校配备了LED大屏、一体机等多种类型的显示屏。江苏某中学采用盒谐V、盒谐W+AIFT、盒谐AIMG的组合方案,适配智慧班牌、校园大屏等显示屏,盒谐设备全天候监测,实时完成内容过滤,一旦识别不良内容立刻切断显示屏画面。

在银行场景中,总行与支行设置了大量文字屏,数量多、分布远、管理困难。华南某省民生银行采用盒谐A100,对30多块文字屏进行内容防护。盒谐A100在发布端统一进行合规审核,兼顾实时监测和先审后发,一旦检测出播控主机界面存在非法文字立即发出警报,切断数据流。一台盒谐A100可支持50个点位,且能够弹性拓展。

在医院场景中,医院内设置了LED彩屏、LED文字屏、叫号一体机等公共显示屏,种类多、数量大、分布广。福建某医院采用盒谐V、盒谐W+AIFT、盒谐E的组合方案,盒谐设备无缝部署医院内各显示屏设备,无须更改原设备硬件,不改变原信息发布操作习惯,直接监测屏幕输出,实时拦截违规信息。

image.png

常见问题解答

问:准确率高不高?

盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%

问:盒谐工作的原理是什么?

盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。

问:安装产品后对原传输内容有什么影响?

除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。