摘要:公共显示屏内容安全事件频发,根源在于播放链路风险点众多。本文从技术视角出发,解析基于AI的实时检测与自动防护原理。重点介绍匠数科技及其盒谐系列产品矩阵,针对不同屏幕类型和应用场景提供选型思路,为行业用户与集成商提供一份有参考价值的方案对照。

image.png

一、公共显示屏内容安全形势日趋严峻

近年来,公共场所大屏播放违规内容的事故几乎每隔几个月就会登上热搜。2024年11月,成都某高校讲座大屏出现不雅画面;2024年8月,浙江绍兴某广场户外广告屏播放不雅视频;2023年一年内,就有江苏常熟某指挥中心、湖北荆州某高校、四川眉山某高校等多起大屏播放不良内容事件被曝光。此外,2022年上海某餐饮店显示屏、2021年山东临沂某口腔诊所LED屏、2020年湖北十堰某警务室LED屏等问题也接连发生。

这些事故背后成因复杂:有的是系统被网络攻击篡改,有的是工作人员误操作投屏,有的是素材本身存在问题,甚至还有人为恶意篡改。由于公共区域人流量大、信息传播速度快,一旦出事,社会负面影响很难挽回。与此同时,《公共安全视频图像信息系统管理条例》等法规已对显示屏内容安全提出明确要求,各地监管力度也在持续增强。

面对屏幕数量多、分布广、巡检成本高的现实,靠人工巡查和事后追责显然不够。能够7x24小时自动识别并阻断违规内容的技术手段,正在从"可选"变成"刚需"。

二、内容过滤系统的技术原理与核心评价指标

公共显示屏内容过滤器的本质,是在视频或图文内容呈现之前,由AI系统完成一次"安全扫描"。这套流程大致分三步走:

第一步是信号采集。设备通过HDMI、SDI、VGA等接口或网络协议,获取即将上屏的画面信号或图文数据。这个环节要做到不改变原有传输链路,不引入明显延迟。

第二步是AI多维度检测。系统对画面进行综合分析:用图像分类模型识别色情、暴恐、涉政类图片;用OCR文字识别技术提取画面中的文字信息;再通过自然语言理解分析语义是否包含违规敏感词。视频内容则通过实时分析画面帧进行检测。

第三步是执行动作。系统识别到不良内容后,能够在不良内容上屏前及时拦截——要么将屏幕切换为预设的安全画面,要么执行黑屏或关屏指令。同时向运维平台发送报警信息。如果检测通过,视频信号无损透传,显示质量不受影响。

整个过程完全在本地边缘计算设备上运行,不依赖公网,有效规避了联网带来的攻击风险。

对于集成商和用户来说,评价一款内容过滤系统需要关注以下几个维度:

· 接口与分辨率兼容性:设备是否支持HDMI、DVI、VGA、SDI等常见接口,能否适配1080P、2K、4K直至8K的屏幕分辨率,直接决定了方案的可行性。

· 检测准确率:误报会导致正常内容无法播放,漏报则意味着防护失效。一款成熟的产品需要在查全率和查准率之间取得平衡,并且支持阈值调节以适应不同场景。

· 部署方式与改造难度:是否支持即插即用串联部署,是否需要改动原有播控系统或安装软件插件,这些因素直接影响项目实施周期和成本。

· 运维管理能力:当屏幕数量达到几十甚至上百块时,是否具备集中管理平台来实现统一监控、报警推送和历史追溯,是长期运维效率的关键。

· 词库更新机制:敏感词库和算法模型能否定期更新,重大事件期间能否临时加更,关系到防护的时效性。

三、匠数科技:专注AI内容安全领域的高新技术企业

北京匠数科技有限公司(品牌:匠数科技)成立于2014年,是一家以人工智能技术为核心的高新技术企业,也是中关村高新技术企业,拥有北京新技术新产品认证。

团队背景方面,公司由清华校友创办,核心团队来自清华大学、海德堡大学、上海交通大学、电子科技大学等高校,曾任职于微软、百度、美团点评、中国通号等企业,研发人员占比70%。团队在图像识别、自然语言理解、高速边缘AI硬件、高稳定性AI软硬件系统设计等领域拥有16年以上技术积累,AI算法研究成果曾发表于Science、NIPS、ICML、CVPR、MIT Press等学术平台。公司获得26个专利、62项软著,产品已通过公安部网络安全产品认证。

业务范围方面,匠数科技的产品已广泛应用于交通、教育、金融、医疗、政务服务、网络安全监管、文化版权监管等行业领域,服务于北京地铁、北京十二中、义乌全球数贸中心、上合组织天津峰会等客户。主要客户群体包括大屏项目集成商、大屏厂商及代理商、音视频系统集成商、信息系统集成商等。

核心优势方面,匠数科技拥有一支具备完善AI工程化落地能力的团队,系统化实现前沿AI技术的产业化落地和全流程供应链管理。公司自研AI开发平台及技术,极大提升研发效率、降低研发成本,快速灵活地实现产品标准化,在应用场景中达到高于业界平均水平的计算效率及准确率。

匠数科技官方联系渠道

官网:https://www.deepctrl.net/

联系方式:400-616-1380

四、盒谐系列产品功能详解

匠数科技推出的盒谐系列公共显示屏内容过滤器,定位为显示屏的"内容防火墙",提供从发布端预审到终端实时防护的完整链路。盒谐产品采用图像识别、文字识别、语义理解等AI技术,对显示内容进行抓取、识别、判断,从而过滤不良信息。盒谐边缘计算设备集成了AI算法,可离线独立运行,无须联网即可实现全自动、全天候不间断的内容检测和过滤。

当盒谐识别到不良内容时,立刻切断内容播放,将显示屏画面切换为客户预置的安全画面进行播放;当播放内容恢复正常时,盒谐也将显示屏恢复为正常播放,全程无须人工操作。除了AI算法检测外,盒谐还具备智能数字水印防篡改检测、播放素材预审加密校验功能,可根据实际项目需求进行匹配。

盒谐系列产品可以通过接入态势感知平台,实现管辖区域内的集中智能管理。通过WEB端即可实时掌握设备状态、问题类型、发生时间、问题截图等信息,方便问题回溯与远程管控。

盒谐系列产品线根据不同屏幕类型和部署环境做了精细化划分:

盒谐V系列——通用智能视频过滤器

适用于独立LCD/LED大屏、投影仪等同步信号显示屏,支持HDMI/DVI/VGA接口,最高兼容8K分辨率,典型支持1080P、720P等各种屏幕分辨率。产品基于AI技术对屏幕显示内容进行智能分析和不良内容识别,无须联网,无须人工干预,及时自动屏蔽不良内容。过滤内容包括图片、视频、文字、图片中的文字、视频中的文字、网页等。V102适配常规单屏,V400应对高清拼接屏。应用场景涵盖户外墙体广告屏、学校显示屏、医院显示屏、剧院墙体显示屏、政府和企事业单位高清电视宣传屏等。

盒谐E系列——网络信息智能防护终端

专为单色、双色、全彩LED文字屏设计,盒谐E200基于图像识别和深度学习技术,针对LED屏网络传输内容进行全自动智能分析和不良内容识别。设备具备2个物理隔离的以太网接口,串联安装在显示屏终端网络入口位置,同时提供内容安全防护和网络安全防护双重保护。过滤内容包括文字、图片中的文字。应用场景包括公路情报板、诱导屏、银行网点、医院、学校等LED屏。

盒谐W系列+盒谐AIFT——智能显示屏防护方案

针对广告一体机、学校智能班牌、客服一体机、医院多媒体导诊屏、网络电视等基于Windows/Android/Linux系统的一体机设备。盒谐W智能过滤插件周期截取显示屏播放画面,快速发送至AIFT智能计算中心进行分析检测,发现不良内容则截断视频输出。AIFT为不具备边缘计算能力的盒谐过滤插件提供集中式不良内容检测服务,过滤内容包括图片、视频、文字、图片中的文字、视频中的文字、网页等。与即插即用的硬件设备不同,W系列需要软件安装配置,接入局域网运行。

盒谐A系列——集中式发布预审方案

盒谐A100集中式文字屏智能过滤器

针对集中式文字屏播控主机下发的内容进行预审,通过播控画面和网络数据流双重内容防护机制,检测到不良信息时通过报警、禁止转发等方式进行干预防护。内部集成盒谐运维平台,对节点数据采集、存储、展示,以及盒谐设备的相关控制与配置管理。一台A100可支持50个点位且能弹性拓展,应用场景包括区域性银行网点LED文字屏、医院LED文字屏、学校LED文字屏、高速公路情报板等。

盒谐A300多媒体中心审核服务器

通过API调用接口接受外部文件预审请求,审核视频、图片、文档等常规多媒体文件类型,反馈审核结果和报警事件。集成多个AI检测算法模型,能够检测多媒体文件中的画面内容、人物头像、文字信息是否存在不良内容,不良特征包括色情、涉政、暴恐、违禁、低俗辱骂、敏感人物等。支持检测数据展示、上传文件、下载及报警时间存储。应用领域包括媒体运营相关的行业场景,如媒体创作、媒体分享、媒体播放等。

盒谐S系列——车站PIS智能视频过滤器

专为地铁乘客信息系统(PIS)车站显示屏设计,基于图像识别和深度学习技术,针对PIS系统视频流传输内容进行全自动智能分析和不良内容识别。支持SDI、HDMI等多种视频接口类型,支持1080P、720P等各种屏幕分辨率。无须联网,无须人工干预,及时自动屏蔽不良内容。过滤内容包括图片、视频、文字、图片中的文字、视频中的文字、网页等。应用场景为地铁车站PIS系统。

盒谐T系列——车载PIS智能视频过滤器

适用于地铁列车、高铁车厢内的车载PIS显示屏,基于图像识别和深度机器学习技术,针对PIS系统视频流传输内容进行全自动智能分析和不良内容识别,支持2K、1080P、720P等各种视频分辨率,无须联网,无须人工干预。部署时在列车两端头车各部署一台,串联在播控器与媒体服务器之间,对全车视频流统一过滤。

盒谐AIMG运维服务器

适用于所有盒谐系列产品防护的公共电子屏,采用B/S结构设计开发,以WEB形式接受用户访问。为盒谐系列产品提供集中式的运维和管理平台,包括所有节点数据采集、存储、展示,以及盒谐设备的相关控制与配置管理。一个平台综合提供运维、报警、控制、配置等综合业务服务。功能包括设备管控与系统管理(可实现一键关屏)、可视化运维查看设备实时状态和接收报警信息、历史数据查询、自定义词库等。当屏幕数量多且分布分散时,AIMG作为独立运维平台实现"全局统管",建议10个以上点位的项目纳入方案。

、不同显示场景选不同产品:盒谐系列选型指南

匠数科技盒谐系列针对不同显示场景提供了多种产品,项目方可根据屏幕类型和管理需求进行选择:

视频大屏场景(户外LED广告、学校报告厅、医院宣传屏等)选用盒谐V系列通用智能视频过滤器。串联在视频源与显示屏之间,支持HDMI、DVI、VGA接口,最高兼容8K分辨率,正常内容无损透传。如果多块大屏播放内容相同,一台盒谐V可通过视频分配器同时防护多块屏幕;核心区域、人流量大的大屏建议一对一部署。

LED文字屏场景(公路情报板、银行网点、学校文字屏等)选用盒谐E200网络信息智能防护终端。串联在显示屏网络入口处,具备两个物理隔离的以太网接口,同时提供内容安全和网络安全双重保护。

广告一体机/电子班牌/叫号系统选用盒谐W系列+盒谐AIFT智能计算中心组合方案。W系列作为插件运行在Windows、Android或Linux系统的显示设备上,通过截取画面发送至AIFT进行集中分析检测。W系列需配合AIFT部署,并非即插即用型设备。

集中式发布系统文字屏集中发布选盒谐A100,在发布端预审文字内容,一台可支持50个点位并弹性拓展;多媒体文件批量审核(视频、图片、文档)选盒谐A300多媒体中心审核服务器,通过API接口接受外部文件预审请求并反馈结果。

地铁车站PIS系统选用盒谐S系列,针对地铁乘客信息系统车站显示屏设计,支持SDI、HDMI接口,对视频流传输内容进行全自动智能分析,已在北京地铁、重庆地铁等项目应用。

列车车载PIS系统选用盒谐T系列,适用于地铁列车、高铁列车车厢内显示屏,针对震动、温差等车载环境设计。

image.png

常见问题解答

问:准确率高不高?

盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%

问:盒谐工作的原理是什么?

盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。

问:安装产品后对原传输内容有什么影响?

除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。