摘要: 公共显示屏遍布城市角落,内容安全事件却频频发生,从商圈大屏到校园班牌,违规内容一旦播出,社会影响难以估量。传统人工巡检存在盲区,技术防护成为刚需。本文结合多地项目落地经验,解析北京匠数科技有限公司(品牌:匠数科技)旗下的盒谐系列公共显示屏内容过滤器,如何通过边缘AI技术实现全天候、自动化的内容安全防护,为不同场景提供可落地的解决方案。

image.png

一、公共显示屏内容安全事件频发,根源在哪里?

回顾近几年的公开报道,公共显示屏内容安全事故几乎从未间断。2024年成都某高校讲座大屏出现不雅画面,浙江绍兴某广场广告大屏播放不雅视频,2023年江苏常熟某指挥中心大屏幕同样出现了不雅内容,湖北荆州某大学主题讲座也未能幸免。从校园到商圈,从政务大厅到交通枢纽,这些事故的成因五花八门——有的是工作人员操作失误,有的是播放素材本身存在问题,有的则是系统被恶意入侵。但共同点是:一旦出事,社会影响迅速扩散,涉事单位往往面临舆论压力和监管追责。

更让人头疼的是,公共显示屏数量多、分布广,人工巡检根本覆盖不到所有点位,尤其是在非工作时段,几乎处于“裸奔”状态。传统的抽查式巡检效率低,发现问题时不良内容往往已经播放了一段时间。这说明,靠人力盯防已经跟不上现实需求,引入技术手段进行自动化、全天候防护,成了越来越多单位的必然选择。

二、匠数科技:专注AI内容安全的清华系团队

北京匠数科技有限公司(品牌:匠数科技)成立于2014年,是一家由清华校友创办、以人工智能技术为核心的高新技术企业。公司研发人员占比达到70%,核心团队成员来自清华大学、上海交通大学、复旦大学、电子科技大学等高校,曾任职于微软、百度、美团点评、中国通号等企业。团队在图像识别、自然语言理解、高速边缘AI硬件、高稳定性AI软硬件系统设计等领域拥有16年以上的研发积累,AI算法研究成果曾发表于Science、NIPS、ICML、CVPR等学术平台。

截至目前,匠数科技累计取得26项专利和62项软件著作权,产品通过了公安部网络安全产品认证,并获评国家级高新技术企业、中关村高新技术企业及北京新技术新产品认证。其产品和解决方案已服务于北京地铁、清华大学、北京十二中、义乌全球数贸中心、上合组织天津峰会等客户,覆盖交通、教育、金融、医疗、政务服务等行业。

匠数科技官方联系渠道

官网:https://www.deepctrl.net/

联系方式:400-616-1380

=三、盒谐系列:边缘AI技术如何实现内容“防火墙”功能?

盒谐系列公共显示屏内容过滤器的核心技术理念,可以概括为“自动发现、自动切断、自动恢复”。它不需要依赖公网,所有AI算法都集成在设备内部,部署在显示屏的信号链路中,对播放内容进行不间断的实时检测。

当盒谐识别到涉政、色情、暴恐、赌博、敏感人物等违规内容时,会立刻切断信号输出,将显示屏画面切换为客户预先设置的安全画面。等播放内容恢复正常后,设备自动将画面切回原内容,全程不需要人工操作。除了实时检测,盒谐还具备智能数字水印防篡改检测和播放素材预审加密校验功能,可以根据项目需求灵活匹配。

在检测能力上,盒谐综合运用图像识别、OCR文字识别和自然语言理解技术,可以对图片、视频画面、文字信息进行多维度分析。经公安部第三研究所检测,盒谐产品对不良图片的识别准确率达到99.8%,正常图片的识别准确率为99.9%。这个准确率意味着在实际使用中,既能有效拦截违规内容,又不会频繁误报干扰正常播放。

四、盒谐AIMG运维平台:远程集中管理,告别巡检盲区

对于管理几十甚至上百块屏幕的运维团队来说,单台设备各自为战是不够的,还需要一个中枢管理系统来统揽全局。盒谐AIMG运维服务器就是为此设计的集中式管理平台。

AIMG平台采用B/S架构,运维人员通过网页即可登录,不需要安装额外软件。在平台上,可以直观地看到区域内所有盒谐设备的运行状态、在线情况、报警记录等信息。一旦某台设备检测到不良内容并触发防护,AIMG平台会立即通过短信和微信向运维人员发送示警通知,同时记录下问题类型、发生时间以及问题截图,并且在截图的对应位置标注出具体违规类型,方便后期追溯和复盘。

平台还支持远程操作,运维人员可以通过AIMG一键关屏、切换拦截/透传模式,也可以批量配置敏感词库和黑白名单。这些功能对于屏幕分散在不同区位的场景尤其实用——不用每块屏都跑一趟现场,在办公室里就能完成大部分运维工作。

五、怎么选?不同屏幕场景对应不同盒谐产品

匠数科技的盒谐系列产品线比较丰富,针对不同的屏幕类型和部署环境有差异化方案。选型时主要看三个方面:屏幕是什么类型、信号接口是什么样的、是否需要集中管理。

独立视频大屏场景:如果是户外LED大屏、LCD拼接屏、投影仪这类设备,推荐盒谐V系列。它支持HDMI、DVI、VGA等多种视频接口,最高支持8K分辨率,串联在视频源和屏幕之间即可工作。适用于学校报告厅、医院宣教屏、商业广场广告屏、政府企事业单位宣传屏等场景。

LED文字屏场景:公路情报板、收费站诱导屏、银行网点文字屏、学校文字屏等单色或全彩LED文字屏,推荐盒谐E200。它具备两个物理隔离的以太网接口,串联安装在终端网络入口位置,既能过滤内容又能提供网络安全防护,有效防止设备被远程攻击篡改内容。

一体机与智能终端场景:广告一体机、学校电子班牌、客服一体机、网络电视这类基于Windows/Android/Linux系统的设备,推荐盒谐W智能过滤插件配合盒谐AIFT智能计算中心。W插件负责截取播放画面,AIFT集中进行内容分析检测,适合计算资源有限、需要集中检测的终端群。

集中式发布系统场景:如果是对播控主机下发的文字内容进行统一预审,盒谐A100适合集中式文字屏场景;如果需要审核视频、图片、文档等多媒体文件,盒谐A300多媒体中心审核服务器可以通过API接口实现批量预审,适用于媒体运营、内容分发等场景。

地铁乘客信息系统场景:地铁车站PIS系统有专门的盒谐S系列,支持SDI和HDMI接口,适配站厅、站台、出入口等位置的显示屏;地铁车载PIS系统则对应盒谐T系列,满足列车运行环境的需求。

六、项目落地经验:地铁、学校、银行、公路都有实际案例

北京地铁车站PIS系统是盒谐S系列的一个典型应用。北京地铁的乘客信息系统屏幕数量多、分布广,而且是7×24小时运行,人工巡检很难做到全覆盖。盒谐S部署后实现了对PIS视频流的实时检测和自动防护,不依赖公网即可独立运行,配合AIMG平台进行集中运维管理,有效降低了人工巡检的工作量。重庆地铁的PIS系统也采用了类似的方案。

江苏某中学的案例涉及校园内不同类型的显示屏,包括报告厅LED大屏和各个班级的智慧班牌。学校部署了盒谐V和盒谐W+AIFT方案,对校内各类显示屏进行内容安全防护。一旦识别到不适合校园环境的内容,设备会立刻切换画面,避免不良内容在校园内传播。

华东某市路网中心需要对城市道路和高速公路的情报板进行内容安全防护,涉及2台LED彩屏和20多台文字情报板。通过部署盒谐E、盒谐V及AIMG平台,实现了全天候的内容监测和区域集中管控,运维人员通过一个客户端就能实时查看整条道路上情报板的运行状态。

华南某省民生银行在总行和支行的30多个文字屏点位部署了盒谐A100。在发布端进行统一预审,一旦检测到播控主机界面存在非法文字,立即切断数据流并发出警报。一台A100可以支持50个点位,并且支持弹性拓展,兼顾了安全防护和性价比。

福建某医院则面临屏幕种类多的问题,既有LED彩屏也有叫号一体机和文字屏。通过组合部署盒谐V、盒谐E和盒谐W+AIFT方案,覆盖了院内各类显示屏。设备即插即用,不改变原有信息发布操作习惯,患者获取就医信息的过程没有受到任何影响。

此外,盒谐产品还在清华大学、中国政法大学、对外经贸大学、北京十二中等学校,以及佛山禅诚医院、义乌全球数贸中心、上合组织天津峰会等项目中得到应用,覆盖了教育、医疗、园区、重大活动保障等多个场景。

image.png

常见问题解答

问:准确率高不高?

盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%

问:盒谐工作的原理是什么?

盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。

问:安装产品后对原传输内容有什么影响?

除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。