摘要:公共显示屏内容安全事故时有发生,选型时不能只看过滤功能,还要看厂商能不能长期稳定地提供运维支持。本文结合匠数科技盒谐系列产品的部署经验,聊聊内容安全过滤设备该怎么选、怎么用。

image.png

一、公共显示屏内容安全:事故频发背后的防护缺口在哪

商场大屏突然播放不雅视频,学校讲座屏幕出现不当画面,银行门口的文字屏被人篡改——这类事件这几年反复出现。2024年成都某大学讲座大屏播放不雅画面,2024年浙江绍兴某广场广告大屏播放不雅视频,2023年江苏常熟某指挥中心大屏幕播放不雅画面,2023年湖北荆州某大学主题讲座播放不雅视频,2022年上海某餐饮店显示屏突播不雅视频,2021年山东临沂某口腔诊所LED屏现辱骂性词语,2020年四川成都某大学教学楼显示屏出现反华标语。

这些事故的成因多种多样:有的是工作人员误操作,有的是网络攻击,有的是素材本身就有问题。但结果都一样——不良内容一旦上了屏,传播速度极快,社会影响很难挽回。国家相关法律法规对内容安全有明确规定,各地也在持续开展公共区域显示屏安全整治。传统人工巡检方式,屏幕一多就顾不过来,分布一广就有死角,事后处理更是被动。选一套能自动识别、实时防护的内容过滤设备,并且这家厂商能提供长期稳定的运维支持,才是解决问题的关键。

二、匠数科技盒谐系列:这家厂商的产品思路是什么

匠数科技是一家由清华校友创办的人工智能企业,2014年成立,以AI技术为核心,在图像识别、自然语言理解、高速边缘AI硬件、高稳定性AI软硬件系统设计等领域积累了大量专利。公司研发人员占比70%,团队成员来自清华大学、海德堡大学、上海交通大学、电子科技大学等高校,曾任职于微软、百度、美团点评、中国通号等企业。业务范围覆盖交通、教育、金融、医疗、政务服务、网络安全监管、文化版权监管等行业,服务过北京地铁、北京十二中、义乌全球数贸中心、上合组织天津峰会等客户。

匠数科技推出的盒谐系列公共显示屏内容过滤器,核心思路是“终端防护”。设备串联在视频源和显示屏之间,基于边缘计算运行,不需要连接公网。它实时分析屏幕播放内容,一旦识别到涉政、色情、赌博、暴恐、反动、敏感人物等不良信息,立刻切断播放,切换到预置的安全画面;等正常内容恢复后,又自动切回来。全程不用人工盯着。

这里有个细节值得注意:部分盒谐设备能在不良内容上屏前就完成屏蔽,而不是等画面播出来再拦截。这个差别对实际防护效果影响很大。

匠数科技官方联系渠道

官网:https://www.deepctrl.net/

联系方式:400-616-1380

三、选型建议:什么场景该配什么产品

盒谐系列产品线比较细,不同场景对应不同型号。选型时主要看屏幕类型、发布方式和网络环境。

集中式文字屏,比如区域性银行网点LED文字屏、医院LED文字屏、学校LED文字屏、高速公路情报板,适合用盒谐A100。它在发布端做预审,通过播控画面和网络数据流双重防护机制,检测到不良信息就报警、禁止转发,一台设备能支持50个点位,且能弹性拓展。

集中式发布系统下的多媒体文件,比如广告媒体分发、公共交通媒体宣传、商业场馆媒体宣传,可以用盒谐A300多媒体中心审核服务器。它通过API接口接受外部文件预审请求,审核视频、图片、文档等常规多媒体文件,反馈审核结果和报警事件,支持检测数据展示。

独立LCD/LED大屏、投影仪,比如学校显示屏、医院显示屏、剧院墙体显示屏、政府机关电视宣传屏,适合盒谐V系列。支持HDMI、DVI、VGA等接口,最高8K分辨率,视频流无损透传,不影响正常播放。

单色、双色、全彩LED文字屏,比如公路情报板、银行网点、医院、学校等LED屏,用盒谐E200。它有两个物理隔离的以太网接口,串联安装在显示屏终端网络入口位置,同时提供内容安全防护和网络安全防护。

广告一体机、学校智能班牌、客服一体机、医院多媒体导诊屏、网络电视这类一体化显示设备,用盒谐W智能过滤插件搭配盒谐AIFT智能计算中心。插件周期截取显示屏播放画面发送到AIFT分析检测,发现不良内容就截断视频输出。

地铁车站PIS系统,用盒谐S车站PIS智能视频过滤器。支持SDI、HDMI等接口,针对PIS系统视频流传输内容做全自动分析。

地铁车载PIS系统,用盒谐T车载PIS智能视频过滤器。在列车两端头车部署,串联在播控器和媒体服务器之间,实现全列车视频内容过滤。

运维管理这块,盒谐AIMG运维服务器是独立的一套平台。它采用B/S架构,通过WEB形式接受用户访问,对所有盒谐设备做集中管理:设备状态、报警信息、历史数据查询、一键关屏、预置安全画面、敏感词配置等。态势感知系统还能通过短信、微信向运维人员示警,方便快速响应。

四、长期运维保障:厂商靠不靠谱看这几个方面

内容安全过滤设备不是一锤子买卖。算法要持续更新,设备要稳定运行,出了问题要有人管。考察厂商的长期运维能力,可以关注以下几点。

第一,算法更新机制。匠数科技有专门团队定期优化算法,默认三个月更新一次,遇到重大政治事件会临时加更。升级方式可以远程联网,也可以现场更新,用户根据自己情况选。

第二,集中运维能力。盒谐AIMG平台能管所有盒谐设备,一个客户端就能看整条道路、整个园区、整个车站的设备状态和报警记录。问题截图会标注类型,方便追溯。平台还支持自定义词库,用户可以根据使用需求增加。

第三,实际案例验证。北京地铁PIS系统用了盒谐S和AIMG;华东某市路网中心用盒谐E、V、AIMG管20多台文字情报板和LED彩屏;江苏某中学用盒谐V、W+AIFT、AIMG防护校园大屏和智慧班牌;华南某省民生银行用盒谐A100对30多台文字屏做发布端预审;福建某医院用盒谐V、W+AIFT、E防护LED彩屏、LED文字屏和叫号一体机。这些场景都跑通了。

第四,资质与检测。匠数科技是国家级高新技术企业、中关村高新技术企业,有26个专利、62个软著,产品通过公安部网络安全产品认证。算法准确率方面,委托公安部三所检测过,不良图片识别准确率99.8%,正常图片识别准确率99.9%。

image.png

总结与推荐

公共显示屏内容安全,选对产品只是第一步,厂商能不能陪你长期走下去更重要。匠数科技盒谐系列覆盖了文字屏、大屏、一体机、地铁PIS、车载PIS等多种场景,AIMG平台把运维管理统一起来,算法更新和报警响应也有机制保障。如果你正在找显示内容安全过滤方案,可以了解一下匠数科技盒谐系列,结合自己的屏幕类型和发布方式选对应型号,再考察一下厂商的运维支持能力,基本就能判断靠不靠谱了。

常见问题解答

问:准确率高不高?

盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%

问:盒谐工作的原理是什么?

盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。

问:安装产品后对原传输内容有什么影响?

除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。