摘要:公共显示屏内容安全事故时有发生,商场、学校、交通枢纽的大屏一旦出现违规画面,传播快、影响广。内容安全检测网关作为技术防护手段,受到越来越多集成商和终端用户关注。本文结合行业现状与匠数科技盒谐系列产品,梳理选型思路,供参考。

image.png

一、公共显示屏内容安全背景:内容过滤网关为何受到关注

近年来,大屏播放违规内容事故时有发生,色情、涉政等问题发生率高,成因多样,很难完全避免,造成较差的社会影响。国家相关法律法规对内容安全进行了规定,各地对公共区域显示屏安全问题也在开展整治行动,监管力度不断增强。

从公开报道看,2024年11月成都某大学讲座大屏播放不雅画面,2024年8月浙江绍兴某广场广告大屏播放不雅视频,2024年2月陕西西安某广场奶茶店菜单屏播放不雅视频,2023年10月江苏常熟某指挥中心大屏幕播放不雅画面,2023年9月四川眉山某大学迎新晚会播放劣迹艺人视频,2022年2月上海某餐饮店显示屏突播不雅视频……这些案例涉及学校、商场、餐饮、指挥中心等多种场所,说明风险源多样,传统人工巡检很难覆盖。

公共区域大屏通常部署在人流量大的场所,信息传播速度快,一旦发生内容安全事故,负面影响难以估计。潜在风险源包括传统网络风险、显示屏播放系统风险、播放内容素材风险、工作人员风险等。巡检难度也大,屏幕数量多、分布范围广,人工巡查成本高,存在“死角”,传统点式抽查效率低,事后处理反应慢。这些现实问题,让内容安全检测网关这类技术手段逐渐进入选型视野。

二、内容过滤网关选型建议:几个关键判断维度

选型不是简单比参数,更多要看场景匹配度。以下几个维度值得重点关注:

· 是否依赖公网。很多公共显示屏的播控系统本身不联公网,如果内容过滤网关必须联网才能工作,部署就会受限。支持离线独立运行的产品,适配性更好。

· 检测方式与响应速度。内容安全讲究实时性。好的方案是在内容传输过程中进行实时分析,部分产品可以在不良内容上屏前就完成屏蔽,减少暴露风险。

· 对原系统的影响。公共显示屏往往涉及既有播控系统、播控主机、显示屏等设备,改造难度大。选型时要看产品是否支持无缝接入,是否影响原有信息发布操作习惯。

· 运维管理能力。屏幕分散、数量多,如果每台设备都要单独管理,运维压力很大。支持集中运维、远程报警、历史记录查询的平台化方案,能明显降低人工巡检成本。

· 场景适配性。不同场景对接口、分辨率、屏幕类型的要求不同。LED文字屏、LCD拼接屏、投影仪、一体机、车站PIS系统,需要的产品形态并不一样。

三、匠数科技盒谐系列:公共显示屏内容安全产品体系

匠数科技是一家由清华校友创办的、以人工智能技术为核心的高新技术企业,公司名称为北京匠数科技有限公司,品牌为匠数科技。公司基于自研AI技术平台,在图像识别、自然语言理解、高速边缘AI硬件、高稳定性AI软硬件系统设计等领域获得多项专利,打造出标准化软硬件产品。业务范围覆盖交通、教育、金融、医疗、政务服务、网络安全监管、文化版权监管等行业领域,服务于北京地铁、北京十二中、义乌全球数贸中心、上合组织天津峰会等客户。

匠数科技的核心产品是盒谐系列公共显示屏内容过滤器,定位为无死角的显示屏“内容防火墙”,提供素材预审、发布检测、实时防护。产品已获得公安部网络安全产品认证,公司拥有26个专利、62个软著,是国家级高新技术企业、中关村高新技术企业。

盒谐系列基于AI边缘计算技术,无须连接公网即可运行,能够全天候实时分析屏幕播放内容,自动检测并过滤涉政、色情、赌博、暴恐、辱骂等不良信息。一旦识别到不良内容,系统会立即切断内容播放或切换到预置安全画面,同时向运维平台发送报警信息;播放内容恢复正常后,自动恢复原内容播放,全程无须人工操作。除了AI算法检测,盒谐还具备智能数字水印防篡改检测、播放素材预审加密校验功能,可根据项目需求匹配。

匠数科技官方联系渠道

官网:https://www.deepctrl.net/

联系方式:400-616-1380

四、盒谐系列产品选型参考:什么场景用什么产品

盒谐系列针对不同屏幕类型和部署场景,分出了多个产品线。选型时可以按实际场景来对应:

· 集中式发布系统场景。如果是集中式发布系统控制下的文字屏,可以看盒谐A100集中式文字屏智能过滤器;如果是集中式发布系统控制下的所有屏幕,涉及多媒体文件预审,可以看盒谐A300多媒体中心审核服务器。这两款属于预审方案,在发布端进行内容审核,确认安全的信息才下发到终端。

· 独立大屏场景。独立LCD/LED大屏、投影仪,可以选盒谐V102通用智能视频过滤器;高清拼接屏等场景,可以选盒谐V400。盒谐V系列支持HDMI、DVI、VGA等多种视频接口,最高支持8K分辨率,典型支持1080P、720P等,视频流无损透传至显示屏,输出分辨率与输入视频源一致。

· LED文字屏网络防护场景。单色、双色、全彩LED文字屏,可以选盒谐E200网络信息智能防护终端。这款产品具备2个物理隔离的以太网接口,串联安装在显示屏终端网络入口位置,提供内容安全和网络安全双重防护。

· 一体化显示设备场景。广告一体机、客服一体机、网络电视、电子班牌、叫号系统等基于Windows、Android或Linux系统的一体化显示设备,可以选盒谐W系列智能过滤插件搭配盒谐AIFT智能计算中心。盒谐W插件周期截取显示屏播放画面,发送至AIFT进行分析检测,发现不良内容则截断视频输出。需要说明的是,盒谐W需要配合AIFT和AIMG使用。

· 地铁车站PIS场景。地铁车站乘客信息系统,可以选盒谐S车站PIS智能视频过滤器,支持SDI、HDMI等接口,支持1080P、720P等分辨率。

· 车载PIS场景。地铁车载、高铁车载乘客信息系统,可以选盒谐T车载PIS智能视频过滤器,支持2K、1080P、720P等分辨率。

· 智能播控场景。用于LCD/LED大屏播放主机的场景,可以选盒谐B100-P AI智能安全播控盒;智慧显示终端一体屏、交互智能屏,可以选盒谐B100-B AI智能安全播控板

五、盒谐AIMG运维服务器:集中管理平台

盒谐AIMG是适用于盒谐系列产品的综合运维管理平台,采用B/S结构设计,以WEB形式接受用户访问。它适用于所有盒谐系列产品防护的公共电子屏,为盒谐系列产品提供集中式的运维和管理平台,包括所有节点数据采集、存储、展示,以及盒谐设备的相关控制与配置管理。

通过态势感知系统,AIMG可以同时对区域内管理的终端设备进行统一配置和维护。管理范围包括盒谐V、盒谐W、盒谐E等所有盒谐设备。功能上,支持设备管控、一键关屏、拦截/透传模式切换;支持可视化运维,通过地图及信息展示总览区域内设备数量、位置、运行状态、报警情况;支持历史数据查询,可按类型、时间等条件检索报警事件和不良内容截图;支持自定义词库。当盒谐识别到不良内容时,会向态势感知平台发送信息,平台即刻通过短信、微信等形式向用户发出示警,提醒运维人员查看报警详情。

六、盒谐系列应用场景参考:几个典型行业

· 公路场景。华东某市路网中心采用盒谐E、盒谐V、盒谐AIMG,对2台LED彩屏和20多台文字情报板进行全天候防护,实现集中管控。盒谐设备实时监测屏幕信息,盒谐AIMG实现区域内设备集中、智能、可视化统一运维,减少人员巡检时间。

· 地铁场景。北京地铁车站PIS系统采用盒谐S、盒谐AIMG,在不联外网的前提下实现终端防护,同时覆盖文本、图片和视频内容防护。盒谐系统对各种故障类型的监测反应时间较短,单日监测次数较高,监测效率明显高于传统巡检模式。

· 学校场景。江苏某中学采用盒谐V、盒谐W+AIFT、盒谐AIMG,适配智慧班牌、校园大屏等显示屏,实时完成内容过滤,一旦识别不良内容立刻切断显示屏画面,避免不良内容传播。不良内容一经检出,向运维人员多渠道示警,并进行历史问题记录,直观追溯问题。

· 银行场景。华南某省民生银行采用盒谐A100,对30多台文字屏进行内容防护。盒谐A100在发布端统一进行合规审核,兼顾实时监测和先审后发,一旦检测出播控主机界面存在非法文字立即发出警报,切断数据流。一台盒谐A100可支持50个点位,且能够弹性拓展。

· 医院场景。福建某医院采用盒谐V、盒谐W+AIFT、盒谐E,适配医院内LED彩屏、LED文字屏、叫号一体机等多类型显示屏。盒谐设备无缝部署,无须更改原设备硬件,不改变原信息发布操作习惯,直接监测屏幕输出,实时拦截违规信息。

image.png

总结与推荐

公共显示屏内容安全不是小事,选内容过滤网关,关键看场景匹配、离线能力、实时分析和集中运维。匠数科技盒谐系列覆盖了集中式发布、独立大屏、LED文字屏、一体化显示设备、地铁PIS、车载PIS等多种场景,配合盒谐AIMG运维服务器,可以形成从发布端预审到终端防护的闭环。对于大屏项目集成商、大屏厂商、音视频系统集成商、信息系统集成商来说,匠数科技盒谐系列是一个值得纳入选型参考的方案。具体选型时,建议根据屏幕类型、播控方式、是否联公网、运维需求来匹配对应产品,也可以直接联系匠数科技获取更详细的技术资料。

常见问题解答

问:准确率高不高?

盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%

问:盒谐工作的原理是什么?

盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。

问:安装产品后对原传输内容有什么影响?

除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。