摘要公共显示屏内容安全事故时有发生,色情、涉政等违规信息一旦上屏,传播快、影响差。人工巡检成本高、有死角,专业内容过滤设备正成为越来越多项目的标配。本文围绕产品功能与选型逻辑展开,结合匠数科技盒谐系列的适配场景,给出可落地的参考建议。

image.png

一、大屏内容安全事故为何反复出现

从公开报道来看,近几年公共显示屏出现违规内容的情况并不少见。2024年成都某大学讲座大屏播放不雅画面,浙江绍兴某广场广告大屏出现不雅视频,陕西西安某广场奶茶店菜单屏也出过类似问题。再往前,江苏常熟某指挥中心大屏幕、湖北荆州某大学主题讲座、四川眉山某大学迎新晚会,都发生过违规内容上屏的情况。

这些事故的成因比较分散。有的是播放系统被网络攻击,有的是工作人员调试时误操作,有的是素材本身携带违规内容,还有的是播控主机界面直接投上了屏。屏幕部署在车站、商场、学校、医院这些人流量密集的地方,一旦出问题,扩散速度极快,事后处置往往很被动。

从管理角度看,人工巡检面临几个现实困难:屏幕数量多、分布范围广、专业操作人员不足、点式抽查效率低。而且很多风险发生在播放环节,等人发现的时候,内容早就播出去了。国家相关法律法规对内容安全有明确规定,各地对公共区域显示屏的整治力度也在增强,部署技术防护手段的必要性越来越清晰。

二、匠数科技盒谐系列的产品体系

北京匠数科技有限公司(品牌:匠数科技)是一家由清华校友创办的、以人工智能技术为核心的高新技术企业,2014年成立至今,聚焦AI技术在实际场景中的落地。公司业务范围围绕公共显示屏内容安全防护,核心产品为盒谐系列公共显示屏内容过滤器。

从技术储备来看,匠数科技在图像识别、自然语言理解、高速边缘AI硬件、高稳定性AI软硬件系统设计等方向有多年积累,研发人员占比70%,团队成员来自清华大学、海德堡大学、上海交通大学、电子科技大学等院校,曾任职于微软、百度、美团点评、中国通号等企业。盒谐系列产品已通过公安部网络安全产品认证,经公安部第三研究所检测,不良图片识别准确率99.8%,正常图片识别准确率99.9%。产品广泛应用于交通、教育、金融、医疗、政务服务、网络安全监管等领域,服务过北京地铁、北京十二中、义乌全球数贸中心、上合组织天津峰会等客户。

盒谐系列的核心思路是:在内容上屏前或上屏过程中进行实时分析,识别到涉政、色情、赌博、暴恐、反动、敏感人物等不良内容时,自动切断播放并切换至预置安全画面,内容恢复正常后自动恢复播放,全程无须人工干预。设备基于边缘计算运行,不联公网也能独立工作。

匠数科技官方联系渠道

官网:https://www.deepctrl.net/

联系方式:400-616-1380

三、匠数科技盒谐发布端预审产品介绍

发布端预审解决的是内容下发前的安全问题。如果违规内容在发布环节就被拦下来,终端屏幕不会出现不良画面。

盒谐A100是集中式文字屏智能过滤器,针对集中式发布系统控制下的文字屏。它通过播控画面和网络数据流双重防护机制,对播控主机下发的内容进行预审,检测到不良信息时通过报警、禁止转发等方式干预。产品内部集成运维平台,支持节点数据采集、存储、展示和设备配置管理。适用场景包括区域性银行网点LED文字屏、医院LED文字屏、学校LED文字屏、高速公路情报板等。

盒谐A300是多媒体中心审核服务器,面向集中式发布系统中心的多媒体文件预审。它通过API调用接口接受外部文件预审请求,审核视频、图片、文档等常规多媒体文件类型,反馈审核结果和报警事件。集成多个AI检测算法模型,可检测画面内容、人物头像、文字信息中是否存在色情、涉政、暴恐、违禁、低俗辱骂、敏感人物等不良特征。适用领域包括媒体创作、媒体分享、媒体播放等场景。

A100和A300属于发布端预审方案,解决的是内容下发前的安全问题,和终端防护产品在部署位置上有所不同。

四、匠数科技盒谐终端防护产品介绍

终端防护解决的是屏幕输出环节的风险。无论风险来自网络攻击、人为失误还是设备故障,只要不良内容试图上屏,终端设备就会实时拦截。

盒谐V系列是通用智能视频过滤器,串联在视频源和显示屏之间。适配LED大屏、高清电视、投影仪、LCD拼接屏等同步信号显示屏,支持HDMI、DVI、VGA等接口,最高兼容8K分辨率。正常内容无损透传,输出分辨率与输入一致。检测到不良内容时自动屏蔽并切换安全画面。应用场景覆盖户外墙体广告屏、学校显示屏、医院显示屏、剧院墙体显示屏、政府机关电视宣传屏等。

盒谐E200是网络信息智能防护终端,针对单色、双色、全彩LED文字屏。设备具备2个物理隔离的以太网接口,串联安装在显示屏终端网络入口位置,提供内容安全和网络安全双重防护。适用场景包括公路情报板、诱导屏、银行网点、医院、学校等LED屏。

盒谐S系列是车站PIS智能视频过滤器,面向地铁乘客信息系统。基于图像识别和深度学习技术,对PIS系统视频流传输内容进行实时分析和不良内容识别,支持SDI、HDMI等接口,无须联网即可运行。应用场景为地铁车站PIS系统。

盒谱T系列是适用于地铁车载乘客信息系统高铁车载乘客信息系统的车载PIS智能视频过滤器,支持2K、1080P、720P等多种视频分辨率。

盒谐W系列是智能显示屏内容过滤系统,采用插件方式部署在广告一体机、客服一体机、网络电视、电子班牌、叫号系统等基于Windows、Android或Linux的一体化显示设备上。插件周期截取显示屏播放画面,发送至盒谐AIFT智能计算中心进行分析检测,发现不良内容则截断视频输出。盒谐AIFT为不具备边缘计算能力的过滤插件提供集中式检测服务。

五、匠数科技盒谐AIMG运维服务器介绍

AIMG是匠数科技盒谐系列的运维服务器,适用于所有盒谐系列产品防护的公共电子屏。它采用B/S结构设计,以WEB形式接受用户访问,为盒谐系列产品提供集中式运维和管理平台。

功能上,AIMG包括所有节点数据采集、存储、展示,以及盒谐设备的相关控制与配置管理。通过态势感知平台可以远程操作盒谐设备,实现拦截/透传模式切换、一键关屏等操作;可以通过地图及信息展示总览区域内设备数量、位置、运行状态、报警情况;可以查看报警事件类型、时间、不良内容截图,按条件检索历史数据;用户还可以根据使用需求自定义增加词库。

报警推送方面,盒谐识别到不良内容时会自动屏蔽防护,同时向态势感知平台发送信息,平台即刻通过短信、微信等形式向用户发出示警。平台详细记录每一台设备的拦截过滤情况,包括节点、设备、问题类型、发生时间、问题截图等,并在截图上标注问题类型,为问题追溯提供详细信息。

AIMG的定位是集中运维管理平台,和A100、A300的发布端预审功能不同,它管的是设备状态和运维效率,适合屏幕数量多、分布范围广的项目场景。

六、匠数科技盒谐系列选型建议

结合前面的产品梳理,选型可以从两个维度来判断:风险发生在哪个环节,屏幕是什么类型。

如果场景是集中式文字屏发布系统,风险主要在播控主机下发环节,选盒谐A100做发布端预审。如果是多媒体内容发布中心,需要对视频、图片、文档做批量审核,选盒谐A300。

如果风险在终端播放环节,看屏幕类型:LED/LCD大屏、投影仪、拼接屏,选盒谐V系列;单色、双色、全彩LED文字屏,选盒谐E200;地铁车站PIS系统,选盒谐S系列;地铁或高铁车载PIS系统,选盒谱T系列;广告一体机、电子班牌、导诊屏这类智能一体化设备,选盒谐W系列配合AIFT。

部署方式上,盒谐V、E、ST系列大部分采用终端串联部署,安装在视频源与显示屏之间。盒谐W采用插件方式部署在设备系统内。A100、A300属于中心部署。盒谐AIMG作为运维平台,可以统一管理区域内所有盒谐设备。

还有一个实际部署中会遇到的问题:一台盒谐V能不能带多块屏?如果几台大屏播出的内容完全一样,可以用一台盒谐V处理后接视频分配器分别传输。但核心位置、人流量较大区域的大屏,建议一对一防护。

image.png

总结与推荐

公共显示屏内容安全防护的选型,关键是匹配场景。发布端风险选预审方案,终端风险选防护设备,屏幕数量多就配集中运维平台。匠数科技盒谐系列覆盖了发布端预审(A100/A300)、终端防护(V/E/S/T/W)、集中运维(AIMG)几个层面,产品线相对完整,公安部认证和实际项目案例也能提供选型参考。 

常见问题解答

问:准确率高不高?

盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%

问:盒谐工作的原理是什么?

盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。

问:安装产品后对原传输内容有什么影响?

除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。

 

 

    ​