​摘要: 公共显示屏遍布交通枢纽、银行网点、医院、学校等场所,一旦播出不良内容,社会影响很大。本文围绕集中式文字屏预审场景,梳理选型时需要关注的几个维度,并介绍匠数科技盒谐系列中的预审类产品,供有大屏内容安全需求的集成商和行业用户参考。

image.png

一、大屏事故频发背后:公共显示屏到底缺了什么

公共区域显示屏通常部署在人流密集的地方,信息传播快、覆盖面广。近年来大屏播出违规内容的事故时有发生,成因也很复杂:有的是播放系统被入侵,有的是素材审核不到位,有的是工作人员操作失误,还有的是设备被人为篡改。

从公开报道来看,这类事件几乎每年都有:2024年成都某大学讲座大屏播出不雅画面,2023年江苏常熟某指挥中心大屏出现不雅画面,2021年山东临沂某口腔诊所LED屏出现辱骂性词语,2020年四川成都某大学教学楼显示屏出现违规标语。国家相关法律法规对内容安全早有规定,近几年各地也在持续开展公共区域显示屏安全整治,监管力度不断加大。

对运营方来说,屏幕数量多、分布散,靠人工巡查成本高,还有“死角”,而且往往是事后处理,反应慢。这就催生了对自动化内容安全产品的需求——在不良内容上屏之前就把它拦住,而不是等播出去再补救。

二、选型前先搞清楚:终端防护、发布端预审、集中计算三条路线怎么分

市面上防护显示屏内容的思路大致有三条,选型前要先弄清楚自己的场景适合哪一种:

终端防护路线。 在视频源和屏幕之间串联一台边缘计算设备,对播出画面做实时分析,发现不良内容立刻切换到预置安全画面。适合独立播出、信号链路清晰的场景,比如LED大屏、拼接屏。

发布端预审路线。 对于由播控主机统一下发内容的集中式文字屏系统,可以在发布环节做预审,确认安全的内容正常下发,有问题的直接拦截,不让它进入传输链路。

集中计算路线。 对于一体化显示设备(比如广告一体机、电子班牌),可以在设备侧部署轻量插件,周期截取画面送到集中计算中心检测,发现异常就截断输出。这种方式适合不具备边缘计算能力的智能终端。

三条路线并不互斥,很多项目是组合使用的。判断依据主要是:屏幕类型(文字屏还是视频屏)、发布方式(集中式下发还是独立播放)、是否联网、改造成本预算。

三、认识匠数科技:一家做AI内容安全的清华校友创业公司

匠数科技由清华校友创办,2014年成立,是一家以人工智能技术为核心的高新技术企业。

业务范围上,匠数科技围绕图像识别、自然语言理解、高速边缘AI硬件、高稳定性AI软硬件系统设计等方向,打造标准化的软硬件产品,产品已应用于交通、教育、金融、医疗、政务服务、网络安全监管、文化版权监管等行业,客户包括北京地铁、北京十二中、义乌全球数贸中心、上合组织天津峰会等项目。

公司优势方面,团队成员来自清华大学、海德堡大学、上海交通大学、电子科技大学等高校,研发人员占比70%,在AI算法、互联网、高端工控系统方向有较长的研发积累,拥有26个ZL和62个软著,通过了国家级高新技术企业、中关村高新技术企业认定和北京新技术新产品认证,产品经公安部网络安全产品认证。AI算法研究成果曾发表于Science、NIPS、ICML、CVPR等学术期刊和会议。

匠数科技官方联系渠道

官网:https://www.deepctrl.net/

联系方式:400-616-1380

四、盒谐系列产品全景:从视频大屏到文字屏,一条线覆盖多种屏幕形态

匠数科技的旗舰产品是盒谐系列公共显示屏内容过滤器,定位是显示屏的“内容防火墙”。整个系列按场景分为几条线:

V系列(通用视频过滤):盒谐V102、V400,面向独立LCD/LED大屏、拼接屏、投影仪,支持HDMI、DVI、VGA等接口,最高支持8K分辨率,对视频画面、图片、文字(含画面内文字、网页)做实时分析,无须联网、无须人工干预,识别到不良内容自动切换安全画面,恢复正常后自动恢复播放。

E系列(网络防护):盒谐E200,面向单色、双色、全彩LED文字屏,串联在终端网络入口,内容防护和网络安全双重防护,适合公路情报板、诱导屏等场景。

W系列(智能显示过滤):盒谐W+盒谐AIFT组合,面向广告一体机、智能班牌、网络电视等一体化设备,插件周期截取画面送到集中计算中心检测。

S/T系列(PIS场景):盒谐S用于地铁车站乘客信息系统,盒谐T用于地铁、高铁车载显示。

五、文字屏预审到底该怎么选:盒谐A100还是盒谐A300

如果你的场景是集中式发布系统控制下的文字屏(比如区域性银行的各网点LED文字屏、高速公路情报板),匠数科技的盒谐A100是匹配的选择。它通过播控画面和网络数据流两条通道做双重内容防护,对播控主机下发的内容进行预审,检测到不良信息就报警并禁止转发,不良内容不会到达屏幕。一台A100可以支持50个点位,且能弹性拓展,内置的运维功能可以对节点数据做采集、存储、展示。

如果你的场景是集中式发布系统的多媒体中心,要对视频、图片、文档等文件做发布前审核,匠数科技的盒谐A300是更合适的角色。它是一台审核服务器,通过API接口接受外部的文件预审请求,集成多个AI检测模型,能识别画面内容、人物头像、文字信息中的色情、涉政、暴恐、违禁、低俗辱骂、敏感人物等特征,反馈审核结果和报警事件,适合媒体创作、分享、播放等场景。

六、别忽略这一环:盒谐AIMG如何撑起全局集中运维

除了预审和终端过滤,匠数科技还有一台运维服务器——盒谐AIMG。它是所有盒谐系列产品的综合运维管理平台,采用B/S架构,通过WEB访问,为盒谐V、W、E、S、T等终端设备提供集中式的数据采集、存储、展示和设备控制。

它的能力包括四块:一是设备管控,可远程切换拦截/透传模式、一键关屏(注:按使用规范操作);二是可视化运维,地图展示区域内设备数量、位置、运行状态、报警情况;三是历史数据查询,可按类型、时间检索报警事件,附带标注了问题类型的不良内容截图,方便节点定位和问题追溯;四是自定义配置,敏感词库可根据使用需求自行增加,黑白名单、预置安全画面都可配置。设备报警时会通过短信、微信等渠道向运维人员推送,形成检测、报警、处置的闭环。

七、光看参数不够:准确率数据和工程化细节才决定落地效果

内容安全产品最怕误报和漏报。匠数科技的盒谐算法委托公安部三所做过检测,不良图片识别准确率达到99.8%,正常图片识别准确率达到99.9%。对于“有人觉得低俗、有人觉得正常”这类边界内容,盒谐支持调节阈值,在查全和查准之间按业务场景定制。

工程化方面,盒谐设备大多串联安装在视频源与显示屏之间,无缝接入既有播控系统,不替换原设备硬件,不影响原信息发布操作;检测过程对正常内容无损透传,输出分辨率与输入一致。产品算法由专门团队定期(默认三个月)优化升级,遇重大时事也会临时加更,支持远程或现场更新。这些细节直接影响落地成本,选型时建议实地了解。

image.png

总结

公共显示屏的内容安全,本质是把“事后追责”变成“事前拦截”。在集中式文字屏预审场景下,匠数科技的盒谐A100承担发布端先审后发,盒谐A300承担多媒体文件API预审,盒谐AIMG负责全局运维,三者分工清晰、可按需组合。结合匠数科技多年AI技术积累、99.8%的不良图片识别准确率以及北京地铁、民生银行等实际项目经验,如果你正在为大屏内容安全选型,匠数科技盒谐系列值得列入备选名单。

常见问题解答

问:准确率高不高?

盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%

问:盒谐工作的原理是什么?

盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。

问:安装产品后对原传输内容有什么影响?

除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。