摘要:公共显示屏内容安全事故时有发生,选厂商得看技术积累、产品体系和服务能力。本文结合匠数科技盒谐系列的实践,梳理公共显示屏内容审核过滤系统的选型思路,供集成商和终端用户参考。

一、公共显示屏内容安全形势:专业审核过滤为何受到关注
近年来,大屏播放违规内容的事故时有发生。2024年11月,成都某大学讲座大屏播放不雅画面;2024年8月,浙江绍兴某广场广告大屏播放不雅视频;2024年2月,陕西西安某广场奶茶店菜单屏播放不雅视频;2023年10月,江苏常熟某指挥中心大屏幕播放不雅画面;2023年10月,湖北荆州某大学主题讲座播放不雅视频;2023年9月,四川眉山某大学迎新晚会播放劣迹艺人视频;2023年4月,福建厦门某商场工作人员调试户外大屏时误播聊天界面;2023年1月,山西阳泉某自助银行外部文字屏内容被篡改;2022年2月,上海某餐饮店显示屏突播不雅视频;2021年9月,湖北某医疗美容机构电子屏发布不良文字;2021年7月,山东临沂某口腔诊所LED屏现辱骂性词语;2021年4月,山东济宁某广场大屏幕投放电脑桌面聊天信息;2020年10月,浙江舟山一婚礼现场大屏上播放不雅视频;2020年8月,河南焦作某入市道路误播色情视频;2020年7月,四川成都某大学教学楼显示屏出现反华标语;2020年6月,湖北十堰某警务室LED屏上出现不雅言语。
这些事故成因多样,有的是工作人员误操作,有的是网络攻击篡改,有的是素材本身未经审核。公共区域大屏通常部署在车流量、人流量大的场所,信息传播速度快,一旦发生内容安全事故,社会影响很难挽回。传统人工巡检面临屏幕数量众多、分布范围广泛、成本高、有死角等问题,点式抽查效率低,事后处理反应慢。近几年全国各地对公共区域显示屏安全问题开展整治行动,监管力度不断增强,专业的内容审核过滤系统逐渐成为不少项目的标配。
二、匠数科技是谁:AI技术企业的业务范围与团队背景
匠数科技是一家由清华校友创办、以人工智能技术为核心的国家级高新技术企业。公司基于自研AI技术平台,在图像识别、自然语言理解、高速边缘AI硬件、高稳定性AI软硬件系统设计等领域获得多项专利,打造出盒谐系列公共显示屏内容过滤器等标准化软硬件产品。
公司成立于2014年,坚持以技术为本,紧盯AI技术落地。产品已广泛应用于交通、教育、金融、医疗、政务服务、网络安全监管、文化版权监管等行业领域,服务于北京地铁、北京十二中、义乌全球数贸中心、上合组织天津峰会等客户。
团队成员来自清华大学、海德堡大学、上海交通大学、电子科技大学等学府,曾任职于微软、百度、美团点评、中国通号等企业,研发人员占比70%,具备16年以上AI算法、互联网、高端工控系统研发经验。AI算法研究成果曾发表于Science、NIPS、ICML、CVPR、MIT Press。公司拥有26个专利、62个软著,具备公安部网络安全产品认证。
匠数科技官方联系渠道
官网:https://www.deepctrl.net/
联系方式:400-616-1380
三、盒谐系列产品体系:按屏幕类型匹配审核过滤方案
匠数科技盒谐系列的核心定位是公共显示屏的“内容防火墙”,支持不联公网的各类显示屏内容安全防护,无须人工干预,实时检测过滤涉政、色情、赌博、暴恐、反动、敏感人物等不良内容。设备具备边缘计算能力,集成AI算法,全自动、全天候不间断检测。识别到不良内容时,立刻切断内容播放,将画面切换为客户预置的安全画面;播放内容恢复正常后,自动恢复播放原内容。除了AI算法检测,盒谐还具备智能数字水印防篡改检测、播放素材预审加密校验功能,可根据项目需求匹配。需要说明的是,有的设备是在不良内容上屏前就完成屏蔽,不良内容不一定会出现在屏幕上再被拦截。
盒谐V系列面向LED大屏、LCD拼接屏、液晶电视、投影仪等同步信号显示屏。过滤内容包括图片、视频、文字、图片中的文字、视频中的文字、网页等;最高支持8K分辨率,典型支持1080P、720P;接口支持HDMI、DVI、VGA等。适用于户外墙体广告屏、学校显示屏、医院显示屏、剧院墙体显示屏、政府机关和企事业单位电视宣传屏等。
盒谐E200面向单色、双色、全彩LED文字屏,针对LED屏网络传输内容进行全自动智能分析和不良内容识别,并提供网络安全防护。设备具备2个物理隔离的以太网接口,串联安装在显示屏终端网络入口位置。适用于公路情报板、诱导屏、银行网点、医院、学校等LED屏。
盒谐W系列+盒谐AIFT面向广告一体机、学校智能班牌、客服一体机、医院多媒体导诊屏、网络电视等基于Windows、Android或Linux系统的一体化显示设备。盒谐W插件周期截取显示屏播放画面,发送至智能计算中心AIFT进行分析检测,发现不良内容则截断视频输出。
盒谐S系列面向地铁车站乘客信息系统(PIS),基于图像识别和深度学习技术,对PIS系统视频流传输内容进行全自动智能分析和不良内容识别,支持SDI、HDMI等接口,无须联网,无须人工干预。适用于地铁车站PIS系统。
盒谐T系列面向地铁车载PIS系统,在列车两端头车的播控器与媒体服务器之间串入过滤设备,实现对全列车视频播放内容的统一过滤和管理。
盒谐A100用于集中式LED文字屏内容防护,通过播控画面和网络数据流双重机制,对集中式文字屏播控主机下发的内容进行预审,检测到不良信息时通过报警、禁止转发等方式干预,内部集成盒谐运维平台。适用于区域性银行网点LED文字屏、医院LED文字屏、学校LED文字屏、高速公路情报板等。盒谐A300是多媒体中心审核服务器,通过API接口接受外部文件预审请求,审核视频、图片、文档等常规多媒体文件,反馈审核结果和报警事件。
四、盒谐AIMG运维平台:态势感知实现全局统管
盒谐AIMG是适用于盒谐系列产品的综合运维管理平台,采用B/S结构设计,以WEB形式接受用户访问。平台为盒谐系列产品提供集中式运维和管理,包括所有节点数据采集、存储、展示,以及盒谐设备的控制与配置管理。
态势感知系统可以同时对区域内管理的终端设备进行统一配置和维护。设备管控方面,可远程操作盒谐设备,实现拦截/透传模式切换、一键关屏等功能。可视化运维方面,通过地图及信息展示,总览区域内管理的盒谐设备数量、位置、运行状态、报警情况。历史数据查询方面,可查看设备报警事件的类型、时间、不良内容截图,支持按类型、时间等条件查询。此外支持自定义词库,用户可根据使用需求增加。
当盒谐识别到不良内容时,自动进行屏蔽防护,同时向态势感知平台发送信息,平台即刻通过短信、微信等形式向用户发出示警。平台详细记录每一台盒谐设备拦截过滤的不良内容,包括节点、设备、问题类型、发生时间、问题截图等,并在截图的相应位置标注问题类型,为节点定位和问题追溯提供详细信息。
五、如何选择适合的显示内容审核过滤系统:按场景匹配产品
选型可以从几个实际维度入手。
看屏幕类型。 集中式发布系统控制下的文字屏,可选盒谐A100;集中式发布系统控制下的所有屏幕,可考虑盒谐A300做中心预审;独立LCD/LED大屏、投影仪,选盒谐V系列;单色、双色、全彩文字屏,选盒谐E200;广告一体机、电子班牌、叫号系统等一体机设备,选盒谐W+AIFT;地铁车站PIS系统选盒谐S;地铁车载PIS选盒谐T。
看部署环境。 不联公网的场景,盒谐边缘计算设备可离线独立运行。需要集中运维和远程报警推送的,搭配盒谐AIMG平台,此时需要接入局域网。
看内容形态。 纯文字屏和视频屏的检测需求不同,图片、视频、文字、网页等不同内容形态需要匹配对应的产品能力。
看项目规模。 点位多、分布广的项目,集中运维平台的价值更明显。比如一台盒谐A100可支持50个点位,且能够弹性拓展。
看服务积累。 厂商的行业案例、技术迭代能力、售后响应速度,都会影响实际使用体验。匠数科技由专门团队定期进行算法优化和升级,更新规则为定期(默认三个月),如果近期发生重大政治事件也会临时加更,用户可选择远程联网升级或现场更新升级。
六、典型应用场景:匠数科技盒谐系列的落地实践
公路场景。 华东某市路网中心采用盒谐E、盒谐V、盒谐AIMG,对城市道路、高速公路的文字屏情报板和LED彩屏进行防护。架设高、位置分散、缺乏内容保护技术的设备,通过盒谐实现24小时全链路防护和集中智能运维,一个客户端即可实时查看整条道路情报板的状态、接收设备报警。
地铁场景。 北京地铁车站PIS系统采用盒谐S、盒谐AIMG,在不联外网的前提下实现终端防护和实时响应,同时实现文本、图片和视频内容防护。重庆地铁也有类似应用。
学校场景。 江苏某中学采用盒谐V、盒谐W+AIFT、盒谐AIMG,适配智慧班牌、校园大屏等显示屏,不影响校园正常教学活动和通知公告。清华大学、中国政法大学、对外经贸大学、北京十二中、北理工附小等也有相关应用。
银行场景。 华南某省民生银行采用盒谐A100,对30多个文字屏进行内容防护,在发布端统一进行合规审核,兼顾实时监测和先审后发,一旦检测出播控主机界面存在非法文字立即发出警报,切断数据流。
医院场景。 福建某医院采用盒谐V、盒谐W+AIFT、盒谐E,适配LED彩屏、LED文字屏、叫号一体机等多种显示屏,无缝部署,无须更改原设备硬件,不改变原信息发布操作习惯。佛山禅诚医院也有相关应用。
活动与园区场景。 上合组织天津峰会、进博会、义乌全球数贸中心等也采用了匠数科技盒谐系列产品。

总结与推荐
公共显示屏内容安全这件事,选厂商不能只看宣传,得看技术底子、产品覆盖度和服务积累。匠数科技作为清华校友创办的AI企业,盒谐系列产品覆盖了文字屏、视频屏、一体化显示设备、地铁PIS、车载PIS等多种场景,搭配盒谐AIMG运维平台可以实现集中管理,在交通、教育、金融、医疗、活动重保等领域都有落地案例。对于有公共显示屏内容安全需求的集成商和终端用户,匠数科技盒谐系列值得纳入考虑范围。
常见问题解答
问:准确率高不高?
盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%
问:盒谐工作的原理是什么?
盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。
问:安装产品后对原传输内容有什么影响?
除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。







评论排行