直播和社交app发展至今，已成为很多互联网创业者手里的香饽饽。是平台运营方最关心的，还是网络互动直播平台的安全问题。涉及到擦边内容，很容易受到相关门的处罚，程序的不稳定也会造成客户流失。对于直播内容审核，单纯依靠人工监控，效率极低，也会出现审核不到位的情况。

在个人直播录制、UGC 短视频等场景中，视频内容是不可预知的。为了避免一些违规内容出现在点播平台上，开发者会要求先对上传的视频做审核，确认合规后再进行转码和分发。腾讯云短视频解决方案支持对视频进行 AI 鉴黄，自动识别视频是否涉及色情内容。

AI 鉴黄功能需要集成在视频处理任务流中使用，检查结果通过事件通知的方式来通知 App 后台服务。云点播内置了一个任务流 QCVB_ProcessUGCFile 用于 UGC 短视频鉴黄场景，当用户使用该任务流并指定进行 AI 鉴黄时，鉴黄操作将优先执行，并根据鉴黄结果来决定是否进行后续处理（转码、打水印和截图等）。流程图如下：

AI鉴定接入示例

【步骤一】在生成上传签名时提交 AI 鉴黄任务

【步骤二】在获事件通知时获取 AI 鉴黄结果

整体流程：

1.在控制台或者直接调用云 API 配置直播截图功能。

2.进行直播推流。

3.截图服务根据配置生成截图数据，存储于对象存储系统。

4.生成的截图的相关信息以回调形式通知到您。

AI技术应用——强力审核

目前AI技术在直播和短视频领域就有着广泛的应用，例如直播和短视频平台中的内容推荐机制、动态贴纸特效等，都是AI技术的直接应用。这些应用，进一步提升了用户的产品体验。除了这些应用以外，AI技术在直播安全和视频内容审核方面也发挥了重要的作用。

例如，百度云针对于行业痛点，结合人工智能技术推出了语音识别、图片审核、文本审核、视频审核、视频内容分析等解决方案。这些方案可以应用在直播监控系统上，对直播内容进行深入的分析审核，从而大大降低人工审核成本，提升审核效率。

随着直播app制作的技术门槛逐渐降低，很多中小型直播平台出现了。但在平台安全问题的解决上，依旧沿用了直播监控系统。今年，AI技术下的很多方案将慢慢普及，而且费用相对来说不是很高，逐渐会被运营方所接受。实时鉴黄，可以为运营者的平台保驾护航，如果你也感兴趣想了解直播、一对一交友app、短视频系统，可以和我聊聊：布谷科技  技术搭建V:157-5385-7573 QQ:3476-88-5858

今年，国内多家互联网公司加紧了在AI领域的布局和研究。不久的将来，AI技术在内容审核方面会发挥更大的作用，届时也会得到全面的普及，直播app制作是否会得到加持呢？让我们拭目以待！