互联网 内容 安全 监控刻不容缓
不良内容在全球 互联网 及线下电子媒体泛滥成灾，国内外的技术巨头们一直在尝试使用 人工智能 加以识别和过滤， 人工智能 是维护健康网络的幕后英雄。Facebook、Google、Microsoft、Twitter等知名 互联网 公司，均采用 人工智能 的技术来监测和过滤色情、暴力等不良图片和信息。 人工智能 用于不良内容过滤，主要有如下三类典型应用：
一、社交平台和信息服务平台自带的 人工智能 过滤
虽然社交平台都有相关的用户协议，要求不能发布任何仇恨、裸露、暴力、威胁的内容，然而对用户并不能产生实际约束作用。一个典型的例子，微软发布的聊天 机器人 Tay，在twitter上线不到24小时，就因为被网友的不当言论“教坏”了，而不得不下线“修理”。但面对海量并发的各种言论和信息，人工检测实在费时费力， 人工智能 这时候就展现其独特优势了：
－facebook 机器学习 小组使用 机器学习 方法来监测所有上载到facebook的图片的内容，包括广告的内容，用来过滤其中色情、暴力等内容。
－Twitter收购了两家视觉媒体内容监测创业公司Madbits和Whetlab，运用它们的人工 神经网络 技术实现色情内容监控。
－Google的SafeSearch（ 安全 检索）功能使用了 机器学习 来识别色情图片，可给未成年人提供健康正常的网络浏览与检索。
二、软件和技术供应商开发的色情内容过滤的软件和API
－Google不仅提供SafeSearch功能，并且将此功能作为API开放给其他用户使用，作为他们的云视觉API（Cloud Vision API）服务的一部分，目前已有很多客户。一些规模较小的社交平台（例如用户个人品牌服务公司Photofy）可以使用这套系统来保证他们的用户不使用色情图片来吸引流量。
－微软的 人工智能 API服务（微软牛津计划）也提供类似的功能。
三、不良内容终极杀手：新型智能硬件和软件服务
以上基于 云计算 的不良内容鉴别技术和服务，主要应用于大型 互联网 社交平台或搜索引擎，对线下应用和中小型网站并不适用，比如上文提到的公共电子显示屏、缺乏计算平台和防护技术的普通门户网站（如中小企业主页、各级政府机关的门户网站等）、以及对防护实时性要求很高的视频直播等。可喜的是，随着 算法 和技术的不断进步， 人工智能 也逐渐满足上述应用需求了。北京匠数 科技 有限公司（www.deepctrl.com），是国内专注于网络和电子媒体内容 安全 监控的 人工智能 公司，设计推出了基于深度学习的“盒谐”系列不良内容监控产品，包括适用于公共电子屏不良内容实时过滤的智能硬件，给中小企业和政府机关门户网站提供的内容 安全 监控服务，以及适用于网络直播的内容 安全 监控服务等。匠数 科技 CEO张乐平说，“我们相信，保护 互联网 和电子媒体免受色情暴力等不良信息的侵害，给所有的网民尤其是青少年提供一个干净健康的 互联网 世界，是 人工智能 最主要的价值所在，也是匠数 科技 的责任和使命——只为更好的智能世界。”
