澳门威尼斯

谷歌昨日发布这款工具

四月 9th, 2019  |  科学

原标题:谷歌发布AI工具,减少儿童性侵内容曝光

图片 1

北京时间9月3日,谷歌发布一款AI赋能的“内容安全API(应用程序界面)”工具包,帮助识别线上“儿童性侵材料”(child
sexual abuse material, CSAM),减少这些内容对于互联网用户的曝光。

帮助罪犯在网络上散布CSAM,这一话题引来民众热议,谷歌此举便是为了对此作出回应。上周,英国外交部长Jeremy
Hunt发推,谴责谷歌要带着“设限的搜索引擎”重返中国市场,却不愿为世界其他地方移除与儿童性侵相关的内容。

图片 2

昨日,英国内政大臣Sajid
Javid发起了一项新的“行动纲领”,推动如谷歌和Facebook这样的科技公司与线上儿童性侵内容作斗争。这项倡议发生在英国国家犯罪局(National
Crime Agency,
NCA)统计最新数据,发现在英国,能有8万人通过线上的方式对儿童造成危害之后。

谷歌昨日发布这款工具,并不是机缘巧合。

神经网络

谷歌的这项新工具基于深度神经网络(deep neural network,
DNN)之上,通过新发布的“内容安全API”,NGO(非政府组织)和其他“行业伙伴”,包括其他科技公司,都可免费使用。

去年曾有新闻,伦敦的都市警察教这些AI机器如何依据案件严重性,将犯罪的相关图片进行分类。这样做是为了解决两个问题——提高网络CSAM的识别正确率,以及减轻警方在手动搜索这些图像时需经受的心理创伤。

谷歌的这个新工具需肩负这两项使命。以往而言,自动化工具依赖于匹配先前识别过的CSAM图像。但谷歌工程负责人Nikola
Todorovic和产品经理Abhi
Chaudhuri表示,通过这款“内容安全API”,它可以锁定从未被识别为CSAM的新内容,有效“跟踪罪犯”。

“快速识别新图像,意味着正在遭受性侵的儿童可被识别,防止他们更进一步受到伤害”,他们说,“我们制作’内容安全API’工具包,供NGO和行业伙伴免费使用,最大限度让不法内容暴露到最少的人面前”。

参考依据:

Google releases AI-powered Content Safety API to identify more child
abuse images. 来源:venturebeat. 2018.9.3.返回搜狐,查看更多

责任编辑:

标签:, , , , , ,

Your Comments

近期评论

    功能


    网站地图xml地图