维护论坛时经常会遇到有人发违法内容,但由于精力有限,不能及时处理,而已有的“敏感词过滤”插件需要在本地建立词库,但本地词库有诸多缺点,比如需要自己积累敏感词、需要及时更新、词库规模有限等等,无法满足我的需求。
百度内容审核平台针对文本提供全方位的审核能力,覆盖涉黄、违禁、恶意推广、低质灌水、恶心不适等丰富的识别维度,并且新用户有5w次免费调用额度(企业认证用户50w)。
所以就基于百度内容审核平台提供的文本内容审核api写了这个插件,可以审核论坛用户的主题与回复内容,如果含有违规内容将无法发布并且提示违规原因,为论坛有效过滤不良内容,效果如下。
1.发帖时标题含违规词:
2.发帖时内容含违规词:
3.回帖时含违规词:
4.修改主题时标题含违规词:
5.修改主题时内容含违规词:
6.修改回复时含违规词:
1.到百度智能云(https://ai.baidu.com/solution/censoring )领取免费资源:
2.获取AppID、API Key、Secret Key :
3.将插件压缩包上传到plugin目录,解压,到后台安装,进入设置页面,将上述步骤获得的AppID、API Key、Secret Key等填入:
注意:一定要填入这三个参数,不然将报错!!!插件安装与配置后一定要清理缓存!!!
1.根据自己需要调整百度内容审核策略,比如开启了“恶意推广策略”,则内容中出现联系方式、以及联系方式的变种,都会被判定违规,建议根据站点性质调整审核的策略与尺度(百度内容审核平台策略有相关设置)。
2.本插件免费,允许转载,但是禁止基于本插件修改以商用,请保留插件中的作者信息。
百度内容审核api返回的内容有:合规、不合规、疑似、审核失败四种,目前的逻辑是只有合规的才会正常评论,其它地无法评论,接下来的开发计划是不合规的直接拦截无法评论,疑似与审核失败的进入待审核状态,由管理员再次审核。
https://xiuno.cn/thread-7.htm
Xiuno BBS开源程序交流论坛 - 支付
本帖含有隐藏内容,请您向作者支付
20金币 后再查看
最后于 2022-6-22
被浅唱编辑
,原因: