210 lines
3.3 KiB
Markdown
210 lines
3.3 KiB
Markdown
|
|
# AI 审核 API 文档
|
|||
|
|
|
|||
|
|
## 概述
|
|||
|
|
|
|||
|
|
AI 审核模块提供自动内容审核功能,支持文章、评论、特色服务的自动审核。
|
|||
|
|
|
|||
|
|
## 功能特性
|
|||
|
|
|
|||
|
|
- ✅ 敏感词检测
|
|||
|
|
- ✅ 广告内容检测
|
|||
|
|
- ✅ 内容质量评估
|
|||
|
|
- ✅ 自动审核决策
|
|||
|
|
|
|||
|
|
## API 端点
|
|||
|
|
|
|||
|
|
### 1. 审核文章
|
|||
|
|
|
|||
|
|
**端点**: `POST /api/audit/article/`
|
|||
|
|
|
|||
|
|
**认证**: 需要 JWT Token
|
|||
|
|
|
|||
|
|
**请求体**:
|
|||
|
|
```json
|
|||
|
|
{
|
|||
|
|
"title": "文章标题",
|
|||
|
|
"content": "文章内容"
|
|||
|
|
}
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
**响应**:
|
|||
|
|
```json
|
|||
|
|
{
|
|||
|
|
"approved": true,
|
|||
|
|
"reason": "审核通过",
|
|||
|
|
"details": {
|
|||
|
|
"quality_score": 100
|
|||
|
|
}
|
|||
|
|
}
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
**拒绝示例**:
|
|||
|
|
```json
|
|||
|
|
{
|
|||
|
|
"approved": false,
|
|||
|
|
"reason": "内容包含敏感词:暴力",
|
|||
|
|
"details": {
|
|||
|
|
"sensitive_words": ["暴力"]
|
|||
|
|
}
|
|||
|
|
}
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
### 2. 审核评论
|
|||
|
|
|
|||
|
|
**端点**: `POST /api/audit/comment/`
|
|||
|
|
|
|||
|
|
**认证**: 需要 JWT Token
|
|||
|
|
|
|||
|
|
**请求体**:
|
|||
|
|
```json
|
|||
|
|
{
|
|||
|
|
"content": "评论内容"
|
|||
|
|
}
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
**响应**:
|
|||
|
|
```json
|
|||
|
|
{
|
|||
|
|
"approved": true,
|
|||
|
|
"reason": "审核通过"
|
|||
|
|
}
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
### 3. 审核特色服务
|
|||
|
|
|
|||
|
|
**端点**: `POST /api/audit/service/`
|
|||
|
|
|
|||
|
|
**认证**: 需要 JWT Token
|
|||
|
|
|
|||
|
|
**请求体**:
|
|||
|
|
```json
|
|||
|
|
{
|
|||
|
|
"name": "服务名称",
|
|||
|
|
"description": "服务描述"
|
|||
|
|
}
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
**响应**:
|
|||
|
|
```json
|
|||
|
|
{
|
|||
|
|
"approved": true,
|
|||
|
|
"reason": "审核通过"
|
|||
|
|
}
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
### 4. 审核服务状态
|
|||
|
|
|
|||
|
|
**端点**: `GET /api/audit/status/`
|
|||
|
|
|
|||
|
|
**认证**: 需要 JWT Token
|
|||
|
|
|
|||
|
|
**响应**:
|
|||
|
|
```json
|
|||
|
|
{
|
|||
|
|
"status": "active",
|
|||
|
|
"service": "AI Audit Service",
|
|||
|
|
"version": "1.0.0",
|
|||
|
|
"features": [
|
|||
|
|
"敏感词检测",
|
|||
|
|
"广告检测",
|
|||
|
|
"内容质量评估"
|
|||
|
|
]
|
|||
|
|
}
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
## 测试用例
|
|||
|
|
|
|||
|
|
| 测试 | 输入 | 预期结果 | 状态 |
|
|||
|
|
|------|------|----------|------|
|
|||
|
|
| 文章审核 (正常) | 北京旅游攻略 | ✅ 通过 | ✅ |
|
|||
|
|
| 文章审核 (敏感词) | 包含暴力内容 | ❌ 拒绝 | ✅ |
|
|||
|
|
| 评论审核 (广告) | 加微信 123456 | ❌ 拒绝 | ✅ |
|
|||
|
|
| 服务审核 (正常) | 老北京烤鸭店 | ✅ 通过 | ✅ |
|
|||
|
|
| 内容质量 (太短) | 好 | ❌ 拒绝 | ✅ |
|
|||
|
|
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
## 敏感词库
|
|||
|
|
|
|||
|
|
当前敏感词库包含:
|
|||
|
|
- 暴力、恐怖、色情、赌博、毒品
|
|||
|
|
- 诈骗、传销、假币、枪支、弹药
|
|||
|
|
|
|||
|
|
## 广告关键词
|
|||
|
|
|
|||
|
|
- 加微信、QQ 群、联系电话、手机号
|
|||
|
|
- www.、.com、.cn、http
|
|||
|
|
|
|||
|
|
## 内容质量规则
|
|||
|
|
|
|||
|
|
- 最小长度:10 个字符
|
|||
|
|
- 重复字符检测
|
|||
|
|
- 中文内容比例检查
|
|||
|
|
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
## 集成示例
|
|||
|
|
|
|||
|
|
### Python 示例
|
|||
|
|
|
|||
|
|
```python
|
|||
|
|
import requests
|
|||
|
|
|
|||
|
|
TOKEN = 'your_jwt_token'
|
|||
|
|
HEADERS = {
|
|||
|
|
'Authorization': f'Bearer {TOKEN}',
|
|||
|
|
'Content-Type': 'application/json'
|
|||
|
|
}
|
|||
|
|
|
|||
|
|
# 审核文章
|
|||
|
|
response = requests.post(
|
|||
|
|
'http://cssc.datalibstar.com/api/audit/article/',
|
|||
|
|
headers=HEADERS,
|
|||
|
|
json={
|
|||
|
|
'title': '北京旅游攻略',
|
|||
|
|
'content': '北京是中国的首都...'
|
|||
|
|
}
|
|||
|
|
)
|
|||
|
|
result = response.json()
|
|||
|
|
print(result['approved']) # True/False
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
### JavaScript 示例
|
|||
|
|
|
|||
|
|
```javascript
|
|||
|
|
const TOKEN = 'your_jwt_token';
|
|||
|
|
|
|||
|
|
// 审核文章
|
|||
|
|
fetch('http://cssc.datalibstar.com/api/audit/article/', {
|
|||
|
|
method: 'POST',
|
|||
|
|
headers: {
|
|||
|
|
'Authorization': `Bearer ${TOKEN}`,
|
|||
|
|
'Content-Type': 'application/json'
|
|||
|
|
},
|
|||
|
|
body: JSON.stringify({
|
|||
|
|
title: '北京旅游攻略',
|
|||
|
|
content: '北京是中国的首都...'
|
|||
|
|
})
|
|||
|
|
})
|
|||
|
|
.then(res => res.json())
|
|||
|
|
.then(data => {
|
|||
|
|
console.log(data.approved); // True/False
|
|||
|
|
});
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
## 部署状态
|
|||
|
|
|
|||
|
|
- ✅ 本地开发环境
|
|||
|
|
- ✅ 云服务器 (cssc.datalibstar.com)
|
|||
|
|
- ✅ 所有测试用例通过
|