Files
ai-chat-system/README.md

151 lines
5.4 KiB
Markdown
Raw Normal View History

# AI 对话系统 v2.0
2026-04-11 11:52:23 +08:00
支持网页端和Matrix端实时同步对话的AI聊天系统。
## v2.0.0 新功能
2026-04-11 11:52:23 +08:00
### 🎯 核心架构重构
2026-04-11 11:52:23 +08:00
- **大模型池管理**支持配置多个LLM ProviderAgent可选择使用哪个
- **Agent管理**每个Agent可独立配置系统设定、思考功能开关
- **渠道独立绑定**网页端和Matrix可绑定不同的Agent或同一个Agent
- **思考功能**:支持原生思考模型,兼容无思考功能的大模型
### 📊 系统架构
2026-04-11 11:52:23 +08:00
```
┌─────────────────────────────────────────────────────────────────────┐
│ 大模型池 (LLMProvider) │
│ 多个LLM API配置支持思考功能检测 │
└─────────────────────────────────────────────────────────────────────┘
↓ 被选择
┌─────────────────────────────────────────────────────────────────────┐
│ Agent │
│ 系统设定、思考开关、思考提示词、大模型选择 │
└─────────────────────────────────────────────────────────────────────┘
↓ 映射绑定
┌─────────────────────────────────────────────────────────────────────┐
│ 渠道 (Channel) │
│ 网页端、Matrix端各自独立配置 │
└─────────────────────────────────────────────────────────────────────┘
2026-04-11 11:52:23 +08:00
```
## 端口分配
- 19020: 主服务(网页端 + API + Matrix Bot
2026-04-11 11:52:23 +08:00
## 快速启动
```bash
# v2.0 启动
./start_v2.sh
2026-04-11 11:52:23 +08:00
# 检查状态
./status.sh
# 停止服务
./stop.sh
```
## 后台管理
访问 http://localhost:19020/admin
2026-04-11 11:52:23 +08:00
### 管理功能
2026-04-11 11:52:23 +08:00
1. **大模型池管理**
- 添加/编辑/删除LLM Provider
- 测试API连接
- 获取可用模型列表
- 配置思考功能支持
2026-04-11 11:52:23 +08:00
2. **Agent管理**
- 创建多个Agent
- 配置系统设定System Prompt
- 开关思考功能
- 选择大模型池
3. **渠道管理**
- 网页端/Matrix独立配置
- 绑定Agent支持优先级/条件)
- Matrix Bot配置
2026-04-11 11:52:23 +08:00
## API接口
### v2 新增API
```
# 大模型池
GET /api/v2/providers # 获取所有Provider
POST /api/v2/providers # 创建Provider
PUT /api/v2/providers/{id} # 更新Provider
DELETE /api/v2/providers/{id} # 删除Provider
POST /api/v2/providers/models # 获取API模型列表
POST /api/v2/providers/test # 测试API连接
# Agent
GET /api/v2/agents # 获取所有Agent
POST /api/v2/agents # 创建Agent
PUT /api/v2/agents/{id} # 更新Agent
DELETE /api/v2/agents/{id} # 删除Agent
POST /api/v2/agents/{id}/default # 设为默认Agent
GET /api/v2/agents/{id}/config # 获取Agent完整配置
# 渠道
GET /api/v2/channels # 获取所有渠道
POST /api/v2/channels # 创建渠道
PUT /api/v2/channels/{id} # 更新渠道
PUT /api/v2/channels/{id}/config # 更新渠道配置
POST /api/v2/channels/bind # 绑定Agent
DELETE /api/v2/channels/unbind/{id} # 解绑Agent
```
### 原有API兼容
```
GET /api/conversations # 获取会话列表
GET /api/conversations/latest # 获取最新会话
POST /api/conversations # 创建新会话
GET /api/conversations/{id}/messages # 获取消息
DELETE /api/conversations/{id} # 删除会话
GET /api/admin/stats # 统计数据
```
## 思考功能
2026-04-11 11:52:23 +08:00
### 配置方式
2026-04-11 11:52:23 +08:00
1. **原生支持**某些模型原生支持思考如DeepSeek R1
- Provider配置 `supports_thinking: true`
- 可配置专门的 `thinking_model`
2026-04-11 11:52:23 +08:00
2. **兼容模式**:不支持原生思考的模型
- Agent配置 `thinking_prompt` 思考提示词
- 配置 `thinking_prefix`/`thinking_suffix` 识别思考内容
- 系统会将思考提示添加到System Prompt
### Matrix命令
```
/new # 创建新会话
/agent <name> # 切换Agent
/thinking on # 开启思考功能
/thinking off # 关闭思考功能
```
2026-04-11 11:52:23 +08:00
## 技术栈
- **后端**: FastAPI + WebSocket
- **数据库**: SQLite (SQLAlchemy) + 新增v2模型
- **Matrix**: matrix-nio (支持加密)
- **前端**: Bootstrap 5 + 原生JavaScript
- **AI**: 可配置多个LLM API
2026-04-11 11:52:23 +08:00
## 仓库地址
http://192.168.2.8:12007/coder/ai-chat-system
## 版本历史
- v2.0.0 (2026-04-12): 架构重构大模型池、Agent管理、渠道独立绑定、思考功能
- v1.0.0: 基础版本,网页端+Matrix同步对话