1. 清空历史=真正清空(不再只是删行留痕): - 清空前先停止所有运行中测试线程,避免其继续写入孤儿数据 - DELETE 后重置自增序列(sqlite_sequence),新测试 ID 从 1 开始 - WAL checkpoint(TRUNCATE) + VACUUM 物理回收文件空间,数据不可恢复 - 单条删除删光时同样重置自增序列 2. 慢接口被掐断修复(预处理/首字耗时过长 Read timed out): - 读取超时默认 300s→1800s(30分钟),连接 60s - 「速度测试配置」新增 请求超时(秒) 输入框(默认1800),测试连接+速度采样共用,按次可调(如3600) - 超时错误改为友好提示:等待响应超时(超过N秒未收到数据),引导调大请求超时,不再裸抛 Read timed out - 测试启动日志打印当前超时配置 - 修复案例: 18008 Qwen3.8-FP8 131072 长上下文预填充被 300s 掐断
21 lines
810 B
Python
21 lines
810 B
Python
# -*- coding: utf-8 -*-
|
|
"""全局配置"""
|
|
import os
|
|
|
|
PORT = 16097
|
|
HOST = "0.0.0.0"
|
|
|
|
BASE_DIR = os.path.dirname(os.path.abspath(__file__))
|
|
DATA_DIR = os.path.join(BASE_DIR, "data")
|
|
LOG_DIR = os.path.join(BASE_DIR, "logs")
|
|
DB_PATH = os.path.join(DATA_DIR, "llm_speed_tester.db")
|
|
|
|
# 流式请求超时:连接 60s,两次数据包间隔最长 1800s(30 分钟)
|
|
# 注意:慢接口长上下文预处理(预填充)期间服务端可能长时间不返回任何字节,
|
|
# 等待首字受 STREAM_READ_TIMEOUT 限制;如接口更慢可在「速度测试配置」里按次调大请求超时。
|
|
CONNECT_TIMEOUT = 60
|
|
STREAM_READ_TIMEOUT = 1800
|
|
|
|
# data-chart-tool 图表服务地址(用它的 /api/chart 画折线图:预填充左轴虚线 / 解码右轴实线)
|
|
CHART_API_BASE = "http://127.0.0.1:16016"
|