 hz4th_coder
|
76e24c4fa3
|
新增搜索标题和网页标题双字段
- 数据库新增 search_title 字段存储搜索结果标题
- product_names 存储抓取到的网页标题
- 搜索页面显示两个标题（搜索标题 + 网页标题）
- 内容库页面也显示两个标题
|
2026-07-14 00:00:50 +08:00 |
|
|
hz4th_coder
|
d23d526629
|
修复搜索和重复检查问题
1. 搜索文章时增加URL字段搜索，解决重复抓取问题
2. 优化搜索结果解析，多获取几个结果确保返回足够数量
|
2026-07-13 23:51:23 +08:00 |
|
|
hz4th_coder
|
24f0d3c35b
|
修复搜索抓取相关问题
1. 放宽搜索结果过滤条件，返回更多结果
2. 抓取返回详细错误信息（如超时、网络错误等）
3. 错误信息记录到失败URL库中
4. 统一返回格式包含success字段
|
2026-07-13 23:40:13 +08:00 |
|
|
hz4th_coder
|
c40acab1c9
|
优化URL抓取：增加超时时间和备用方案
- 浏览器超时从20秒增加到60秒
- 浏览器失败时使用 requests 备用方案抓取静态内容
- 解决部分网站加载慢导致超时的问题
|
2026-07-13 23:11:54 +08:00 |
|
|
hz4th_coder
|
4352b81c20
|
修复语法错误：Python try语句格式
|
2026-07-13 23:03:53 +08:00 |
|
|
hz4th_coder
|
c960d959ad
|
新增搜索结果缓存功能
- 新增 search_cache 数据库表存储搜索缓存
- 搜索前优先查询缓存，命中则直接返回
- 缓存默认有效期7天，可配置
- 前端支持'使用缓存'开关选项
- 显示缓存状态提示
- 支持自动清理过期缓存
|
2026-07-13 22:55:36 +08:00 |
|
|
hz4th_coder
|
c3eef4fa21
|
互联网搜索支持多搜索引擎选择
- 新增搜索引擎选择下拉框
- 支持 Bing 中国（默认）、Bing 国际、Google、百度
- 后端 API 支持 engine 参数
- 添加百度搜索结果解析方法
|
2026-07-13 17:03:26 +08:00 |
|
|
hz4th_coder
|
9d6481bd06
|
修复页面内容提取，过滤 JSON 错误信息
- 改进 StaticText 解析逻辑
- 过滤知乎等网站的反爬 JSON 错误
- 正确提取页面文本内容
|
2026-07-13 16:56:08 +08:00 |
|
|
hz4th_coder
|
20f3ec1f18
|
修复页面抓取功能，使用 agent-browser 替代 requests
- 改用浏览器方式抓取页面内容，绑过反爬虫机制
- 从 accessibility tree snapshot 中提取文本内容
- 增加等待时间让页面完全加载
- 可抓取知乎等有反爬措施的网站
|
2026-07-13 12:14:21 +08:00 |
|
|
hz4th_coder
|
4f02a6a0ea
|
实现浏览器方式互联网搜索功能
- 使用 agent-browser 浏览器自动化进行 Bing 搜索
- 解析 accessibility tree 提取搜索结果
- 自动获取每个结果的 URL
- 支持设置最大结果数量
|
2026-07-13 11:55:33 +08:00 |
|
|
hz4th_coder
|
b7b09251f8
|
初始化参数数据自动化管理系统
功能:
- 文章内容库管理
- 待处理产品列表管理
- 自动处理流程
- 智能搜索和数据提取
- ParamHub API集成
- 定时任务调度
部署端口: 16043
|
2026-07-12 01:07:26 +08:00 |
|