效果评测
Agent 能力
任务成功率工具调用准确率LLM as Judge
执行质量
Token 效率异常处理安全校验回复质量
2020.09 — 2024.06本科电子信息科学与技术
保研
2024.09 — 2027.06硕士电子信息 · 通信工程
技能
特长
特长
LLM Algorithm
TransformerMoEMQA / GQARoPEALiBiPre-trainingSFTLoRAPPORLHFDPOGRPO
语言与基础
JavaPythonC/C++数据结构算法操作系统计算机网络
Java 与 JVM
集合泛型反射SPI动态代理线程池GC
数据库
MySQL索引SQL 优化ACIDMVCC锁日志
AI Infra
ZeRODP/TP/PP/EPAll ReduceLoss ScalingActivation CheckpointFlashAttentionPagedAttentionGPTQAWQNF4
云原生
KubernetesServerlessCI/CD容器化弹性
RAG 应用
Embedding向量数据库Query 改写BM25多路召回Hybrid SearchRerank
Agent Infra
Agent RuntimeSandboxE2BVaultMemory可观测权限治理
算法
方案设计
工程落地
AI 全栈
王继锋
INTERNSHIP · 01
01 / 03
大模型本地化应用
职业学校智慧校园：构建本地化大模型与知识库。
模型侧
DDP 分布式训练
1RTX 509032GB
2RTX 509032GB
3RTX 509032GB
4RTX 509032GB
↓↓↓↓
AllReduce
SFT知识问答 · 工具调用 · 拒答样例
DPO回答风格 · 幻觉回答样例
Loss ScalingQLoRAFlash AttentionDPNF4GPTQAWQActivation CheckpointGradient Accumulation
RAG 侧
离线阶段
父子文档切块大块 + 小块
入库Milvus
在线阶段
查询
改写优化检索意图
改写优化检索意图
混合
检索向量 + 关键词
检索向量 + 关键词
重排序Qwen3-Reranker
质量
门控拦截低质结果
门控拦截低质结果
关联
大块返回大模型
大块返回大模型
小 Chunk检索 · 召回单元
关联
大 Chunk完整上下文 → LLM
评测
系统
系统
模型侧
问答效果工具调用成功率幻觉检测成功拒答率
RAG 侧
召回率平均倒数排名
INTERNSHIP · 02
02 / 03
Agent 强化学习
围绕助手 Agent，提升模型长程复杂任务能力。
01轨迹采样
同一用户任务成绩分析 · 通知发布 · 知识问答
4 × RTX 5090 · 并行推理
GPU 1GPU 2GPU 3GPU 4
轨迹 ①
轨迹 ②
轨迹 ③
轨迹 ④
动态温度动态 Group Size
02可验证奖励
任务完成度
工具选择
调用顺序
Token 消耗
接口执行成功率
结果格式规范度
r₁r₂r₃r₄
分阶段奖励过程安全检查
03GRPO 更新
A₁相对优势
A₂相对优势
A₃相对优势
A₄相对优势
组内
归一化
归一化
GRPO
目标函数
目标函数
DDP + QLoRA
策略更新
策略更新
4 × RTX 5090 · PyTorch DDP 同步更新
低区分度问题 → 降低出现概率高难任务 → 混合参考正确回答
推理优化技术
NF4Flash AttentionKV CachePrefill-Decode
Paged Attention连续批处理
前缀缓存AWQGPTQCUDA GraphKernel Fusion投机解码
问题定位
01
Agent 短板 or 模型短板？模型 × Agent 的交叉实验
02
某一步短板？Oracle 干预实验
INTERNSHIP · 03
03 / 03
Agent 原生架构
Agentic Infra 底座建设：充分利用云原生优势。
01会话层
会话大纲局部读取条件筛选统计信息
| 会话 ID | 用户 ID | 会话状态 | 任务状态 |
|---|---|---|---|
| ses_01 | usr_01 | 运行中 | T1完成 T2未完成 |
| 事件 ID | 会话 ID | 事件类型 | 内容 |
|---|---|---|---|
| evt_01 | ses_01 | 工具调用 | 查询天气 |
记忆
用户权限
声明式 Agent
按需读取事件写回
02Agent 编排层
会话轮询
上下文装配
Agent 循环
运行时注入
系统提示词上下文工具SkillsMCP环境变量密钥
校验用户权限Agent 声明
记忆整理
密钥保险库
生产任务
1工具
调用
调用
2MCP
调用
调用
3Bash
命令
命令
03执行层
沙箱网关
沙箱集群
Sandbox A
Sandbox B
Sandbox C
Sandbox D
沙箱持久化阿里 AgenticFS
L4 网络管控
网段端口DNS
L7 应用管控
域名HTTPMCP 方法
执行结果 → 写回事件