首页 / AI 模型训练
60+交付训练项目
2.6亿条累计处理训练数据
27%平均任务准确率提升
82%PoC 转生产成功率
能力矩阵
我们具体做什么
数据工程与标注
从原始语料到可用训练集的全流程工程化
- 多模态采集与清洗
- 去重与质量分层
- 标注规范与一致性校验
- 数据增强与合成
SFT 监督微调
LoRA / QLoRA / 全参微调,按预算与目标选型
- 指令数据构造
- 超参搜索与消融
- 灾难性遗忘控制
- 多轮对话微调
RLHF / DPO 对齐
让模型输出符合业务价值观与安全红线
- 偏好数据采集
- 奖励模型训练
- DPO / PPO 对齐
- 红队对抗迭代
模型评测与红队
上线前把「变好了」变成可量化结论
- 领域基准集构建
- 自动评测流水线
- 越狱与注入测试
- 幻觉率与拒答率度量
私有化算力
自建与云上混合调度,成本单列不加价
- GPU 集群规划
- 训练吞吐优化
- 断点续训与容错
- 成本核算透明化
部署与蒸馏
把大模型压缩到能跑在客户环境里
- 量化与蒸馏
- vLLM / TensorRT 部署
- 推理延迟优化
- 端侧小模型方案
客户痛点
这些问题,我们见过很多次
不知道该不该微调
很多场景用 RAG 或提示词工程就够了,盲目微调只是烧钱。我们会先做可行性评估,明确告诉你值不值。
效果说不清
「感觉好了一点」无法支撑决策。我们用领域基准集把效果变成准确率和召回率数字。
上线后没人维护
模型不是交付即结束。我们提供评测流水线与迭代机制,让客户团队能自己跑下一轮。
算力成本失控
算力按实际消耗单列,不加价、不打包,账单可对账。
服务流程
每一步交付什么,提前说清楚
01
可行性评估
明确任务边界、基线模型与收益预期,输出是否值得微调的结论
02
数据方案设计
确定数据来源、规模、标注规范与质量分层策略
03
数据工程与标注
采集、清洗、去重、标注与一致性校验
04
训练与调优
SFT → 对齐 → 消融实验,逐轮对比记录
05
评测与红队
自动化评测 + 人工抽样 + 安全红队对抗
06
部署与移交
推理服务部署、性能压测与团队培训
交付物清单
把「我们很专业」变成可验收的条目
| 阶段 | 交付物 | 形式 | 验收标准 |
|---|---|---|---|
| 评估 | 可行性评估报告 | PDF + 评审会 | 明确给出微调 / RAG / 提示词工程选型结论 |
| 数据 | 训练集 / 验证集 / 测试集 | JSONL + 数据集卡片 | 一致性 Kappa ≥ 0.8,抽样抽检通过 |
| 数据 | 标注规范手册 | 文档 | 边界用例覆盖完整,可交由第三方复用 |
| 训练 | 模型权重与训练配置 | 权重文件 + yaml | 可复现,随机种子固定 |
| 评测 | 评测报告 | PDF + 原始数据 | 关键指标相对基线提升达约定值 |
| 评测 | 红队测试报告 | 高危越用例 100% 拦截或明确降级策略 | |
| 交付 | 推理服务与部署脚本 | Docker / 裸机脚本 | 压测 P95 延迟达标 |
| 交付 | 运维手册与培训 | 文档 + 2 次培训 | 客户团队可独立完成一次迭代 |
技术栈
用什么工具,取决于您的场景
训练框架
PyTorchDeepSpeedLLaMA-FactoryUnslothTRLpeft
基座模型
QwenDeepSeekGLMLlamaBaichuanInternLM
对齐与评测
DPOPPORLHFOpenCompassMT-Bench自研领域基准
推理部署
vLLMTensorRT-LLMSGLangOllamaXinference
算力
A800H800L204090 集群混合云调度
数据与工程
Label StudioDVCWeights & BiasesMinIOAirflow
报价与周期
价格公开,不玩「面议」
常见问题
我的场景到底该微调还是用 RAG?
我们在可行性评估阶段就会给出结论。经验上,知识频繁更新、需要可追溯引用的场景优先 RAG;需要改变模型表达风格、格式稳定性或领域推理能力的场景才值得微调。生产中常见的是「RAG + 轻量微调」组合。
训练数据我们自己有,还需要你们做什么?
自有数据通常存在重复、噪声、标注不一致、分布偏斜等问题。我们做的是把原始数据工程化成可用训练集,并构建独立测试集来保证评测可信。数据不出您的环境,私有化部署时我们在您的网络内作业。
多久能看到效果?
可行性评估 1-2 周;标准微调交付通常 8-14 周,其中数据工程占一半以上时间。我们会按阶段交付,评估阶段就能拿到基线对比数据。
效果不达标怎么办?
合同里写明验收指标与退出条款:PoC 阶段关键指标未达约定值,退还该阶段费用或免费追加一轮迭代。这是我们把「尽力而为」改成可验证承诺的方式。
算力成本怎么算?
按实际 GPU 小时单列,提供消耗明细,不打包加价。您也可以自带算力,我们只收工程服务费。
交付后我们能自己迭代吗?
可以。交付标准里包含「客户团队可独立运营」:会交付评测流水线、训练脚本与运维手册,并通过培训与认证确保您的团队能跑下一轮。