#性能调优
共 4 篇相关文章
章节第 3 篇 · 全行业落地
第 18 章 电信与媒体:网络优化、内容生产与精准营销
本章一句话 :电信和媒体都是"数据海量 + AI 成熟"的行业——电信 FDE 用 AI 优化网络与客服,媒体 FDE 用 AI 生成与分发内容;两者的共同点是 AI 渗透深、ROI 直接。 18.1 电信/媒体 AI 落地的特征 电信 数据海量 :网络日志、信令、用户行为; 网络为王 :AI 优化…
电信媒体多模态性能调优
· 3 分钟阅读· 3 个标签
专题
深度专题二十 AI 系统可观测性与 SRE
传统软件系统的 SRE 方法论（Google SRE 一书奠定的 SLI/SLO、错误预算、runbook、事故复盘体系）经过二十年沉淀已相当成熟。但当被运维的对象从"确定性函数"变成"概率性语言模型"时，这套方法论必须被重新校准：同样的指标名（延迟、错误率、吞吐）含义发生了漂移，还必须新增一整层"…
可观测性MLOps性能调优
· 17 分钟阅读· 4 个标签
专题
深度专题四十六 大模型应用性能调优实战
性能调优是大模型应用从"能跑通"走向"能用、好用、用得起"的最后一公里。一个 RAG 应用在内部 Demo 里回答延迟 800ms,到了客户生产环境却飙升到 10 秒——这种 12 倍劣化在生产中是常态而非例外,根因往往不是模型本身,而是全链路中某一层没有被正确测量和优化。本专题以 FDE 视角,从…
性能调优推理优化可观测性
· 17 分钟阅读· 5 个标签
专题
深度专题五十四 AI 系统的容量规划与成本建模
54.1 为什么容量规划是 FDE 的必备能力 在 FDE（前沿部署工程师）的真实交付现场，最常被客户追问的两个问题是："这套 AI 系统到底要花多少钱？"和"峰值来了扛不扛得住？"这两个问题本质上是同一个问题——容量规划与成本建模。 算力贵是行业级事实。一张 NVIDIA H100（80GB）的按…
成本容量推理优化性能调优
· 18 分钟阅读· 4 个标签