企业该调用模型 API，还是自建推理服务

企业该调用模型 API，还是自建推理服务

原文摘录我在做 VetarAI，立场相关。企业算这笔账，我建议别先比较“每百万 Token 多少钱”和“一张卡每月多少钱”，先算每个通过验收的任务成本。 可以列一个简单口径： 单位有效任务成本＝（调用或算力＋存储网络＋研发运维＋失败重试＋备用容量）÷通过验收的任务数。 API 的隐性成本…

知乎没登录时，原文可能整页显示成乱码（知乎的反爬措施），登录知乎或用知乎 App 打开就正常。

内容在原平台，这里不转载全文。版权归原作者。权利人如需下架，请看下架说明。