正在筛选:本地部署,共 3 篇清除筛选
多步工具调用|数据主权接入
人工智能2026-09-218993

多步工具调用|数据主权接入

数据主权推动本地开源LLM Agent,多步工具调用是真实短板。KOPA-Bench量化差距,EDGE补数据。

多步工具调用数据主权KOPA-Bench本地部署Function Calling
阅读更多
Gemini 3.8 Flash本地化推理实战:低延迟高吞吐部署指南
人工智能2026-09-156762

Gemini 3.8 Flash本地化推理实战:低延迟高吞吐部署指南

Gemini 3.8 Flash本地化推理实战:RTX 4090单卡部署,320ms低延迟,成本降94.6%。

Gemini 3.8 Flash本地部署推理优化TensorRT-LLM成本控制
阅读更多
M4 Pro 本地模型部署实测|云端省钱的另一条路
人工智能2026-09-024603

M4 Pro 本地模型部署实测|云端省钱的另一条路

从 M4 Pro Mac Mini 本地模型部署实测出发,拆解本地推理与云端 API 的成本、延迟、数据隐私权衡,给出何时本地、何时云端的接入决策方案。

本地部署省钱方案M4 Pro大模型混合部署
阅读更多