从零搭一个 AI 智能客服系统：用 Agent 接住用户问题，中途接入 4sapi 跑通对话

用户提问
   ↓
① 意图识别    这句话是问订单？问售后？还是闲聊？
   ↓
② 知识检索    从知识库/业务系统里捞出相关资料（RAG）
   ↓
③ 答案生成    把检索到的资料 + 问题，交给大模型组织成回答
   ↓
④ 兜底与转人工  答不了的，老实承认并转人工，绝不硬编

                   ┌──────────────────────────┐
   用户消息  ──→    │   Dispatcher 会话总调度    │
                   └─────────────┬────────────┘
                                 │ 按意图分流
      ┌──────────────┬──────────┼──────────┬──────────────┐
      ↓              ↓          ↓          ↓              ↓
 [意图Agent]   [检索Agent]  [回答Agent]  [兜底Agent]   会话记忆
      └──────────────┴──────────┼──────────┴──────────────┘
                                ↓
                   ┌──────────────────────────┐
                   │   统一 API 网关 (4sapi)    │  ← 文本/Embedding 都走这
                   └──────────────────────────┘

https://4sapi.com/v1

# .env
FOURSAPI_BASE_URL=https://4sapi.com/v1
FOURSAPI_KEY=sk-你的令牌

# gateway.py —— 统一 API 网关客户端
import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["FOURSAPI_KEY"],
    base_url=os.environ["FOURSAPI_BASE_URL"],   # 关键：指向中转网关
)

def chat(model, messages, **kwargs):
    resp = client.chat.completions.create(
        model=model, messages=messages, **kwargs
    )
    return resp.choices[0].message.content

def embed(text, model="text-embedding-3-small"):
    """语义检索要用的向量，也走同一个网关"""
    resp = client.embeddings.create(model=model, input=text)
    return resp.data[0].embedding

if __name__ == "__main__":
    print(chat(
        model="gpt-4o-mini",
        messages=[{"role": "user", "content": "回复两个字：通了"}],
    ))   # 正常应打印「通了」

def intent_agent(question):
    prompt = f"""判断用户问题属于哪类，只返回一个词：
order(订单/物流) / aftersale(退换售后) / faq(功能咨询) / chat(闲聊) / other
用户问题：{question}"""
    return chat(
        model="gpt-4o-mini",          # 分类用小模型够了，省钱
        messages=[{"role": "user", "content": prompt}],
    ).strip()

import numpy as np

def retrieve_agent(question, kb_vectors, kb_texts, top_k=3):
    q_vec = embed(question)            # 问题向量，走网关
    # 余弦相似度排序，取最相关的 top_k 条
    sims = [np.dot(q_vec, v) for v in kb_vectors]
    idx = np.argsort(sims)[-top_k:][::-1]
    return [kb_texts[i] for i in idx]

def answer_agent(question, contexts, history):
    context_text = "\n".join(contexts)
    system = f"""你是客服助手。只能依据【参考资料】回答，
资料里没有的，就说"这个我需要帮您转接人工"，绝不要编。
【参考资料】
{context_text}"""
    messages = [{"role": "system", "content": system}]
    messages += history          # 带上多轮上下文
    messages.append({"role": "user", "content": question})
    return chat(model="gpt-4o", messages=messages, temperature=0.3)

def fallback_agent(question, ticket_system):
    # 触发条件：检索为空、用户连续追问、或回答里出现"转接人工"
    ticket_system.create(question)        # 落工单，转人工
    return "这个问题我帮您转接人工客服，请稍候～"

def handle_message(question, session):
    history = session.get_history()       # 取该用户的多轮上下文

    intent = intent_agent(question)
    if intent == "chat":
        reply = chat(model="gpt-4o-mini",
                     messages=history + [{"role": "user", "content": question}])
    else:
        contexts = retrieve_agent(question, KB_VEC, KB_TXT)
        if not contexts:                  # 检索不到 → 兜底
            reply = fallback_agent(question, TICKET_SYS)
        else:
            reply = answer_agent(question, contexts, history)

    session.append(question, reply)       # 写回会话记忆
    return reply

function ChatWidget() {
  const [msgs, setMsgs] = useState([]);
  const [input, setInput] = useState("");

  async function send() {
    setMsgs(m => [...m, { role: "user", text: input }]);
    const res = await fetch("/api/chat", {
      method: "POST",
      body: JSON.stringify({ question: input }),
    });
    // 用 SSE 流式接收，逐字渲染助手回复
  }

  return (
    <div className="chat-widget">
      <MsgList items={msgs} />
      <input value={input} onChange={e => setInput(e.target.value)}
             placeholder="有什么可以帮您？" />
      <button onClick={send}>发送</button>
    </div>
  );
}