BroadRouter

Gunakan pelayan MCP dengan model serasi OpenAI (mana-mana penyedia)

Oleh pasukan BroadNet Inference · 4 minit bacaan · Diterbitkan · Dikemas kini

MCP tidak bergantung pada model. Klien MCP dalam aplikasi anda menyenaraikan tool setiap pelayan, menghantarnya kepada model sebagai tool function calling biasa, dan menjalankan tools/call apabila model memintanya. Mana-mana model serasi OpenAI dengan panggilan alat yang boleh dipercayai boleh menggunakan pelayan MCP. Konfigurasikannya dalam Cline, Continue, opencode atau n8n, atau sambungkannya dalam kira-kira 40 baris Python.

Model Context Protocol (MCP) memberi ejen cara standard untuk mencapai tool: GitHub, pangkalan data, sistem fail, pelayar. Banyak tutorial MCP menganggap anda menggunakan Claude atau GPT. Anda tidak memerlukan kedua-duanya. Artikel ini menerangkan mengapa MCP berfungsi dengan mana-mana model serasi OpenAI yang menyokong panggilan alat, cara menyediakannya dalam klien yang benar-benar digunakan oleh pembangun, dan cara menyambungkan MCP kepada model terbuka dalam kod anda sendiri.

Mengapakah MCP berfungsi dengan mana-mana model?

MCP terletak di antara aplikasi anda dan pelayan tool, bukan di antara aplikasi anda dan model. Dokumentasi seni bina MCP menerangkan tiga peranan:

  • Hos: aplikasi AI, seperti sambungan editor atau skrip anda.
  • Klien: satu sambungan yang dikekalkan oleh hos kepada setiap pelayan MCP.
  • Pelayan: program yang mendedahkan tools, resources dan prompts, secara setempat melalui stdio atau secara jauh melalui Streamable HTTP.

Dokumentasinya jelas: MCP “does not dictate how AI applications use LLMs or manage the provided context” (Terjemahan: tidak menentukan cara aplikasi AI menggunakan LLM atau mengurus konteks yang diberikan). Hos menyenaraikan tool setiap pelayan dengan tools/list, menggabungkannya ke dalam satu daftar yang boleh dilihat oleh model, dan apabila model meminta tool, hos menghantar tools/call kepada pelayan yang betul.

Pada API yang serasi OpenAI, “boleh dilihat oleh model” bermaksud tool dimasukkan ke dalam tatasusunan tools biasa. Tool MCP sudah mempunyai nama, penerangan dan inputSchema, yang dipetakan satu lawan satu kepada definisi fungsi. Model tidak pernah tahu MCP terlibat. Apa yang diperlukannya hanyalah panggilan alat yang boleh dipercayai.

Model manakah yang patut digunakan untuk MCP?

Model di BroadNet Panggilan alat disenaraikan Konteks Kesesuaian MCP
GLM 5.3 Ya 1,048,576 Pilihan lalai yang baik untuk banyak pelayan
Qwen3.8 27B Ya 262,144 Baik, serta input imej
DeepSeek V4.1 Flash Tidak disenaraikan 1,048,576 Uji dahulu; input imej
Gemma 4 VL 26B Tidak disenaraikan 32,768 Tidak disyorkan

Untuk perbandingan sebelah-menyebelah dua model yang menyokong tool, lihat GLM 5.3 vs Qwen3.8 27B. Konteks lebih penting daripada yang disangka ramai. Setiap skema tool MCP dihantar pada setiap panggilan. Dokumentasi opencode menyatakan “MCP tools consume model context, so add only the servers you need.” (Terjemahan: tool MCP menggunakan konteks model, jadi tambah hanya pelayan yang anda perlukan.) Artikel bajet token ejen menunjukkan cara mengukurnya.

Bagaimanakah cara menyediakan MCP dalam klien biasa?

Klien Lokasi pelayan MCP Pengangkutan Nota
Cline Panel MCP Servers, JSON mcpServers stdio, Streamable HTTP, SSE warisan Jenis jauh "streamableHttp"
Continue mcpServers dalam config.yaml atau .continue/mcpServers/ stdio, sse, streamable-http Mod Agent sahaja
opencode mcp.servers dalam opencode.jsonc local, remote Gunakan {env:NAME} untuk rahsia
n8n Nod MCP Client Tool pada AI Agent Endpoint pelayan jauh (dokumentasinya menerangkan endpoint SSE) Pilih tool All, Selected atau All Except
OpenAI Agents SDK mcp_servers=[...] pada Agent stdio, Streamable HTTP, SSE Bukan HostedMCPTool

Kemudian halakan model klien kepada penyedia anda: panduan Cline, Continue dan opencode merangkumi bahagian model untuk BroadNet. Dalam Continue, ingat keupayaan tool_use, jika tidak mod Agent tidak akan tersedia.

Contoh Continue, daripada dokumentasinya:

mcpServers:
  - name: SQLite MCP
    type: stdio
    command: npx
    args: ["-y", "mcp-sqlite", "/path/to/your/database.db"]

Bagaimanakah cara menyambungkan MCP kepada model terbuka dalam Python?

Jika anda membina ejen sendiri, penyambungnya pendek. Ini menggunakan Client MCP Python SDK (versi 2.0 atau lebih baharu; pip install "mcp>=2"), yang melancarkan pelayan stdio apabila diberi StdioServerParameters, dan OpenAI SDK yang dihalakan ke BroadNet:

import asyncio, json, os
from mcp import Client, StdioServerParameters
from mcp.types import TextContent
from openai import OpenAI

llm = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
server = StdioServerParameters(command="npx",
    args=["-y", "@modelcontextprotocol/server-filesystem", "."])

async def main(question):
    async with Client(server) as mcp:
        listed = await mcp.list_tools()
        tools = [{"type": "function", "function": {
                    "name": t.name, "description": t.description or "",
                    "parameters": t.input_schema}} for t in listed.tools]
        messages = [{"role": "user", "content": question}]
        for _ in range(8):
            r = llm.chat.completions.create(model="broadnet/glm-5.3",
                    messages=messages, tools=tools, max_tokens=4000)
            msg = r.choices[0].message
            messages.append(msg.model_dump(exclude_none=True))
            if not msg.tool_calls:
                return msg.content
            for call in msg.tool_calls:
                try:
                    res = await mcp.call_tool(call.function.name,
                                              json.loads(call.function.arguments or "{}"))
                    text = "\n".join(b.text for b in res.content if isinstance(b, TextContent))
                    out = f"Error: {text}" if res.is_error else text
                except Exception as e:
                    out = f"Error: {e}"
                messages.append({"role": "tool", "tool_call_id": call.id, "content": out})

print(asyncio.run(main("List the Markdown files here and summarize the README.")))

Pada mcp 1.x tiada kelas Client: buka pelayan dengan stdio_client(...), balutnya dalam ClientSession, panggil initialize(), dan baca medan camelCase inputSchema dan isError. Tiga butiran penting:

  1. Ralat menjadi hasil tool. MCP SDK melaporkan kegagalan tool dengan is_error dan bukannya menimbulkan ralat. Hantarnya semula supaya model boleh menyesuaikan diri. Panduan panggilan alat kami merangkumi pengesahan dan cuba semula.
  2. Hadkan gelung. Lapan langkah di sini. Pelayan MCP yang memulangkan hasil besar memenuhkan konteks dengan cepat.
  3. Tapis tool. Dedahkan hanya tool yang diperlukan oleh tugasan. OpenAI Agents SDK menawarkan tool_filter untuk tujuan ini, dan n8n mempunyai Selected dan All Except.

Menggunakan OpenAI Agents SDK? Kelas MCPServerStdio dan MCPServerStreamableHttp-nya berjalan dalam proses anda. Gabungkannya dengan penyedia tersuai seperti dalam panduan Agents SDK kami. HostedMCPTool-nya berjalan di dalam Responses API OpenAI dan hanya berfungsi dengan model OpenAI.

Apakah masalah biasa MCP pada model terbuka?

  • Terlalu banyak tool. Model memilih tool yang salah atau mengabaikan tool. Kekalkan set aktif kecil. Untuk tool anda sendiri, penjana skema JSON menghasilkan skema parameters yang bersih dan rata.
  • Hasil tool yang besar. Pelayan yang memulangkan keseluruhan jadual pangkalan data boleh melampaui tetingkap konteks. Hadkan atau gunakan penomboran halaman.
  • Jawapan kosong atau terpotong. GLM 5.3 dan Qwen3.8 27B membuat penaakulan dahulu, dan penaakulan dikira dalam max_tokens. Naikkannya.
  • Kepercayaan. Pelayan MCP menjalankan kod pada mesin anda atau memanggil perkhidmatan dengan kelayakan anda. Pasang pelayan yang anda percayai, dan sahkan tindakan yang menulis atau membelanjakan wang.

Di manakah BroadNet Inference sesuai

BroadNet Inference membekalkan bahagian model: GLM 5.3 dan Qwen3.8 27B dengan panggilan alat disenaraikan, melalui format chat-completions standard yang boleh digunakan oleh setiap klien MCP di atas, dengan pengekalan data sifar (zero data retention) bagi prompt dan output. Ia tidak menjalankan pelayan MCP atau tool yang dihoskan untuk anda; klien anda yang melakukannya. Harga setiap token bagi kedua-dua model ada di halaman harga, dan kunci ada di inference.broadnet.ai.

Soalan lazim

Bolehkah saya menggunakan MCP dengan model yang bukan Claude atau GPT?

Ya. MCP ialah protokol antara aplikasi anda dan pelayan tool. Aplikasi menghantar tool kepada apa-apa model yang digunakannya melalui format panggilan alat model itu. Mana-mana model serasi OpenAI dengan panggilan alat yang berfungsi boleh menggunakan tool MCP.

Adakah model perlu menyokong MCP?

Tidak. Model hanya memerlukan function calling. Klien MCP dalam aplikasi anda melakukan kerja protokol, iaitu menyenaraikan tool dan memanggilnya.

Ejen pengekodan manakah yang menyokong MCP dengan model tersuai yang serasi OpenAI?

Cline, Continue dalam mod Agent dan opencode semuanya membolehkan anda mengkonfigurasi pelayan MCP dan model tersuai yang serasi OpenAI. Zoo Code, sambungan kepada Roo Code, juga menyenaraikan sokongan MCP.

Mengapakah menambah pelayan MCP menjadikan ejen saya lebih perlahan dan lebih mahal?

Definisi tool setiap pelayan ditambah kepada prompt pada setiap panggilan model. Sepuluh pelayan dengan sedozen tool setiap satu boleh menambah ribuan token input bagi setiap langkah. Dayakan hanya pelayan yang diperlukan oleh tugasan, atau tapis tool.

Adakah tool MCP yang dihoskan berfungsi dengan penyedia lain?

Bukan jenis yang dihoskan oleh OpenAI. Dokumentasi OpenAI Agents SDK menyatakan HostedMCPTool berfungsi dengan model OpenAI yang menyokong integrasi MCP dihoskan dalam Responses API. Gunakan kelas pelayan MCP setempat SDK itu dengan penyedia lain.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity