Model Context Protocol (MCP) cho agent một cách chuẩn để tiếp cận công cụ: GitHub, cơ sở dữ liệu, hệ thống file, trình duyệt. Nhiều hướng dẫn MCP mặc định bạn dùng Claude hoặc GPT. Bạn không cần cái nào cả. Bài này giải thích vì sao MCP chạy được với mọi model tương thích OpenAI có hỗ trợ tool calling, cách thiết lập trong các client mà lập trình viên thực sự dùng, và cách nối MCP với model mở trong code của chính bạn.
Vì sao MCP chạy được với mọi model?
MCP nằm giữa ứng dụng của bạn và các tool server, không phải giữa ứng dụng và model. Tài liệu kiến trúc MCP mô tả ba vai trò:
- Host: ứng dụng AI, như một extension của trình soạn thảo hoặc script của bạn.
- Client: một kết nối mà host duy trì tới mỗi MCP server.
- Server: một chương trình cung cấp công cụ, tài nguyên và prompt, chạy cục bộ qua stdio hoặc từ xa qua Streamable HTTP.
Tài liệu nói rõ: MCP “does not dictate how AI applications use LLMs or manage the provided context.” (bản dịch: không quy định cách ứng dụng AI dùng LLM hay quản lý context được cung cấp.) Host liệt kê công cụ của từng server bằng tools/list, gộp chúng vào một registry mà model nhìn thấy được, và khi model yêu cầu một công cụ, host gửi tools/call tới đúng server.
Trên API tương thích OpenAI, “model nhìn thấy được” nghĩa là các công cụ được đưa vào mảng tools thông thường. Một công cụ MCP vốn đã có tên, mô tả và inputSchema, ánh xạ một-một sang định nghĩa hàm. Model không hề biết có MCP tham gia. Tất cả những gì nó cần là tool calling ổn định.
Nên dùng model nào cho MCP?
| Model trên BroadNet | Có liệt kê tool calling | Context | Mức phù hợp với MCP |
|---|---|---|---|
| GLM 5.3 | Có | 1.048.576 | Lựa chọn mặc định tốt khi có nhiều server |
| Qwen3.8 27B | Có | 262.144 | Tốt, có thêm đầu vào ảnh |
| DeepSeek V4.1 Flash | Không liệt kê | 1.048.576 | Hãy test trước; có đầu vào ảnh |
| Gemma 4 VL 26B | Không liệt kê | 32.768 | Không khuyến nghị |
Để xem hai model hỗ trợ công cụ đặt cạnh nhau, xem GLM 5.3 và Qwen3.8 27B. Context quan trọng hơn nhiều người nghĩ. Mọi schema công cụ MCP đi kèm trong mỗi lần gọi. Tài liệu opencode viết: “MCP tools consume model context, so add only the servers you need.” (bản dịch: Công cụ MCP tiêu tốn context của model, vì vậy chỉ thêm các server bạn cần.) Bài ngân sách token của agent chỉ cách đo lượng này.
Thiết lập MCP trong các client phổ biến thế nào?
| Client | Nơi khai báo MCP server | Transport | Ghi chú |
|---|---|---|---|
| Cline | Bảng MCP Servers, JSON mcpServers |
stdio, Streamable HTTP, SSE kiểu cũ | Kiểu remote là "streamableHttp" |
| Continue | mcpServers trong config.yaml hoặc .continue/mcpServers/ |
stdio, sse, streamable-http | Chỉ ở chế độ Agent |
| opencode | mcp.servers trong opencode.jsonc |
local, remote |
Dùng {env:NAME} cho bí mật |
| n8n | Node MCP Client Tool gắn vào AI Agent | Endpoint server từ xa (tài liệu mô tả một endpoint SSE) | Chọn công cụ All, Selected hoặc All Except |
| OpenAI Agents SDK | mcp_servers=[...] trên Agent |
stdio, Streamable HTTP, SSE | Không dùng HostedMCPTool |
Sau đó, trỏ model của client tới nhà cung cấp của bạn: các hướng dẫn Cline, Continue và opencode trình bày phần model cho BroadNet. Trong Continue, hãy nhớ khai báo capability tool_use, nếu không chế độ Agent sẽ không khả dụng.
Một ví dụ cho Continue, lấy từ tài liệu của nó:
mcpServers:
- name: SQLite MCP
type: stdio
command: npx
args: ["-y", "mcp-sqlite", "/path/to/your/database.db"]
Nối MCP với model mở bằng Python thế nào?
Nếu bạn tự xây agent, phần nối khá ngắn. Đoạn code này dùng Client của MCP Python SDK (phiên bản 2.0 trở lên; pip install "mcp>=2"), lớp này khởi chạy một stdio server khi nhận StdioServerParameters, cùng OpenAI SDK trỏ tới BroadNet:
import asyncio, json, os
from mcp import Client, StdioServerParameters
from mcp.types import TextContent
from openai import OpenAI
llm = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
server = StdioServerParameters(command="npx",
args=["-y", "@modelcontextprotocol/server-filesystem", "."])
async def main(question):
async with Client(server) as mcp:
listed = await mcp.list_tools()
tools = [{"type": "function", "function": {
"name": t.name, "description": t.description or "",
"parameters": t.input_schema}} for t in listed.tools]
messages = [{"role": "user", "content": question}]
for _ in range(8):
r = llm.chat.completions.create(model="broadnet/glm-5.3",
messages=messages, tools=tools, max_tokens=4000)
msg = r.choices[0].message
messages.append(msg.model_dump(exclude_none=True))
if not msg.tool_calls:
return msg.content
for call in msg.tool_calls:
try:
res = await mcp.call_tool(call.function.name,
json.loads(call.function.arguments or "{}"))
text = "\n".join(b.text for b in res.content if isinstance(b, TextContent))
out = f"Error: {text}" if res.is_error else text
except Exception as e:
out = f"Error: {e}"
messages.append({"role": "tool", "tool_call_id": call.id, "content": out})
print(asyncio.run(main("List the Markdown files here and summarize the README.")))
Với mcp 1.x thì không có lớp Client: hãy mở server bằng stdio_client(...), bọc nó trong một ClientSession, gọi initialize(), và đọc các trường camelCase inputSchema và isError. Có ba chi tiết quan trọng:
- Lỗi trở thành kết quả công cụ. MCP SDK báo lỗi công cụ bằng
is_errorthay vì gây exception. Hãy chuyển chúng lại cho model để nó điều chỉnh. Bài về tool calling của chúng tôi trình bày validate và retry. - Giới hạn vòng lặp. Ở đây là tám bước. MCP server trả về kết quả lớn sẽ lấp đầy context rất nhanh.
- Lọc công cụ. Chỉ đưa ra những công cụ mà tác vụ cần. OpenAI Agents SDK có
tool_filtercho việc này, còn n8n có Selected và All Except.
Bạn dùng OpenAI Agents SDK? Các lớp MCPServerStdio và MCPServerStreamableHttp của nó chạy trong tiến trình của bạn. Hãy kết hợp chúng với một custom provider như trong hướng dẫn Agents SDK. HostedMCPTool của nó chạy bên trong Responses API của OpenAI và chỉ hoạt động với model của OpenAI.
MCP trên model mở thường gặp lỗi gì?
- Quá nhiều công cụ. Model chọn sai công cụ hoặc bỏ qua công cụ. Hãy giữ tập công cụ đang bật nhỏ gọn. Với công cụ của riêng bạn, công cụ tạo JSON schema tạo ra schema
parametersgọn và phẳng. - Kết quả công cụ quá lớn. Một server trả về cả bảng cơ sở dữ liệu có thể vượt quá context window. Hãy giới hạn hoặc phân trang.
- Phản hồi rỗng hoặc bị cắt. GLM 5.3 và Qwen3.8 27B suy luận trước, và phần suy luận được tính vào
max_tokens. Hãy tăng giới hạn này. - Độ tin cậy. MCP server chạy code trên máy của bạn hoặc gọi dịch vụ bằng thông tin xác thực của bạn. Hãy cài các server bạn tin tưởng, và xác nhận các thao tác có ghi dữ liệu hoặc tiêu tiền.
BroadNet Inference phù hợp ở đâu?
BroadNet Inference cung cấp phía model: GLM 5.3 và Qwen3.8 27B có liệt kê tool calling, qua định dạng chat completions chuẩn mà mọi MCP client ở trên đều dùng được, và không lưu giữ dữ liệu (zero data retention) với prompt và đầu ra. Dịch vụ không chạy MCP server hay công cụ hosted cho bạn; client của bạn làm việc đó. Giá mỗi token của cả hai model có trên trang giá, còn key có tại inference.broadnet.ai.
