BroadRouter
Bắt đầu

Blog BroadRouter

Cập nhật

Các bài viết của đội ngũ BroadNet Inference về chạy LLM và chuyển giọng nói thành văn bản trong môi trường production: gói giá cố định tốn bao nhiêu so với tính phí theo token, cách chạy agent song song, AI tiếng Ả Rập và việc lưu giữ dữ liệu. Mọi mức giá đều lấy từ tệp giá BroadNet công bố.

Kỹ thuật

  1. · 6 phút đọc

    Base URL của API tương thích OpenAI: 14 nhà cung cấp, đã kiểm tra

    base_url của 14 API LLM tương thích OpenAI, lấy từ tài liệu chính thức của từng bên, kèm các endpoint được liệt kê và những khác biệt làm hỏng việc đổi nhanh.

  2. · 8 phút đọc

    Cache phản hồi API LLM để giảm chi phí: cache khớp chính xác (Python)

    Cache khớp chính xác đã kiểm thử cho phản hồi API LLM bằng Python: key gồm gì, thứ không bao giờ cache, TTL, quyền riêng tư và cách đo tỷ lệ trúng trước khi xây.

  3. · 6 phút đọc

    Chép lời âm thanh dài trên 25 MB: tách, gửi và ghép lại

    Cách chép lời bản ghi vượt giới hạn tệp của API chuyển giọng nói thành văn bản: thu nhỏ tệp, tách tại khoảng lặng bằng ffmpeg, gửi song song và ghép văn bản.

  4. · 7 phút đọc

    Chunk size và overlap trong RAG: ảnh hưởng tới truy xuất và chi phí

    Chunk size và overlap thay đổi recall của RAG, kích thước index, chi phí embedding và số token mỗi truy vấn gửi tới LLM ra sao, kèm số liệu đã công bố.

  5. · 6 phút đọc

    Chuyển khỏi OpenAI API: hướng dẫn code bằng Python, Node, cURL

    Các thay đổi code để chuyển từ OpenAI sang API tương thích OpenAI: cài đặt client, từ Responses sang Chat Completions, công cụ, streaming, embeddings và smoke test.

  6. · 6 phút đọc

    Đặt max_tokens cho model suy luận: phương pháp lập ngân sách token

    Vì sao model suy luận trả về câu trả lời trống khi max_tokens thấp, và cách định ngân sách từ phân vị đo được, context window và cơ chế retry tăng dần.

  7. · 7 phút đọc

    Đưa bước người duyệt vào quy trình AI xử lý tài liệu

    Thiết kế bước người duyệt trong pipeline AI tài liệu: quy tắc kiểm tra, tài liệu nào cần gửi cho người, mẫu kiểm toán ngẫu nhiên, nhật ký kiểm toán và tỷ lệ duyệt.

  8. · 7 phút đọc

    Endpoint riêng bắt đầu từ một khối lượng công việc rõ ràng

    Cần xác định gì trước khi yêu cầu endpoint LLM riêng: khối lượng công việc, token mỗi giây, đồng thời, context, khu vực, giấy phép, ngân sách, rồi cách kiểm thử.

  9. · 8 phút đọc

    Failover API LLM: chuyển sang nhà cung cấp thứ hai bằng code của bạn

    Cách failover giữa các nhà cung cấp LLM tương thích OpenAI: lỗi nào cần chuyển, circuit breaker, ánh xạ model ID, streaming, chi phí và điều khoản dữ liệu.

  10. · 6 phút đọc

    Ghi âm trên trình duyệt và gửi tới API chuyển giọng nói thành văn bản

    Ghi âm micro bằng MediaRecorder, chuyển WebM hoặc MP4 của Safari sang WAV 16 kHz, rồi gửi tới API chép lời qua một server nhỏ giữ API key.

  11. · 7 phút đọc

    Giảm token prompt: số đo thực cho system prompt, tool và dữ liệu

    Số token tiết kiệm được khi rút gọn system prompt, ví dụ few-shot, tool schema, định dạng dữ liệu, lịch sử chat và dấu tiếng Ả Rập, đếm bằng tokenizer thật.

  12. · 8 phút đọc

    Giới hạn tốc độ API LLM theo nhà cung cấp: so sánh RPM, TPM, đồng thời

    Giới hạn tốc độ API LLM ở hạng đầu của 13 nhà cung cấp, đọc từ tài liệu chính thức: OpenAI, Anthropic, Gemini, Groq, DeepSeek, Fireworks…, kèm giải thích RPM, TPM.

  13. · 5 phút đọc

    Phần cứng GPU và cách phục vụ model của BroadNet, theo lời BroadNet

    Những gì BroadNet nói về phần cứng đằng sau BroadNet Inference: ba tầng GPU từ B300 đến thiết bị tại chỗ khách hàng, thông lượng mỗi GPU và bài học từ thử nghiệm.

  14. · 7 phút đọc

    Sửa JSON không hợp lệ từ LLM: nguyên nhân, sửa lỗi, thử lại

    Vì sao LLM trả về JSON hỏng (code fence, câu dẫn, bị cắt ở max_tokens, dấu phẩy thừa) và một hàm Python đã test, chỉ sửa phần an toàn và từ chối phần còn lại.

  15. · 7 phút đọc

    Trước khi fine-tune: xác định vấn đề cần giải quyết

    Khi nào prompt, RAG hay đánh giá đã giải quyết được vấn đề và không cần fine-tune, cần dữ liệu huấn luyện gì, và cách thử một bản fine-tune trước khi yêu cầu.

  16. · 3 phút đọc

    Uno trên Gemma 4 26B: nghiên cứu mixture-of-experts của BroadNet

    BroadNet đã huấn luyện adapter tự soạn nháp Uno đầu tiên cho một model mixture-of-experts, Gemma 4 26B A4B. Họ đo gì, khi nào tự soạn nháp có lợi, và DOI.

  17. · 4 phút đọc

    Uno trong vLLM: nghiên cứu phục vụ của BroadNet đã đo những gì

    BroadNet tích hợp adapter tự soạn nháp Uno vào vLLM và đo trên H100: throughput gấp 2,58 lần bản thường ở 1 luồng, 1,74 lần ở 32 luồng. Phương pháp, DOI và giới hạn.

  18. · 7 phút đọc

    Văn bản, giọng nói hay vision? Hãy bắt đầu từ tác vụ

    Chọn chat văn bản, đầu vào ảnh hay chép lời âm thanh theo tác vụ, với các model và giới hạn BroadNet công bố, cùng những gì họ không cung cấp, như TTS.

  19. · 8 phút đọc

    Xử lý LLM hàng loạt không cần Batch API: runner chạy tiếp được

    Chạy 10.000 đến 1.000.000 prompt qua API chat completions khi không có Batch API: giới hạn đồng thời, điều tốc, retry, checkpoint chạy tiếp và tính thời gian.

  20. · 6 phút đọc

    Bảo mật API key LLM: lưu trữ, xoay vòng và danh sách IP cho phép

    Giữ API key LLM ngoài code và log, cấp key riêng cho từng workload, xoay vòng định kỳ, khóa key vào IP server và thu hồi key bị lộ chỉ trong vài giây.

  21. · 4 phút đọc

    Cách cấu trúc prompt để phần đầu được cache

    Cách sắp xếp prompt LLM để phần đầu được cache luôn giống hệt: system prompt, tool schema, tài liệu, lịch sử chỉ nối thêm, cùng một phép thử để chứng minh điều đó.

  22. · 5 phút đọc

    Cách đánh giá LLM trước khi đổi nhà cung cấp

    Dựng bộ eval nhỏ từ traffic thật, chấm bằng kiểm tra code và LLM chấm điểm đã giảm thiên lệch, rồi so sánh chất lượng, chi phí và độ trễ trước khi chuyển.

  23. · 5 phút đọc

    Cách đếm token trước khi gửi request tới LLM

    Ước tính số token của prompt theo ngôn ngữ và model trước khi gọi API LLM: vì sao tokenizer khác nhau, số đo thực tế với năm ngôn ngữ và biên max_tokens an toàn.

  24. · 5 phút đọc

    Cách xử lý lỗi 429 của API LLM: backoff, jitter và giới hạn đồng thời

    429 khác 5xx thế nào, exponential backoff với full jitter, giới hạn đồng thời và hàng đợi cho API LLM, kèm code Python và Node có thể đưa thẳng vào production.

  25. · 5 phút đọc

    Chuyển sang API tương thích OpenAI: checklist khi chuyển đổi

    Đổi base_url là phần dễ. Thứ hay hỏng là model ID, token suy luận, usage khi streaming, lỗi, giới hạn tốc độ và key. Checklist kèm code cho từng bước.

  26. · 4 phút đọc

    Độ trễ LLM: TTFT, token mỗi giây và thời gian end-to-end

    Thời gian tới token đầu tiên, token mỗi giây và độ trễ end-to-end đo gì, cách đo từng chỉ số từ phía client bằng code, và cách tối ưu nào tác động tới chỉ số nào.

  27. · 4 phút đọc

    Ghi log sử dụng API LLM: chi phí theo người dùng, tính năng, ẩn PII

    Ghi log mọi lời gọi API LLM với token, chi phí, độ trễ và request ID, phân bổ chi tiêu theo người dùng và tính năng, và ẩn PII trước khi ghi. Có code Python.

  28. · 4 phút đọc

    Giải thích streaming LLM: chunk SSE, delta, usage và hủy

    Streaming chat completion thực sự truyền đi thế nào, cách ghép câu trả lời từ delta, đọc usage ở chunk cuối và hủy gọn gàng bằng Python, Node và curl.

  29. · 4 phút đọc

    JSON mode và json_schema: đầu ra có cấu trúc đáng tin cậy

    JSON mode cho JSON hợp lệ; json_schema cho đúng cấu trúc. Cách yêu cầu từng loại trên model tương thích OpenAI, validate bằng Pydantic và sửa đầu ra lỗi.

  30. · 4 phút đọc

    Khi nào context window 1M token đáng dùng (và khi nào không)

    Những gì vừa trong 1.048.576 token, chi phí trên DeepSeek V4.1 Flash, suy luận và cache thay đổi phép tính ra sao, và khi nào RAG vẫn là lựa chọn tốt hơn.

  31. · 5 phút đọc

    Long context và RAG: khi 1M token thay được vector DB

    Khi nào context window 1M token có thể thay thế vector database và khi nào RAG vẫn thắng, so sánh theo chi phí mỗi truy vấn, độ trễ, recall và công bảo trì.

  32. · 4 phút đọc

    Tool calling với model mở: schema, gọi song song, retry

    Function calling trên model mở tương thích OpenAI: mẹo viết schema, gọi công cụ song song, năm kiểu lỗi của tool call và một vòng lặp Python có validate và retry.

  33. · 4 phút đọc

    Trích xuất hóa đơn, biên lai, biểu mẫu sang JSON bằng LLM vision

    Pipeline production cho hóa đơn, biên lai, biểu mẫu: chuẩn bị ảnh, prompt theo JSON schema, kiểm tra Pydantic, kiểm tra cộng tổng, retry và hàng đợi duyệt.

AI tiếng Ả Rập

  1. · 6 phút đọc

    Biên bản họp tiếng Ả Rập từ bản ghi âm: một pipeline API

    Biến ghi âm cuộc họp tiếng Ả Rập thành biên bản có quyết định và đầu việc: chép lời, làm sạch, tóm tắt bằng LLM ra JSON, rồi kiểm tra tên và ngày tháng.

  2. · 7 phút đọc

    Chuẩn hóa văn bản tiếng Ả Rập cho tìm kiếm và RAG: đổi gì, giữ gì

    Tashkeel, dạng alef, ta marbuta, vị trí hamza, chữ Ba Tư, chữ số và Unicode: quy tắc chuẩn hóa tiếng Ả Rập nào giúp tìm kiếm, quy tắc nào gây hại, kèm code Python.

  3. · 8 phút đọc

    Dịch âm thanh tiếng Ả Rập sang văn bản tiếng Anh bằng API

    Biến bản ghi tiếng Ả Rập thành văn bản tiếng Anh bằng hai lần gọi API: chép lời với language=ar, rồi dịch bằng LLM, kèm kiểm tra số, chia đoạn, chi phí và chấm điểm.

  4. · 7 phút đọc

    Dịch chuỗi ứng dụng sang tiếng Ả Rập bằng LLM: placeholder và số nhiều

    Dịch file i18n JSON sang tiếng Ả Rập bằng API LLM: cố định placeholder, sinh đủ sáu dạng số nhiều, kiểm tra cú pháp ICU trong CI và cô lập tên được chèn.

  5. · 7 phút đọc

    Phân loại văn bản tiếng Ả Rập bằng LLM: cảm xúc, ý định, ticket

    Phân loại đánh giá, tin nhắn và ticket tiếng Ả Rập bằng API LLM: thiết kế nhãn, prompt theo phương ngữ, output JSON, test macro F1 và chi phí khi chạy số lượng lớn.

  6. · 7 phút đọc

    Phụ đề tiếng Ả Rập (SRT) từ API chuyển giọng nói: cần những gì

    File SRT cần gì, API chuyển giọng nói thành văn bản nào trả timestamp hay SRT cho tiếng Ả Rập, và một pipeline đã test để làm phụ đề từ API chỉ trả văn bản.

  7. · 8 phút đọc

    So sánh API OCR tiếng Ả Rập: Google, Azure, Textract, Mistral, LLM

    API OCR nào chính thức hỗ trợ tiếng Ả Rập in và viết tay, mỗi API trả về gì và tốn bao nhiêu mỗi 1.000 trang, so với các API LLM vision.

  8. · 8 phút đọc

    Sửa ngữ pháp và chính tả tiếng Ả Rập bằng LLM: hướng dẫn

    Sửa chính tả, ngữ pháp tiếng Ả Rập bằng API LLM: prompt sửa tối thiểu, chặn viết lại, chỉnh sửa theo từ phân loại theo lỗi và chấm điểm kiểu M2.

  9. · 8 phút đọc

    Thêm dấu cho tiếng Ả Rập bằng LLM: prompt, kiểm tra, DER

    Khôi phục dấu tiếng Ả Rập (tashkeel) bằng API LLM: prompt giữ nguyên từng chữ cái, bước kiểm tra loại bỏ chỉnh sửa, chấm DER và WER, và khi nào dùng CATT.

  10. · 7 phút đọc

    Thiết kế sản phẩm AI đa ngôn ngữ: tiếng Ả Rập, Anh, Tây Ban Nha

    Thiết kế sản phẩm AI cho người dùng Ả Rập, Anh và Tây Ban Nha: locale giao diện và ngôn ngữ model, RTL và văn bản hỗn hợp, số, ngày, nhận diện ngôn ngữ, chi phí.

  11. · 7 phút đọc

    Tóm tắt văn bản tiếng Ả Rập bằng LLM: prompt, độ dài và chấm điểm

    Tóm tắt bài báo, báo cáo, tin nhắn phương ngữ tiếng Ả Rập qua LLM API: mẫu prompt, kiểm soát số từ, kiểm tra con số và vì sao ROUGE mặc định cho tiếng Ả Rập điểm 0.

  12. · 7 phút đọc

    Trích xuất thực thể tiếng Ả Rập bằng LLM: JSON, ngày tháng, kiểm tra

    Trích xuất tên người, tổ chức, địa danh và ngày Hijri tiếng Ả Rập ra JSON bằng LLM: prompt, kiểm tra span bỏ qua dấu nguyên âm, quy đổi ngày và script chấm điểm.

  13. · 6 phút đọc

    API chuyển giọng nói thành văn bản: 14 ngôn ngữ, một endpoint

    Chép lời tiếng Anh, Tây Ban Nha, Pháp, Trung, Việt, Ả Rập và 8 ngôn ngữ khác qua một endpoint tương thích OpenAI giá theo phút, và khi nào dùng model tiếng Ả Rập.

  14. · 7 phút đọc

    API chuyển giọng nói tiếng Ả Rập thành văn bản: cách chọn năm 2026

    Cách chọn API chép lời tiếng Ả Rập: tỷ lệ lỗi từ, phương ngữ, giới hạn file, giá mỗi giờ âm thanh và quyền riêng tư, kèm kế hoạch test trên bản ghi của bạn.

  15. · 5 phút đọc

    Arabizi và LLM: xử lý tiếng Ả Rập Franco với các số như 3 và 7

    Arabizi viết tiếng Ả Rập bằng chữ Latin, dùng số như 3 cho ع và 7 cho ح. Cách nhận diện, chuyển sang chữ Ả Rập bằng LLM và trả lời đúng cách.

  16. · 4 phút đọc

    Chép lời ghi âm tổng đài: pipeline sẵn sàng cho tiếng Ả Rập

    Tách cuộc gọi stereo theo kênh, cắt lượt nói, chép lời tiếng Ả Rập và tiếng Anh, che PII và tóm tắt từng cuộc gọi bằng LLM. Pipeline Python chạy được, kèm chi phí.

  17. · 7 phút đọc

    Chọn API LLM cho tiếng Ả Rập: cần test những gì

    Cách chọn LLM cho ứng dụng tiếng Ả Rập: hiểu phương ngữ, chất lượng viết, dịch thuật, tài liệu và hình ảnh tiếng Ả Rập, chi phí, kèm bộ test làm xong trong một ngày.

  18. · 5 phút đọc

    Dịch Ả Rập–Anh bằng LLM: prompt, bảng thuật ngữ, đánh giá

    Dịch tiếng Ả Rập sang tiếng Anh và ngược lại bằng API LLM: prompt giữ giọng văn, bảng thuật ngữ cố định, số và tên riêng, và cách đánh giá chất lượng.

  19. · 5 phút đọc

    Kiến trúc chatbot WhatsApp tiếng Ả Rập: từ tin nhắn thoại đến trả lời

    Kiến trúc chạy được cho trợ lý WhatsApp tiếng Ả Rập: webhook, hàng đợi, chép lời tin nhắn thoại, LLM trả lời, quy tắc chính sách và chi phí, kèm code Python.

  20. · 5 phút đọc

    Nhận dạng giọng nói phương ngữ Ả Rập: Vịnh, Ai Cập, Levant, Maghreb

    Vì sao chuyển giọng nói thành văn bản gặp khó với phương ngữ Ả Rập vùng Vịnh, Ai Cập, Levant, Maghreb, và cách xây bộ test theo phương ngữ cho âm thanh của bạn.

  21. · 5 phút đọc

    OCR tiếng Ả Rập hay vision LLM: đọc tài liệu và hóa đơn tiếng Ả Rập

    Khi nào dùng OCR, khi nào dùng vision LLM cho hóa đơn, biên lai, biểu mẫu tiếng Ả Rập: bẫy độ chính xác, đầu ra JSON, chi phí mỗi trang và pipeline kiểm tra.

  22. · 5 phút đọc

    Prompt engineering tiếng Ả Rập: văn phong, RTL, chữ số và văn bản trộn

    Viết prompt để LLM cho ra tiếng Ả Rập tốt: chọn văn phong và phương ngữ, kiểm soát chữ số và ngày tháng, giữ định dạng RTL sạch và xử lý văn bản trộn Ả Rập–Anh.

  23. · 6 phút đọc

    RAG tiếng Ả Rập: chuẩn hóa, chia chunk và truy xuất hiệu quả

    RAG trên tài liệu tiếng Ả Rập: chuẩn hóa alef, ya và ta marbuta, chia chunk hợp lý, chọn embedding đa ngôn ngữ và kết hợp tìm kiếm từ khóa.

  24. · 6 phút đọc

    Tiếng Ả Rập vùng Vịnh, Ai Cập và Levant: LLM xử lý phương ngữ ra sao

    LLM xử lý tiếng Ả Rập vùng Vịnh, Ai Cập và Levant thế nào: chỗ chúng sai, cách viết prompt cho phương ngữ, cách test, và BroadNet báo cáo gì về Qwen3.8 27B.

  25. · 4 phút đọc

    Tin nhắn thoại thành văn bản cho doanh nghiệp: WhatsApp, Telegram

    Biến tin nhắn thoại của khách hàng từ WhatsApp Business và bot Telegram thành bản chép lời và ticket hỗ trợ: tải về, chép lời, trích xuất bằng LLM, định tuyến.

  26. · 5 phút đọc

    Tỷ lệ lỗi từ (WER) trong nhận dạng giọng nói tiếng Ả Rập

    WER là gì, tính thế nào, và vì sao WER tiếng Ả Rập rất nhạy với dấu nguyên âm, chuẩn hóa chính tả và phương ngữ. Kèm code Python và số liệu thật.

Giá

  1. · 8 phút đọc

    Cách giảm chi phí API LLM: checklist 10 bước theo đúng thứ tự

    Giảm hóa đơn API LLM đúng thứ tự: đo lường, cache phần đầu prompt, rút gọn prompt, giới hạn đầu ra và suy luận, chọn model, batch, và khi nào nên dùng gói cố định.

  2. · 9 phút đọc

    Chi phí API model trọng số mở so với model đóng: dữ liệu giá nói gì

    Model trọng số mở qua API có rẻ hơn GPT, Claude hay Gemini? Giá theo token từ trang của chính nhà cung cấp, chênh lệch theo nhà host và chi phí mỗi người dùng.

  3. · 12 phút đọc

    Giá API LLM chỉ giảm? 52 lần tăng giá và cách lập ngân sách

    Giá API LLM vẫn có thể tăng: 52 lần tăng giá niêm yết trên cùng model trong trang giá lưu trữ 2024–2026, trung vị 40%. Kèm nguồn và quy tắc ngân sách.

  4. · 7 phút đọc

    Giá API LLM thay đổi thường xuyên đến mức nào? 3 năm trang giá lưu trữ

    Chúng tôi đọc 308 trang giá lưu trữ của 11 nhà cung cấp API LLM, 2023–2026. 80% model chưa từng đổi giá; DeepInfra chiếm 75% tổng số lần thay đổi giá niêm yết.

  5. · 8 phút đọc

    Giảm giá API LLM 2023–2026: những lần giảm lớn nhất, kèm nguồn

    Những lần giảm giá API LLM lớn nhất 2023–2026, mỗi lần kèm link Internet Archive trước và sau: o3, Codestral, Gemini 1.5, và cả những lần tăng giá ít ai để ý.

  6. · 6 phút đọc

    10 cách giảm chi phí LLM cho coding agent, kèm mức tiết kiệm ước tính

    Mười cách cụ thể để giảm chi phí token của Cline, Aider, opencode hay coding agent tự viết, mỗi cách kèm phép tính mức tiết kiệm và cách đo kết quả.

  7. · 5 phút đọc

    API key LLM theo giờ: giá cố định mỗi giờ, giải thích rõ

    Key theo giờ của BroadNet cho bạn một giờ dùng Gemma 4 VL 26B trên một luồng với giá cố định. Gồm những gì, giới hạn ra sao, hợp với ai và khi nào thì có lợi.

  8. · 8 phút đọc

    API LLM giá cố định hay trả theo token: phép tính hòa vốn

    Khi nào gói LLM giá cố định rẻ hơn trả theo token? Bốn ví dụ hóa đơn hằng tháng cho DeepSeek V4.1 Flash, khối lượng hòa vốn và cách tự đo mức dùng của bạn.

  9. · 5 phút đọc

    API LLM vision rẻ nhất: chi phí mỗi ảnh và mỗi trang, tính cụ thể

    Một lần gọi LLM vision tốn bao nhiêu cho mỗi ảnh và mỗi trang tài liệu: phép tính token cho Gemma 4, Qwen3.8 27B và DeepSeek V4.1 Flash, và khi nào DeepInfra rẻ hơn.

  10. · 6 phút đọc

    Cách ước tính chi phí API LLM trước khi ra mắt một tính năng

    Mô hình chi phí từng bước cho một tính năng AI mới: người dùng × thao tác × lệnh gọi × token, kèm cache, suy luận, retry, giới hạn tốc độ và bảng ví dụ theo tháng.

  11. · 6 phút đọc

    Chi phí LLM mỗi người dùng: unit economics cho tính năng AI SaaS

    Tính chi phí một tính năng AI trên mỗi người dùng đang hoạt động mỗi tháng, vì sao người dùng nặng quan trọng hơn mức trung bình, và cách định giá các hạng gói SaaS.

  12. · 5 phút đọc

    Giá API DeepSeek V4.1 Flash: theo token, đầu vào từ cache và gói

    Giá API DeepSeek V4.1 Flash mỗi 1M token đầu vào, từ cache và đầu ra; gói cố định theo tháng, tuần, giờ; và so sánh với DeepSeek, DeepInfra, Fireworks.

  13. · 6 phút đọc

    Giá API LLM: cách tính token đầu vào, cache, đầu ra và suy luận

    Giá API LLM theo token hoạt động thế nào: đầu vào, đầu vào từ cache, đầu ra, token suy luận, hình ảnh và âm thanh tính theo phút, kèm ví dụ từ bảng giá công khai.

  14. · 5 phút đọc

    Gói LLM theo tuần cho dự án ngắn: Orbit, theo giờ hay theo tháng

    Khi nào gói DeepSeek V4.1 Flash không giới hạn một tuần có lợi hơn phiên theo giờ, gói tháng hay trả theo token, kèm phép tính cho hackathon, sprint và migration.

  15. · 5 phút đọc

    Kiểm soát chi phí API LLM: ngân sách, giới hạn key và chặn vòng lặp

    Chặn hóa đơn API LLM tăng vọt: số dư trả trước, mỗi ứng dụng một key, danh sách IP cho phép, log mức dùng, ngân sách trong code, trần vòng lặp, key giá cố định.

  16. · 6 phút đọc

    Số token mỗi từ: tiếng Ả Rập và tiếng Anh, vì sao tiếng Ả Rập đắt hơn

    Vì sao cùng một nội dung, tiếng Ả Rập thường tốn nhiều token LLM hơn tiếng Anh, vì sao số token mỗi từ gây hiểu lầm, và script đo tỷ lệ của bạn từ trường usage.

  17. · 6 phút đọc

    Tín dụng API LLM miễn phí: khoản tín dụng ban đầu dùng được bao lâu

    Tín dụng API LLM miễn phí thực sự mua được gì: token, phút âm thanh và key theo giờ với tín dụng ban đầu của BroadNet, so với gói miễn phí của Gemini và OpenRouter.

  18. · 5 phút đọc

    Token đầu vào từ cache: cách giảm hóa đơn API LLM

    Đầu vào từ cache chỉ tốn một phần nhỏ giá đầu vào thường. Cách tính phí prompt caching, cách đọc cached_tokens trong usage và cách cấu trúc prompt để cache trúng.

  19. · 4 phút đọc

    Token suy luận: vì sao bạn trả cho nhiều đầu ra hơn những gì thấy

    Model suy luận tính phần suy nghĩ ẩn như token đầu ra. Cách đo, chi phí theo từng model, và cách cắt giảm bằng reasoning_effort, max_tokens và định tuyến.

Agent

  1. · 7 phút đọc

    Chi phí một lần chạy AI coding agent: số bước, context và cache

    Vì sao lần chạy coding agent càng dài thì mỗi bước càng đắt, cache thay đổi tổng chi phí ra sao, và khi nào phiên giá cố định thắng trả theo token. Kèm phép tính.

  2. · 6 phút đọc

    Claude Code với model mở: proxy, endpoint gốc và giới hạn

    Claude Code dùng Anthropic Messages API. Cách chạy nó với model mở qua proxy LiteLLM hoặc endpoint gốc, và những gì có thể hỏng trên đường đi.

  3. · 6 phút đọc

    OpenClaw và Hermes Agent với model giá rẻ: cài đặt và tính token

    Kết nối OpenClaw hoặc Hermes Agent với endpoint tương thích OpenAI, hiểu vì sao kiểm tra định kỳ đốt token, và giảm hóa đơn bằng context nhẹ, model rẻ hơn.

  4. · 8 phút đọc

    Prompt injection trong coding agent: cách phòng thủ thực sự hiệu quả

    Prompt injection lọt vào coding agent từ đâu, và các lớp phòng thủ được nhà cung cấp, nhà nghiên cứu ghi nhận: sandbox, chặn mạng ra ngoài, allow-list và phê duyệt.

  5. · 7 phút đọc

    “Không giới hạn” trong gói API LLM thực sự có nghĩa là gì

    Đồng hồ đo token, cửa sổ cuộn 5 giờ, trần tuần, giới hạn tốc độ và đồng thời. Bảy câu hỏi để biết gói AI “không giới hạn” có thật sự vô hạn với agent của bạn.

  6. · 4 phút đọc

    Agent chạy dài: timeout, retry và checkpoint đứng vững

    Giữ một agent LLM chạy hàng giờ: timeout cho từng lệnh gọi, streaming để phát hiện treo, retry an toàn, tác dụng phụ idempotent của tool và checkpoint sau mỗi bước.

  7. · 5 phút đọc

    Cách chạy coding agent qua đêm không cần giám sát mà vẫn an toàn

    Thiết lập thực tế để chạy coding agent không giám sát: sandbox, checkpoint git, tệp nhiệm vụ, giới hạn số bước, review buổi sáng và phiên gói giá cố định qua đêm.

  8. · 5 phút đọc

    Cách chạy coding agent song song trên API LLM giá cố định

    Sub-agent, orchestrator và batch worker trên DeepSeek V4.1 Flash không giới hạn: cần bao nhiêu phiên, chia phiên cho các key và giới hạn request chồng lấn.

  9. · 4 phút đọc

    Chi phí thật của multi-agent: trả theo token hay phiên giá cố định

    Hệ thống multi-agent đốt token gấp nhiều lần một agent. Phép tính phiên cho gói giá cố định và trả theo token, các hệ số nhân ẩn, và khi nào mỗi cách thắng.

  10. · 4 phút đọc

    Dùng MCP server với model tương thích OpenAI (mọi nhà cung cấp)

    MCP chạy được với mọi LLM: client biến công cụ MCP thành function call. Cách dùng MCP với model mở trong Cline, Continue, opencode, n8n hoặc code Python của bạn.

  11. · 4 phút đọc

    Dùng model mở trong coding agent: Aider, Cline, opencode, Codex

    Trỏ Aider, Cline, Roo Code, opencode, Continue và Codex CLI tới bất kỳ endpoint tương thích OpenAI nào. Tên field chính xác cho từng công cụ và thiết lập hay hỏng.

  12. · 6 phút đọc

    LLM tốt nhất cho Aider: cách chọn model và kết nối

    Cách chọn LLM tốt nhất cho Aider: tuân thủ edit format, kích thước context, chi phí mỗi giờ, bài thử một giờ trên repo của bạn và cấu hình OPENAI_API_BASE đúng.

  13. · 6 phút đọc

    Model mở tốt nhất cho coding agent: chọn theo tool, context và chi phí

    GLM 5.3, DeepSeek V4.1 Flash, Qwen3.8 27B hay Gemma 4 cho coding agent của bạn? Chọn theo tool calling, context, suy luận và chi phí mỗi tác vụ, kèm phép tính.

  14. · 5 phút đọc

    n8n AI Agent với LLM giá rẻ: cài đặt, model, chi phí mỗi lần chạy

    Xây workflow n8n AI Agent trên model tương thích OpenAI giá thấp: chọn model nào cho tool, thiết lập nào giảm token, và phép tính chi phí cho 10.000 lần chạy.

  15. · 5 phút đọc

    Ngân sách token của agent: token trong vòng lặp agent đi đâu

    System prompt, schema tool, đọc file, lịch sử và suy luận: vòng lặp agent tiêu token thế nào, cách đo từng phần từ dữ liệu usage và nên cắt gì trước.

  16. · 6 phút đọc

    Quản lý context cho agent chạy dài với cửa sổ 1M token

    Giữ phiên agent dài chính xác và rẻ với cửa sổ 1M token: lịch sử chỉ nối thêm, prompt thân thiện với cache, khi nào nén và nên cắt gì trước.

So sánh

  1. · 7 phút đọc

    Cùng model, khác nhà host: giá API LLM chênh nhau bao nhiêu

    Với 119 model được nhiều nhà host bán, giá niêm yết đắt nhất có trung vị bằng 1,76 lần giá rẻ nhất. Dữ liệu từ trang giá của 41 nhà cung cấp, tháng 11/2026.

  2. · 12 phút đọc

    Lịch sử giá API OpenAI, Anthropic và Google, 2023–2026

    Giá API GPT, Claude và Gemini đặt cạnh nhau từ các trang giá lưu trữ, 2023–2026: dòng nào rẻ đi, dòng nào đắt lên, mỗi mức giá đều kèm link lưu trữ.

  3. · 7 phút đọc

    Live, theo yêu cầu, nghiên cứu: đọc danh mục model cho đúng

    Cách phân biệt model trong danh mục nào gọi được ngay, model nào cần liên hệ và model nào chỉ mới được test, lấy danh mục của BroadNet và /v1/models làm ví dụ.

  4. · 7 phút đọc

    Lựa chọn thay thế Artificial Analysis: nơi so sánh LLM năm 2026

    Các lựa chọn thay thế Artificial Analysis: Arena, Epoch AI, Vals AI, bảng xếp hạng OpenRouter, Hugging Face và dữ liệu giá, theo thứ mỗi bên đo và khi nào nên dùng.

  5. · 4 phút đọc

    Những model BroadNet đã đánh giá và loại bỏ, kèm lý do

    BroadNet công bố các model đã thử và loại bỏ kèm lý do: model chat trượt bài kiểm tra an toàn thông tin xác thực, model giọng nói, OCR và embedding bị vượt mặt.

  6. · 7 phút đọc

    So sánh SLA API LLM: Azure, Bedrock, Google và OpenAI cam kết gì

    Mỗi nhà cung cấp API LLM cam kết gì bằng văn bản: tỷ lệ uptime, thế nào là downtime, tín dụng dịch vụ và mục tiêu độ trễ, đọc trực tiếp từ các trang SLA.

  7. · 5 phút đọc

    Cách chọn nhà cung cấp API LLM: checklist 20 điểm

    20 câu hỏi cần đặt ra trước khi chọn API LLM: giá, giới hạn, tương thích OpenAI, quyền riêng tư, model, hỗ trợ và uptime, kèm bảng chấm điểm và kế hoạch thử nghiệm.

  8. · 5 phút đọc

    Cline, Roo Code hay Aider cho team dùng model mở (2026)

    So sánh Cline, Roo Code (đã lưu trữ, tiếp nối bởi Zoo Code) và Aider theo những gì quan trọng với model mở: tool call, mức dùng context, MCP, git và phê duyệt.

  9. · 5 phút đọc

    GLM 5.3 và DeepSeek V4.1 Flash: nên dùng model nào, khi nào

    So sánh GLM 5.3 và DeepSeek V4.1 Flash về giá, context, tool calling, đầu ra có cấu trúc, hình ảnh và suy luận, kèm chi phí mẫu và quy tắc chọn đơn giản.

  10. · 4 phút đọc

    LLM open-weight hay đóng cho doanh nghiệp: chi phí, kiểm soát, rủi ro

    LLM open-weight hay model đóng cho doanh nghiệp? So sánh chi phí, kiểm soát, quyền riêng tư, khoảng cách chất lượng, sự phụ thuộc và ba cách chạy model mở.

  11. · 5 phút đọc

    OpenRouter hay gói giá cố định cho AI agent: bên nào rẻ hơn?

    OpenRouter tính theo token cộng phí mua credit; gói cố định tính theo phiên. Chi phí cho agent chạy liên tục, phí và giới hạn của OpenRouter, và bên nào phù hợp.

  12. · 7 phút đọc

    So sánh giá API chuyển giọng nói thành văn bản: giá mỗi phút năm 2026

    Giá mỗi phút và mỗi 1.000 giờ của OpenAI, Google, AWS, Deepgram, AssemblyAI, Speechmatics, Groq và BroadNet Transcribe từ trang chính thức, kèm các khoản phụ phí.

  13. · 7 phút đọc

    So sánh giá API model mở: 6 nhà cung cấp inference tính phí ra sao

    OpenRouter, Together AI, Fireworks, Groq, DeepInfra và BroadNet tính giá model mở thế nào: theo token, cache, batch, giờ GPU và gói cố định, kèm nguồn giá.

  14. · 6 phút đọc

    Thay thế API DeepSeek: 5 cách gọi model DeepSeek

    Gọi model DeepSeek qua API chính thức, aggregator, danh mục cloud, GPU của riêng bạn hoặc BroadNet Inference: đánh đổi về giá, quyền riêng tư và giới hạn.

  15. · 6 phút đọc

    Thay thế Whisper API: khi nào nên chuyển và cách test

    Khi nào nên dùng một API được host thay cho OpenAI Whisper API: tỷ lệ lỗi từ trên âm thanh của bạn, ngôn ngữ, giá mỗi giờ, giới hạn và quyền riêng tư, kèm code test.

  16. · 5 phút đọc

    Tự host LLM hay dùng API: chi phí thực và điểm hòa vốn

    Giá thuê GPU từ trang chính thức, công thức tính chi phí mỗi 1M token trên GPU của bạn, mức sử dụng cần đạt để rẻ hơn API, và chi phí vận hành hay bị quên.

Quyền riêng tư

  1. · 3 phút đọc

    Kiểm tra độ an toàn dữ liệu nhạy cảm của LLM: phương pháp BroadNet

    Phương pháp BroadNet công bố để kiểm tra LLM có làm lộ credential, PII, dữ liệu y tế hay tài chính trước khi triển khai: nhóm dữ liệu, rò rỉ và bỏ sót, chạy 3+ lần.

  2. · 7 phút đọc

    Luật bảo vệ dữ liệu Ai Cập (Luật 151 năm 2020) và API LLM

    Gửi dữ liệu cá nhân của người Ai Cập tới API LLM hay chuyển giọng nói nước ngoài: Luật 151/2020 và Quyết định 816/2025 nói gì về chuyển dữ liệu, giấy phép và rò rỉ.

  3. · 8 phút đọc

    PDPL Ả Rập Xê Út và UAE với API LLM: checklist chuyển dữ liệu

    Gửi dữ liệu cá nhân tới API LLM từ Ả Rập Xê Út hoặc UAE: quy định chuyển dữ liệu của PDPL nói gì, nên hỏi nhà cung cấp gì, và khi nào cần inference trong nước.

  4. · 3 phút đọc

    Safety Map: 39 LLM xử lý dữ liệu nhạy cảm như thế nào

    BroadNet khảo sát 39 LLM từ 14 phòng lab về credential, PII, dữ liệu y tế và tài chính: điều gì chuyển giao được, điều gì không, và rò rỉ qua tool call, suy luận.

  5. · 5 phút đọc

    API LLM không lưu giữ dữ liệu: checklist 10 câu hỏi

    “Không lưu giữ dữ liệu” nên có nghĩa gì với API LLM: prompt, đầu ra, log, huấn luyện, bên xử lý phụ và kiểm tra. Mười câu cần hỏi trước khi gửi dữ liệu.

  6. · 5 phút đọc

    GDPR và API LLM: 15 câu hỏi cần đặt cho nhà cung cấp

    Checklist GDPR cho API LLM: DPA, bên xử lý phụ, lưu giữ, huấn luyện, chuyển dữ liệu quốc tế và thông báo vi phạm, kèm điều khoản GDPR sau mỗi câu hỏi.

  7. · 5 phút đọc

    Gửi dữ liệu nhạy cảm tới API LLM: che, tối thiểu hóa, ghi log ít

    Cách gửi dữ liệu khách hàng, sức khỏe hay tài chính tới API LLM an toàn: phân loại trường, che bằng placeholder đảo ngược được, không lưu giữ dữ liệu, log sạch.

  8. · 6 phút đọc

    So sánh lưu giữ dữ liệu API LLM: OpenAI, Anthropic, Gemini, Mistral

    OpenAI, Anthropic, Gemini API, Mistral và BroadNet chính thức nói gì về việc lưu prompt API và dùng chúng để huấn luyện, trích nguyên văn vào tháng 11/2026.

Đọc dạng MarkdownHỏi ChatGPTHỏi ClaudeHỏi Perplexity