BroadRouter

खाड़ी, मिस्री और लेवेंटाइन अरबी: LLM बोलियों को कैसे संभालते हैं

BroadNet Inference टीम · 6 मिनट में पढ़ें · प्रकाशित

LLM अरबी बोलियों को असमान रूप से संभालते हैं: वे आमतौर पर मिस्री और खाड़ी अरबी को लिखने से बेहतर समझते हैं, और कम आम बोलियों पर गुणवत्ता गिरती है। समझ और लेखन को अपने मैसेज पर अलग-अलग टेस्ट करें। BroadNet के अपने टेस्ट में Qwen3.8 27B ने खाड़ी और मिस्री बोलियाँ समझीं और धाराप्रवाह अरबी लिखी। इसकी कीमत प्रति 1M इनपुट टोकन $0.175 है।

LLM आमतौर पर खाड़ी और मिस्री अरबी को लिखने से बेहतर समझते हैं, और कम आम बोलियों पर बुरा करते हैं। रियाद, काहिरा और बेरूत का एक-एक ग्राहक “आपको क्या चाहिए?” तीन अलग वाक्यों में पूछ सकता है, और मानक आधुनिक अरबी (MSA) को अच्छे से संभालने वाला मॉडल भी उन्हें ग़लत पढ़ सकता है। समझ और लेखन को अलग-अलग टेस्ट करें।

यह पोस्ट बताती है कि बड़े बोली समूहों के बीच क्या बदलता है, LLM कहाँ चूकते हैं, और असली ग्राहकों के साथ भरोसा करने से पहले मॉडल को कैसे टेस्ट करें।

बोलियाँ असल में कितनी अलग हैं?

रोज़मर्रा के शब्दों में बहुत अलग, औपचारिक शब्दावली में काफ़ी क़रीब। रिसर्च corpora पैमाना दिखाते हैं: MADAR corpus ने यात्रा के एक जैसे वाक्यों का 25 अरब शहरों की बोलियों में अनुवाद किया। तालिका कुछ आम वाक्यांश दिखाती है। MSA कॉलम वह है जो पाठ्यपुस्तक छापेगी; बाक़ी बोलचाल और मैसेज के आम रूप हैं। वर्तनी व्यक्ति-दर-व्यक्ति बदलती है, जो समस्या का हिस्सा है।

अर्थ MSA खाड़ी (सऊदी / अमीराती) मिस्री लेवेंटाइन
आपको क्या चाहिए? ماذا تريد؟ وش تبي؟ / شو تبي؟ عايز إيه؟ شو بدّك؟
आप कैसे हैं? كيف حالك؟ شلونك؟ إزيك؟ كيفك؟
अभी الآن الحين دلوقتي هلّق
मुझे नहीं पता لا أعرف ما أدري مش عارف ما بعرف
बहुत / ज़्यादा جداً وايد أوي كتير

LLM के लिए तीन पैटर्न मायने रखते हैं:

  • Function words बदलते हैं। प्रश्नवाचक शब्द, नकार और “चाहना” बोलियों के बीच पूरी तरह अलग हैं। ये छोटे, बार-बार आने वाले शब्द वाक्य का अर्थ तय करते हैं, इसलिए एक को ग़लत पढ़ने से इरादा उलट जाता है।
  • वर्तनी मानक नहीं है। बोलियाँ ज़्यादातर बोली जाती हैं, इसलिए लोग उन्हें वैसे लिखते हैं जैसे वे सुनाई देती हैं। एक ही शब्द अलग अक्षरों के साथ, हम्ज़ा के साथ या बिना, या लैटिन लिपि में (Arabizi) दिख सकता है।
  • Code-switching आम है। खाड़ी के बिज़नेस मैसेज में अंग्रेज़ी प्रोडक्ट नाम मिले होते हैं; लेवेंटाइन और मग़रिबी बोलने वाले फ़्रेंच मिलाते हैं। मॉडल को एक वाक्य में दोनों लिपियाँ संभालनी होती हैं।

LLM अरबी बोलियों पर कहाँ चूकते हैं?

मॉडल जो टेक्स्ट देखते हैं उसी से सीखते हैं, और अमीराती या सूडानी जैसी छोटी बोलियों का सार्वजनिक टेक्स्ट मानक आधुनिक अरबी से बहुत कम है। व्यवहार में यह कुछ बार-बार होने वाली ग़लतियों के रूप में दिखता है:

  1. बोली के शब्द को किसी दूसरे MSA शब्द के रूप में पढ़ना। खाड़ी का “أبي” (मैं चाहता हूँ) MSA के “أبي” (मेरे पिता) जैसा दिखता है। संदर्भ आमतौर पर इसे सुलझा देता है, लेकिन छोटे मॉडल कभी-कभी नहीं।
  2. ग़लत इरादे का जवाब देना। “الطلب لسه موصلش” (ऑर्डर अभी तक नहीं पहुँचा) जैसी छोटी मिस्री शिकायत के लिए मॉडल को जानना होगा कि “لسه” का मतलब “अभी तक” है और “موصلش” नकारात्मक क्रिया है।
  3. मिली-जुली बोली लिखना। “खाड़ी अरबी में” जवाब देने को कहने पर कमज़ोर मॉडल मिस्री, लेवेंटाइन और MSA का ऐसा मिश्रण बनाते हैं जो कोई मूल वक्ता नहीं लिखेगा। यह ग़लत समझने से ज़्यादा आम है।
  4. ज़रूरत से ज़्यादा सुधारना। जब आप ग्राहक की बोली का उद्धरण माँगते हैं, तब कुछ मॉडल उसे MSA में “ठीक” कर देते हैं, जिससे extraction के काम टूटते हैं।

आम नियम: मॉडल बोलियों को लिखने से बेहतर समझते हैं। अपना प्रोडक्ट इसी के आसपास योजना बनाकर बनाएँ।

BroadNet ने अरबी बोलियों पर क्या टेस्ट किया है?

BroadNet अपने pricing पेज पर अपनी अरबी जाँच प्रकाशित करता है। Qwen3.8 27B के लिए यह रिपोर्ट करता है:

  • धाराप्रवाह अरबी लेखन,
  • खाड़ी और मिस्री बोलियों की समझ,
  • सटीक अरबी–अंग्रेज़ी अनुवाद।

BroadNet यही कहता है, इससे ज़्यादा कुछ नहीं। यह लेवेंटाइन, इराक़ी या मग़रिबी का कोई नतीजा प्रकाशित नहीं करता, और बोली लेखन का कोई स्कोर भी नहीं। अगर लेवेंटाइन ग्राहक आपके लिए मायने रखते हैं, तो नीचे के तरीक़े से उन्हें ख़ुद टेस्ट करें।

Qwen3.8 27B टेक्स्ट और इमेज लेता है, tools और structured output सपोर्ट करता है, जवाब से पहले reasoning करता है और इसका कॉन्टेक्स्ट 262,144 टोकन है। प्रति 1M टोकन इसकी कीमत इनपुट के लिए $0.175 और आउटपुट के लिए $2.17 है। दूसरे चैट मॉडल की तुलना pricing पेज पर करें, और बड़ी चेकलिस्ट के लिए, जो लेखन, अनुवाद और दस्तावेज़ भी कवर करती है, अरबी के लिए LLM API चुनना देखें।

किसी ख़ास बोली के लिए LLM को प्रॉम्प्ट कैसे करें?

बताएँ कि आप कौन-सी बोली की उम्मीद करते हैं, जवाब किस में चाहिए और कितना औपचारिक होना है। सऊदी रिटेल इनबॉक्स के लिए अच्छा काम करने वाला system प्रॉम्प्ट:

import os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])

system = (
    "You are a customer-service assistant for a Saudi online store. "
    "Customers write in Gulf Arabic (often Saudi), MSA, English or Arabizi. "
    "Understand all of them. Reply in simple, polite Modern Standard Arabic, "
    "in two or three short sentences. If the customer writes in English, reply in English. "
    "Never invent order details."
)

response = client.chat.completions.create(
    model="broadnet/qwen3.8-27b",
    max_tokens=2000,  # the model reasons first; leave room for the answer
    messages=[
        {"role": "system", "content": system},
        {"role": "user", "content": "السلام عليكم، طلبي للحين ما وصل، وش السالفة؟"},
    ],
)
print(response.choices[0].message.content)

ग्राहक का मैसेज खाड़ी अरबी में है: “नमस्ते, मेरा ऑर्डर अभी तक नहीं पहुँचा, क्या मामला है?” “للحين” (अभी तक) और “وش السالفة” (क्या क़िस्सा है / क्या चल रहा है) खाड़ी के रूप हैं। अच्छा जवाब MSA में देरी स्वीकार करता है और ऑर्डर नंबर माँगता है।

प्रॉम्प्ट की कुछ और आदतें जो मदद करती हैं:

  • सिर्फ़ इलाक़ा नहीं, देश का नाम लें। “खाड़ी अरबी” में सऊदी, अमीराती, कुवैती, क़तरी, बहरीनी और ओमानी बोली आती है, जो अलग-अलग हैं। अगर आप बाज़ार जानते हैं, तो बताएँ।
  • Extraction के कामों में बोली का लेबल माँगें। routing या analytics के लिए मॉडल से structured output के ज़रिए {"dialect": "gulf" | "egyptian" | "levantine" | "msa" | "other", "intent": ...} लौटवाएँ। यह जानने का सस्ता तरीक़ा है कि आपके ग्राहक कौन हैं।
  • निर्देश एक ही भाषा में रखें। अरबी सामग्री के साथ अंग्रेज़ी निर्देश ज़्यादातर मॉडल पर अच्छा काम करते हैं। अरबी निर्देश भी काम करते हैं; एक system प्रॉम्प्ट में दोनों मिलाने से भाषा-रूप धुंधला पड़ता है। इस पर और अरबी प्रॉम्प्ट इंजीनियरिंग में।

क्या बोली में जवाब देना चाहिए भी?

ज़्यादातर बिज़नेस के लिए नहीं। सरल MSA (जिसे कभी-कभी “सफ़ेद” या तटस्थ अरबी कहते हैं) हर अरबी पाठक समझता है, प्रोफ़ेशनल लगती है और ऐसे जवाब का जोखिम टालती है जो ग़लत देश का लगे। बोली में जवाब अनौपचारिक ब्रांड, एक बाज़ार के लिए लिखी मार्केटिंग कॉपी, और उन वॉइस प्रोडक्ट के लिए समझ में आते हैं जहाँ MSA कठोर लगती है। अगर आप यह रास्ता चुनते हैं, तो हर हफ़्ते उसी बोली के मूल वक्ताओं से आउटपुट के एक सैंपल की समीक्षा करवाएँ।

एक दिन में बोली संभालने की क्षमता कैसे टेस्ट करें?

  1. असली मैसेज जमा करें। अपने इनबॉक्स, चैट logs या ट्रांसक्राइब किए वॉइस नोट से हर बोली के 30 से 50 गुमनाम मैसेज लें। नाम, फ़ोन नंबर और ऑर्डर नंबर हटाएँ।
  2. इरादे का लेबल लगाएँ। हर मैसेज के लिए सही इरादा और वे तथ्य लिखें जो मॉडल को निकालने चाहिए (ऑर्डर नंबर, प्रोडक्ट, तारीख़)।
  3. समझ टेस्ट करें। हर उम्मीदवार मॉडल से इरादा और फ़ील्ड JSON में लौटाने को कहें। exact matches स्कोर करें। यही नंबर तय करता है कि routing काम करती है या नहीं।
  4. लेखन टेस्ट करें। हर बोली के दस मैसेज के लिए जवाब माँगें। किसी मूल वक्ता से हर जवाब को सही होने, लहजे और स्वाभाविकता पर 1–3 ग्रेड दिलवाएँ। जो बोली आप नहीं बोलते, उसे ग्रेड न करें।
  5. लागत और गति जाँचें। हर कॉल के लिए usage.prompt_tokens, usage.completion_tokens और latency दर्ज करें। बोली वाला टेक्स्ट MSA से अलग तरह tokenise हो सकता है, इसलिए अंदाज़ा नहीं, माप लें; मुफ़्त अरबी टोकन काउंटर जल्दी पहला अनुमान देता है।
  6. हर मॉडल के लिए दोहराएँ। वही सेट Qwen3.8 27B, DeepSeek V4.1 Flash और GLM 5.3 पर चलाएँ। तीनों एक ही OpenAI-compatible API इस्तेमाल करते हैं, इसलिए सिर्फ़ model id बदलती है।

Qwen3.8 27B, DeepSeek V4.1 Flash और GLM 5.3 टॉप-अप के बाद काम करते हैं; चैट मॉडल में मुफ़्त $5 का शुरुआती क्रेडिट सिर्फ़ BroadNet Gemma 4 VL 26B को कवर करता है, जिसे कम लागत वाले baseline के रूप में जोड़ना फ़ायदेमंद है। अक्सर एक उपयोगी नतीजा बँटा हुआ सेटअप होता है: समझ और routing के लिए एक मॉडल, और जवाब MSA में ड्राफ़्ट किए हुए।

वॉइस नोट में बोली का क्या?

अगर आपके ग्राहक वॉइस नोट भेजते हैं, तो बोली संभालना पहले, speech to text में शुरू होता है। ट्रांसक्रिप्शन मॉडल LLM तक पहुँचने से पहले ही बोली के शब्द को ग़लत सुन सकता है। BroadNet, BroadNet Transcribe Arabic के लिए बोली पर 23.4 का word error rate रिपोर्ट करता है, जबकि FLEURS की पढ़ी गई आवाज़ पर 3.8; इन नंबरों का मतलब अरबी WER, आसान भाषा में में देखें। हर हिस्से को अकेले नहीं, पूरी कड़ी को टेस्ट करें, वॉइस नोट से जवाब तक।

अक्सर पूछे जाने वाले सवाल

क्या मेरा chatbot ग्राहक की बोली में जवाब दे?

डिफ़ॉल्ट रूप से आमतौर पर नहीं। सरल मानक आधुनिक अरबी हर जगह समझी जाती है और प्रोफ़ेशनल दिखती है। बोली में जवाब सिर्फ़ वहीं इस्तेमाल करें जहाँ आपके ब्रांड की आवाज़ यह माँगे, और सिर्फ़ तब जब मूल वक्ताओं ने आउटपुट की समीक्षा कर ली हो।

BroadNet ने अरबी बोलियों पर कौन-सा BroadNet मॉडल टेस्ट किया?

Qwen3.8 27B। BroadNet धाराप्रवाह अरबी लेखन, खाड़ी और मिस्री बोलियों की समझ, और सटीक अरबी–अंग्रेज़ी अनुवाद रिपोर्ट करता है। इसने लेवेंटाइन या मग़रिबी का कोई नतीजा प्रकाशित नहीं किया है।

हर बोली के लिए कितने टेस्ट मैसेज चाहिए?

हर बोली के तीस से पचास असली मैसेज मॉडलों के बीच साफ़ अंतर देखने के लिए काफ़ी हैं। जिस बोली का इस्तेमाल आपके ज़्यादातर ग्राहक करते हैं, उसके लिए और जोड़ें।

क्या बोली वाले मैसेज ज़्यादा टोकन लेते हैं?

शायद। टोकन की संख्या tokenizer और वर्तनी पर निर्भर करती है, और बोली वाले टेक्स्ट में अक्सर ग़ैर-मानक वर्तनी होती है। अंदाज़ा लगाने के बजाय सैंपल टोकन काउंटर में पेस्ट करें और अपने मैसेज पर prompt_tokens से पुष्टि करें।

क्या LLM मिस्री अरबी समझ सकता है?

अक्सर, लेकिन अपने मैसेज पर जाँचें। BroadNet रिपोर्ट करता है कि उसके टेस्ट में Qwen3.8 27B ने मिस्री और खाड़ी अरबी समझी; दूसरे मॉडल अलग-अलग हैं। बोली लिखना आमतौर पर पढ़ने से कम भरोसेमंद है, इसलिए 30 से 50 असली मैसेज पर इरादे की सटीकता और जवाब की गुणवत्ता अलग-अलग स्कोर करें।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें