BroadRouter

Bahasa Arab Teluk, Mesir dan Levant: cara LLM mengendalikan dialek

Oleh pasukan BroadNet Inference · 6 minit bacaan · Diterbitkan

LLM mengendalikan dialek Arab secara tidak sekata: ia biasanya lebih memahami bahasa Arab Mesir dan Teluk daripada menulisnya, dan kualiti menurun bagi dialek yang lebih jarang. Uji pemahaman dan penulisan secara berasingan pada mesej anda sendiri. Dalam ujian BroadNet sendiri, Qwen3.8 27B memahami dialek Teluk dan Mesir serta menulis bahasa Arab yang lancar. Kosnya $0.175 setiap 1M token input.

LLM biasanya lebih memahami bahasa Arab Teluk dan Mesir daripada menulisnya, dan prestasinya lebih lemah pada dialek yang jarang. Pelanggan di Riyadh, Kaherah dan Beirut boleh bertanya “anda mahu apa?” dalam tiga ayat yang berbeza, dan model yang mengendalikan bahasa Arab Standard Moden (MSA) dengan baik masih boleh tersalah baca. Uji pemahaman dan penulisan secara berasingan.

Artikel ini membincangkan apa yang berubah antara kumpulan dialek utama, di mana LLM cenderung gagal, dan cara menguji model sebelum anda mempercayainya dengan pelanggan sebenar.

Sejauh manakah perbezaan antara dialek?

Sangat berbeza dalam perkataan harian, jauh lebih dekat dalam kosa kata formal. Korpus penyelidikan menunjukkan skalanya: korpus MADAR menterjemah ayat perjalanan yang sama ke dalam dialek 25 bandar Arab. Jadual menunjukkan beberapa frasa biasa. Lajur MSA ialah apa yang akan dicetak dalam buku teks; yang lain ialah bentuk lisan dan teks yang biasa. Ejaan berbeza dari orang ke orang, dan itu sebahagian daripada masalahnya.

Maksud MSA Teluk (Saudi / Emirati) Mesir Levant
Anda mahu apa? ماذا تريد؟ وش تبي؟ / شو تبي؟ عايز إيه؟ شو بدّك؟
Apa khabar? كيف حالك؟ شلونك؟ إزيك؟ كيفك؟
sekarang الآن الحين دلوقتي هلّق
Saya tidak tahu لا أعرف ما أدري مش عارف ما بعرف
sangat / banyak جداً وايد أوي كتير

Tiga corak penting bagi LLM:

  • Kata fungsi berubah. Kata tanya, penafian dan “mahu” berbeza sepenuhnya antara dialek. Ini perkataan pendek yang kerap digunakan dan menentukan makna ayat, jadi salah baca satu sahaja boleh menterbalikkan niat.
  • Ejaan tidak piawai. Dialek kebanyakannya dituturkan, jadi orang menulisnya mengikut bunyi. Perkataan yang sama boleh muncul dengan huruf berbeza, dengan atau tanpa hamza, atau dalam skrip Rumi (Arabizi).
  • Pertukaran kod adalah biasa. Mesej perniagaan Teluk bercampur nama produk Inggeris; penutur Levant dan Maghreb bercampur bahasa Perancis. Model perlu mengendalikan kedua-dua skrip dalam satu ayat.

Di manakah LLM gagal pada dialek Arab?

Model belajar daripada teks yang dilihatnya, dan teks awam bagi dialek yang lebih kecil seperti Emirati atau Sudan jauh lebih sedikit berbanding bahasa Arab Standard Moden. Secara praktikal, ini muncul sebagai beberapa ralat berulang:

  1. Membaca perkataan dialek sebagai perkataan MSA lain. “أبي” Teluk (saya mahu) kelihatan seperti “أبي” MSA (bapa saya). Konteks biasanya menyelesaikannya, tetapi model kecil kadangkala tidak.
  2. Menjawab niat yang salah. Aduan ringkas Mesir seperti “الطلب لسه موصلش” (pesanan masih belum sampai) memerlukan model tahu bahawa “لسه” bermaksud “masih” dan “موصلش” ialah kata kerja penafian.
  3. Menulis dialek bercampur. Apabila diminta membalas “in Gulf Arabic”, model yang lebih lemah menghasilkan campuran Mesir, Levant dan MSA yang tidak akan ditulis oleh mana-mana penutur asli. Ini lebih biasa daripada salah faham.
  4. Membetulkan secara berlebihan. Sesetengah model “membetulkan” dialek pelanggan ke MSA walaupun anda meminta ia dipetik, yang merosakkan tugas pengekstrakan.

Peraturan umumnya: model lebih memahami dialek daripada menulisnya. Rancang produk anda berdasarkan itu.

Apakah yang telah diuji BroadNet pada dialek Arab?

BroadNet menerbitkan semakan bahasa Arabnya sendiri di halaman harganya. Bagi Qwen3.8 27B, ia melaporkan:

  • penulisan bahasa Arab yang lancar,
  • dialek Teluk dan Mesir difahami,
  • terjemahan Arab–Inggeris yang tepat.

Itulah yang dinyatakan BroadNet, dan tidak lebih. Ia tidak menerbitkan keputusan Levant, Iraq atau Maghreb, dan tidak menerbitkan skor penulisan dialek. Jika pelanggan Levant penting bagi anda, uji sendiri dengan kaedah di bawah.

Qwen3.8 27B menerima teks dan imej, menyokong alat (tools) dan output berstruktur, membuat penaakulan sebelum menjawab dan mempunyai konteks 262,144 token. Setiap 1M token, kosnya $0.175 untuk input dan $2.17 untuk output. Bandingkan model chat lain di halaman harga, dan lihat memilih API LLM untuk bahasa Arab untuk senarai semak yang lebih luas yang turut meliputi penulisan, terjemahan dan dokumen.

Bagaimanakah membuat prompt LLM untuk dialek tertentu?

Nyatakan dialek yang anda jangka, dialek yang anda mahu sebagai balasan dan tahap formaliti. Prompt sistem yang berfungsi dengan baik untuk peti masuk runcit Saudi:

import os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])

system = (
    "You are a customer-service assistant for a Saudi online store. "
    "Customers write in Gulf Arabic (often Saudi), MSA, English or Arabizi. "
    "Understand all of them. Reply in simple, polite Modern Standard Arabic, "
    "in two or three short sentences. If the customer writes in English, reply in English. "
    "Never invent order details."
)

response = client.chat.completions.create(
    model="broadnet/qwen3.8-27b",
    max_tokens=2000,  # the model reasons first; leave room for the answer
    messages=[
        {"role": "system", "content": system},
        {"role": "user", "content": "السلام عليكم، طلبي للحين ما وصل، وش السالفة؟"},
    ],
)
print(response.choices[0].message.content)

Mesej pelanggan itu dalam bahasa Arab Teluk: “Hello, my order still hasn’t arrived, what’s going on?” (Helo, pesanan saya masih belum sampai, apa yang berlaku?). Perkataan “للحين” (masih) dan “وش السالفة” (apa ceritanya / apa yang berlaku) ialah bentuk Teluk. Balasan yang baik mengakui kelewatan dalam MSA dan meminta nombor pesanan.

Beberapa lagi tabiat prompt yang membantu:

  • Namakan negara, bukan wilayah sahaja. “Gulf Arabic” meliputi pertuturan Saudi, Emirati, Kuwait, Qatar, Bahrain dan Oman, yang berbeza-beza. Jika anda tahu pasarannya, nyatakan.
  • Minta label dialek dalam tugas pengekstrakan. Untuk penghalaan atau analitik, minta model memulangkan {"dialect": "gulf" | "egyptian" | "levantine" | "msa" | "other", "intent": ...} menggunakan output berstruktur. Ini cara murah untuk mengenali pelanggan anda.
  • Kekalkan arahan dalam satu bahasa. Arahan Inggeris dengan kandungan Arab berfungsi dengan baik pada kebanyakan model. Arahan Arab juga berfungsi; mencampurkan kedua-duanya dalam satu prompt sistem cenderung mengaburkan laras. Lebih lanjut dalam kejuruteraan prompt bahasa Arab.

Patutkah anda membalas dalam dialek?

Bagi kebanyakan perniagaan, tidak. MSA yang ringkas (kadangkala dipanggil bahasa Arab “putih” atau neutral) difahami oleh setiap pembaca bahasa Arab, kelihatan profesional dan mengelakkan risiko balasan yang berbunyi seperti dari negara yang salah. Balasan dialek masuk akal untuk jenama tidak formal, salinan pemasaran untuk satu pasaran, dan produk suara di mana MSA kedengaran kaku. Jika anda memilih jalan itu, minta penutur asli dialek tersebut menyemak sampel output setiap minggu.

Bagaimanakah menguji pengendalian dialek dalam sehari?

  1. Kumpul mesej sebenar. Ambil 30 hingga 50 mesej yang dianonimkan bagi setiap dialek daripada peti masuk, log chat atau nota suara yang ditranskripsikan. Buang nama, nombor telefon dan nombor pesanan.
  2. Labelkan niat. Bagi setiap mesej, tulis niat yang betul dan apa-apa fakta yang patut diekstrak model (nombor pesanan, produk, tarikh).
  3. Uji pemahaman. Minta setiap model calon memulangkan niat dan medan sebagai JSON. Skor padanan tepat. Inilah angka yang menentukan sama ada penghalaan berfungsi.
  4. Uji penulisan. Bagi sepuluh mesej setiap dialek, minta balasan. Minta penutur asli menilai setiap balasan 1–3 untuk ketepatan, nada dan keaslian. Jangan menilai dialek yang anda tidak tuturkan.
  5. Semak kos dan kelajuan. Rekod usage.prompt_tokens, usage.completion_tokens dan kependaman setiap panggilan. Teks dialek boleh ditokenkan secara berbeza daripada MSA, jadi ukur dan bukan meneka; pengira token bahasa Arab percuma memberi anggaran awal yang pantas.
  6. Ulang untuk setiap model. Jalankan set yang sama pada Qwen3.8 27B, DeepSeek V4.1 Flash dan GLM 5.3. Ketiga-tiganya menggunakan API serasi OpenAI yang sama, jadi hanya id model yang berubah.

Qwen3.8 27B, DeepSeek V4.1 Flash dan GLM 5.3 berfungsi selepas tambah nilai; dalam kalangan model chat, kredit permulaan $5 percuma hanya meliputi BroadNet Gemma 4 VL 26B, yang berbaloi ditambah sebagai garis dasar kos rendah. Hasil yang berguna sering kali ialah susunan terbahagi: satu model untuk pemahaman dan penghalaan, dengan balasan didraf dalam MSA.

Bagaimana pula dengan dialek dalam nota suara?

Jika pelanggan anda menghantar nota suara, pengendalian dialek bermula lebih awal, dalam speech-to-text. Model transkripsi boleh tersalah dengar perkataan dialek sebelum LLM melihatnya. BroadNet melaporkan kadar ralat perkataan dialek 23.4 bagi BroadNet Transcribe Arabic, berbanding 3.8 pada pertuturan dibaca FLEURS; lihat WER bahasa Arab: penjelasan untuk maksud angka tersebut. Uji keseluruhan rantaian, daripada nota suara hingga balasan, bukan setiap bahagian secara bersendirian.

Soalan lazim

Patutkah chatbot saya membalas dalam dialek pelanggan?

Biasanya tidak secara lalai. Bahasa Arab Standard Moden yang ringkas difahami di mana-mana dan kelihatan profesional. Gunakan balasan dialek hanya di tempat suara jenama anda memerlukannya, dan hanya selepas penutur asli menyemak output.

Model BroadNet manakah yang diuji BroadNet pada dialek Arab?

Qwen3.8 27B. BroadNet melaporkan penulisan bahasa Arab yang lancar, pemahaman dialek Teluk dan Mesir, serta terjemahan Arab–Inggeris yang tepat. Ia belum menerbitkan keputusan Levant atau Maghreb.

Berapakah mesej ujian yang saya perlukan bagi setiap dialek?

Tiga puluh hingga lima puluh mesej sebenar bagi setiap dialek sudah cukup untuk melihat perbezaan jelas antara model. Tambah lagi untuk dialek yang digunakan oleh kebanyakan pelanggan anda.

Adakah mesej dialek menggunakan lebih banyak token?

Mungkin. Bilangan token bergantung pada tokenizer dan ejaan, dan teks dialek sering mempunyai ejaan tidak piawai. Tampal sampel ke dalam pengira token dan sahkan dengan prompt_tokens pada mesej anda sendiri dan bukan membuat andaian.

Bolehkah LLM memahami bahasa Arab Mesir?

Selalunya boleh, tetapi semak pada mesej anda sendiri. BroadNet melaporkan Qwen3.8 27B memahami bahasa Arab Mesir dan Teluk dalam ujiannya; model lain berbeza-beza. Menulis dialek biasanya kurang boleh dipercayai berbanding membacanya, jadi skor ketepatan niat dan kualiti balasan secara berasingan pada 30 hingga 50 mesej sebenar.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity