Model boleh mendapat skor tinggi pada penanda aras bahasa Arab tetapi masih tersandung pada nota suara dari Riyadh atau mesej chat dari Casablanca. Itu dialek, dan ia ujian yang berbeza daripada Bahasa Arab Standard Moden.
Cara ia berfungsi
Bouamor et al. (2018), yang membina korpus MADAR, menerangkan bahasa Arab sebagai “a family of varieties” (Terjemahan BroadRouter: “satu keluarga varian”). MSA ialah bahasa bersama untuk budaya, media dan pendidikan “from Morocco to Oman” (dari Maghribi hingga Oman), tetapi ia bukan bahasa ibunda mana-mana penutur. Dialek biasanya dikumpulkan mengikut rantau, iaitu Mesir, Afrika Utara, Levant, Teluk dan Yaman, atau mengikut sub-rantau, seperti Tunisia, Lubnan, Kuwait dan sebagainya. Dialek berbeza daripada MSA dari segi bunyi, perbendaharaan kata dan morfologi, dan pada tahap yang lebih kecil dari bandar ke bandar.
Tiga perbezaan paling penting bagi perisian:
- Bunyi. Contoh MADAR ialah huruf qaf (ق). Dalam bahasa Arab Tunisia ia kekal /q/, hampir dengan MSA; dalam bahasa Arab Mesir dan Levant ia hentian glotis; dalam bahasa Arab Teluk ia /g/. Model pertuturan mesti memetakan ketiga-tiganya kembali kepada perkataan bertulis yang sama.
- Perkataan. Perkataan harian berbeza. “I want” (saya mahu) ialah أريد dalam MSA, عايز dalam dialek Mesir, بدي dalam dialek Levant, أبي atau أبغى dalam dialek Teluk dan بغيت dalam dialek Maghribi.
- Ejaan. MADAR menyatakan bahawa MSA mempunyai ortografi standard tetapi dialek tidak. Orang mengeja mengikut bunyi atau etimologi, dan kadangkala dalam huruf Rumi sebagai Arabizi. Penutur juga mencampurkan bahasa Inggeris atau Perancis, iaitu penukaran kod.
Dialek juga semakin banyak ditulis. MADAR menyifatkannya sebagai bahasa tulisan utama yang sedang muncul bagi komunikasi tidak formal dalam talian. NADI 2020 membina tugas bersama (shared task) daripada tweet yang meliputi 100 wilayah di 21 negara Arab.
Mengapa ia penting
- Bot chat dan sokongan. Pengguna menulis seperti mereka bercakap. Peraturan niat (intent), carian kata kunci dan model sentimen yang dilatih pada MSA terlepas perkataan dialek. Lihat dialek Teluk dan Mesir dengan LLM.
- Speech-to-text. Audio dialek mendapat skor jauh lebih teruk daripada MSA yang dibaca pada model yang sama. Bina set ujian bagi setiap dialek, seperti yang diterangkan dalam artikel pengecaman pertuturan dialek.
- Penghalaan. Jika balasan, penyemak atau prompt berbeza mengikut rantau, labelkan dialek dahulu dengan pengenalpastian dialek Arab.
Di BroadNet Inference
BroadNet menyenaraikan BroadNet Transcribe Arabic untuk bahasa Arab Teluk, Mesir, Levant, Maghribi dan Standard Moden. BroadNet melaporkan kadar ralat perkataan sebanyak 3.8 pada pertuturan bacaan FLEURS-ar dan 23.4 pada set dialek Teluk, Mesir dan Levant miliknya sendiri, kedua-duanya ukuran BroadNet. Jurang itu ialah kesan dialek. Hantar language=ar untuk kesemuanya; dokumentasi BroadNet memberi amaran bahawa jika tidak, bahasa Arab boleh dipulangkan dalam bentuk transliterasi huruf Rumi.
Bagi teks, BroadNet melaporkan ujian Qwen3.8 27B dalam bahasa Arab dengan dialek Teluk dan Mesir difahami. BroadNet tidak menerbitkan keputusan untuk teks Levant atau Maghribi, jadi uji dialek tersebut dengan mesej anda sendiri. Panduan LLM bahasa Arab membandingkan model-model itu, dan panduan speech-to-text bahasa Arab mempunyai kod yang berfungsi.
Kesilapan biasa
- Menguji hanya pada teks berita MSA, kemudian melancarkannya kepada pengguna yang menulis dalam dialek.
- Mempuratakan WER merentas dialek, yang menyembunyikan dialek yang paling lemah.
- Menormalkan ejaan dialek kepada MSA dalam teks yang anda paparkan kepada pengguna.