Khi người ta nói một model AI “biết tiếng Ả Rập”, thường là họ muốn nói model xử lý được tiếng Ả Rập chuẩn hiện đại. Phương ngữ là một bài kiểm tra khác.
Cách hoạt động
Tiếng Ả Rập là một họ gồm nhiều biến thể. Bài báo MADAR (Bouamor và cộng sự, 2018) nói thẳng: MSA là “the shared language of culture, media, and education from Morocco to Oman” (Bản dịch: ngôn ngữ chung của văn hóa, truyền thông và giáo dục từ Maroc đến Oman), nhưng nó “is not the native language of any speaker of Arabic” (Bản dịch: không phải tiếng mẹ đẻ của bất kỳ người nói tiếng Ả Rập nào). Phương ngữ được nhóm theo vùng thành Ai Cập, Bắc Phi, Levant, vùng Vịnh và Yemen, và theo tiểu vùng thành Tunisia, Liban, Kuwait, Qatar, v.v. Bản thân MADAR bao gồm 25 phương ngữ thành phố bên cạnh MSA.
Trên thực tế, hai dạng này trộn lẫn. Trong những bối cảnh không có kịch bản mà lẽ ra phải dùng MSA, như talk show trên truyền hình, người nói chuyển qua lại giữa MSA và phương ngữ của họ. Đó là code-switching, và shared task về code-switching năm 2014 cho thấy MSA với phương ngữ là cặp khó phân biệt nhất ở cấp độ từ, khó hơn cả Tây Ban Nha-Anh hay Nepal-Anh.
| MSA | Phương ngữ | |
|---|---|---|
| Dùng ở đâu | tin tức, sách, trường học, hợp đồng, phát biểu trang trọng | gia đình, đường phố, cuộc gọi, tin nhắn thoại, chat |
| Chính tả | chuẩn hóa | không có chính tả cố định; thường gõ bằng Arabizi |
| Dữ liệu huấn luyện | kho văn bản viết lớn | ít hơn nhiều, phân bố không đều giữa các vùng |
Vì sao quan trọng
- Chất lượng LLM. Một model có thể viết MSA tốt nhưng vẫn không hiểu tiếng lóng vùng Vịnh hay Maghreb. Hãy kiểm thử bằng phương ngữ mà người dùng của bạn nói.
- Độ chính xác speech-to-text. Nhiều bộ test là giọng đọc hoặc giọng phát thanh, trong khi audio của bạn có thể là tin nhắn thoại bằng phương ngữ. Hãy yêu cầu word error rate theo từng biến thể, không phải một con số chung cho tiếng Ả Rập, và kiểm thử trên bản ghi âm của chính bạn.
- Chi phí token. Trong bộ dữ liệu tokenizer của chúng tôi, trên Qwen3.8 27B, tiếng Ả Rập chuẩn hiện đại cần 1.31× số token so với cùng các câu đó bằng tiếng Anh (2,009 câu FLORES-200), còn tiếng Ả Rập vùng Vịnh là 1.21× (một bộ nhỏ gồm 49 câu Tatoeba, nên chỉ là con số ước lượng). Hãy dùng công cụ đếm token tiếng Ả Rập với văn bản của bạn.
Trên BroadNet Inference
BroadNet cho biết đã kiểm thử Qwen3.8 27B với khả năng viết tiếng Ả Rập trôi chảy và hiểu được phương ngữ vùng Vịnh và Ai Cập. BroadNet Transcribe Arabic được liệt kê cho tiếng Ả Rập kể cả phương ngữ. Với cả audio MSA lẫn phương ngữ, hãy gửi language=ar; tài liệu BroadNet cảnh báo rằng nếu thiếu tham số này, tiếng Ả Rập có thể trả về bằng chữ Latin. Bài viết về nhận dạng giọng nói phương ngữ Ả Rập giải thích cách kiểm thử trên bản ghi âm của chính bạn.