Чтобы ответить пользователю на его диалекте, сначала нужно понять, на каком диалекте он написал. Это и есть определение диалекта.
Как это работает
Исследовательское сообщество измеряет это на совместных задачах NADI (Nuanced Arabic Dialect Identification). NADI 2020 использовала твиты из 100 провинций в 21 арабской стране, с подзадачей на уровне страны и подзадачей на уровне провинции. NADI 2024 поставила определение диалекта как многометочную задачу, поскольку одно предложение может быть корректным в нескольких диалектах, и добавила подзадачу на степень диалектности. Лучшая система в подзадаче 1 набрала 50,57 F1, и организаторы пишут, что определение диалекта остаётся сложной задачей.
Распространённый ресурс — корпус MADAR (Bouamor и др., 2018): одни и те же предложения из туристической тематики, переведённые на диалекты 25 городов. 2000 предложений есть на всех 25; ещё 10 000 — для Дохи, Бейрута, Каира, Туниса и Рабата. Такие параллельные данные показывают, как один и тот же смысл записывают в разных местах.
На практике большинству продуктов нужна более грубая метка. Рабочий набор такой:
| Метка | Что охватывает |
|---|---|
msa |
Современный литературный арабский |
gulf |
Саудовский, эмиратский, кувейтский, катарский, бахрейнский, оманский |
egyptian |
Египетский |
levantine |
Сирийский, ливанский, иорданский, палестинский |
maghrebi |
Марокканский, алжирский, тунисский, ливийский |
other_or_unclear |
Иракский, йеменский, суданский, смешанный или слишком короткий текст |
Промпт для LLM просит вернуть один JSON-объект: метку, уверенность и слова, которые выдали диалект. Например, на сообщение عايز أغير الباقة ответ будет таким:
{"dialect": "egyptian", "confidence": "high", "cues": ["عايز"]}
Когда модель называет подсказки, ошибки легко проверять: если подсказка — слово литературного арабского, метка сомнительна.
Почему это важно
- Маршрутизация. Направляйте клиентов из стран Залива к операторам из Залива или переключайте промпт ответа на диалект пользователя.
- Оценка. Разбивайте тестовые наборы речи и чатов по диалектам. Одно среднее значение скрывает самую слабую группу, как показывает статья о распознавании диалектной речи.
- Аналитика. Узнайте, на каких диалектах на самом деле пишут ваши пользователи, прежде чем вкладываться в один из них.
Смешанные сообщения встречаются часто. Пользователи переходят с диалекта на литературный арабский и английский в одной строке — это переключение кодов; оставьте метку «неясно», а не заставляйте модель угадывать.
В BroadNet Inference
Эндпоинта для определения диалекта у BroadNet нет. Его можно построить на POST /v1/chat/completions. Справочник API BroadNet описывает структурированный вывод для GLM 5.3 и Qwen3.8 27B, что подходит для фиксированного списка меток; см. структурированный вывод. BroadNet сообщает, что тестировала Qwen3.8 27B на понимание диалектов Персидского залива и египетского. Точность определения диалекта BroadNet ни для одной модели не публикует, поэтому разметьте вручную около 100 своих сообщений и измерьте модель на них, прежде чем на неё полагаться.
В статье о классификации арабского текста разобраны промпты, списки меток и оценка для таких задач, а статья о диалектном арабском объясняет, что означают метки.