사용자에게 그 사람의 방언으로 답하려면, 먼저 어떤 방언으로 썼는지 알아야 합니다. 그것이 방언 식별입니다.
작동 방식
연구 커뮤니티는 NADI(Nuanced Arabic Dialect Identification) 공유 과제로 이 문제를 측정합니다. NADI 2020은 아랍 21개국 100개 주(province)를 아우르는 트윗을 사용했고, 국가 단위와 주 단위 하위 과제를 두었습니다. NADI 2024는 한 문장이 여러 방언에서 유효할 수 있다는 이유로 방언 식별을 다중 라벨 과제로 설정했고, 방언성(dialectness) 수준을 판단하는 하위 과제를 추가했습니다. 하위 과제 1의 최고 시스템은 F1 50.57을 기록했으며, 주최 측은 방언 식별이 여전히 어렵다고 썼습니다.
MADAR 코퍼스(Bouamor 외, 2018)는 널리 쓰이는 자료로, 여행 분야의 같은 문장들을 25개 도시 방언으로 번역한 것입니다. 2,000문장은 25개 방언 모두에 있고, 도하, 베이루트, 카이로, 튀니스, 라바트에는 10,000문장이 더 있습니다. 이런 병렬 데이터를 보면 같은 의미를 지역마다 어떻게 쓰는지 알 수 있습니다.
실제 제품에는 대개 더 굵은 라벨이면 충분합니다. 쓸 만한 라벨 세트는 다음과 같습니다.
| 라벨 | 포함 범위 |
|---|---|
msa |
현대 표준 아랍어 |
gulf |
사우디, 에미리트, 쿠웨이트, 카타르, 바레인, 오만 |
egyptian |
이집트 |
levantine |
시리아, 레바논, 요르단, 팔레스타인 |
maghrebi |
모로코, 알제리, 튀니지, 리비아 |
other_or_unclear |
이라크, 예멘, 수단, 혼합 또는 너무 짧은 메시지 |
이 작업용 LLM 프롬프트는 JSON 객체 하나를 요청합니다. 라벨, 확신도, 판단 근거가 된 단어입니다. 예를 들어 메시지가 عايز أغير الباقة 일 때 결과는 다음과 같습니다.
{"dialect": "egyptian", "confidence": "high", "cues": ["عايز"]}
근거 단어(cues)를 요청하면 오류를 검토하기 쉽습니다. 근거가 표준 아랍어 단어라면 그 라벨은 의심해 봐야 합니다.
왜 중요한가
- 라우팅. 걸프 지역 고객은 걸프 지역 상담원에게 보내거나, 답변 프롬프트를 사용자의 방언으로 바꿉니다.
- 평가. 음성과 채팅 테스트 세트를 방언별로 나누세요. 방언 음성 인식 글에서 보듯, 평균 하나로는 가장 약한 그룹이 가려집니다.
- 분석. 특정 방언에 투자하기 전에 사용자가 실제로 어떤 방언으로 쓰는지 파악하세요.
섞인 메시지도 흔합니다. 사용자는 한 줄 안에서 방언, 표준 아랍어, 영어를 오가는데, 이것이 코드 스위칭입니다. 억지로 추측하게 하지 말고 “불명확” 라벨을 남겨 두세요.
BroadNet Inference에서는
BroadNet에는 방언 식별 엔드포인트가 없습니다. POST /v1/chat/completions 위에 직접 만들 수 있습니다. BroadNet API 레퍼런스는 GLM 5.3과 Qwen3.8 27B의 구조화된 출력을 문서화하고 있어 고정된 라벨 목록에 잘 맞습니다. 구조화된 출력을 참고하세요. BroadNet은 Qwen3.8 27B를 테스트한 결과 걸프와 이집트 방언을 이해했다고 보고합니다. BroadNet은 어떤 모델의 방언 식별 정확도도 공개하지 않으므로, 실제로 의존하기 전에 자체 메시지 100개 정도를 직접 라벨링해 모델을 측정하세요.
이런 작업의 프롬프트, 라벨 목록, 채점 방법은 아랍어 텍스트 분류 글에서 다루고, 각 라벨의 의미는 아랍어 방언에서 설명합니다.