BroadRouter
시작하기

개체명 인식(NER, named entity recognition)

업데이트

개체명 인식(NER)은 텍스트에서 이름을 찾아 사람, 조직, 장소 같은 유형을 붙이는 작업입니다. 전통적인 시스템은 모든 토큰에 태그를 붙이고, LLM에는 보통 개체 목록을 JSON으로 반환하게 한 뒤 원문과 대조해 확인합니다.

다른 이름: NER, 개체명 인식, 개체 인식, 개체명 추출, 엔티티 추출, 고유명사 인식, named entity recognition, entity extraction, named entities

계약서나 뉴스 기사에서 모든 사람, 회사, 장소를 뽑아 각각 유형을 붙이는 일. 이것이 NER이며, LLM에 맡기는 가장 흔한 작업 중 하나입니다.

작동 방식

전통적인 벤치마크는 CoNLL-2003 공동 과제(shared task)입니다. 영어 Reuters 뉴스와 독일어 Frankfurter Rundschau 텍스트를 썼고, 유형은 네 가지(사람을 뜻하는 PER, ORG, LOC, 그리고 “names of miscellaneous entities that do not belong to the previous three groups”(번역: 앞의 세 그룹에 속하지 않는 기타 개체의 이름)를 뜻하는 MISC)였으며, IOB 태그를 썼습니다. 각 단어는 어떤 유형의 B- 또는 I-이거나, 바깥(outside)을 뜻하는 O입니다. 평가는 개체 단위 F1이며, 정답과 정확히 일치해야만 개체로 인정됩니다.

IOB 형식의 아랍어 예시입니다.

토큰 태그
زار O
خالد B-PER
العتيبي I-PER
مدينة O
الرياض B-LOC

(“칼리드 알오타이비가 리야드시를 방문했다.”)

아랍어에는 자체 데이터셋이 있습니다. Yassine Benajiba가 만든 ANERcorp는 2008년부터 표준 참조 데이터셋으로 쓰인 뉴스 기사 텍스트이며, CAMeL Lab의 합의된 분할은 CC BY-SA 4.0 라이선스로 학습 125,102단어, 테스트 25,008단어입니다. Wojood(Jarrar 외, 2022)는 MSA와 방언 텍스트 약 55만(550K) 토큰, 21개 개체 유형, 약 7만 5천(75K) 개체로 이루어지며, 그중 22.5%가 중첩 개체입니다. AraBERT 기반 모델은 micro F1 0.884를 기록했습니다.

LLM에서는 흔한 방식이 다릅니다. 토큰마다 태그를 붙이는 대신 목록을 요청합니다.

{"entities": [
  {"text": "خالد العتيبي", "type": "PERSON"},
  {"text": "الرياض", "type": "LOCATION"}
]}

왜 중요한가

NER은 검색 필터, CRM 레코드, PII 가리기, 지식 그래프의 입력이 됩니다. LLM을 쓸 때의 주요 위험은 다음과 같습니다.

  • 지어내거나 고친 개체. 모델이 텍스트에 없는 이름을 반환하거나 철자를 “교정”할 수 있습니다. 양쪽에 아랍어 텍스트 정규화를 적용한 뒤 모든 개체가 원문에 있는지 확인하세요. 이는 할루시네이션 검사의 한 형태입니다.
  • 레이블 표류. 유형 목록을 스키마로 고정해 모델이 새 유형을 만들어 내지 못하게 하세요.
  • 벤치마크는 내 데이터가 아닙니다. 공개 레이블이 내 레이블과 일치하는 경우는 드뭅니다. 표본을 직접 레이블링하고, 다른 eval과 마찬가지로 정밀도, 재현율, F1을 측정하세요.

BroadNet Inference에서는

BroadNet에는 NER 엔드포인트가 없으므로 POST /v1/chat/completions 위에 구현합니다. BroadNet API 레퍼런스는 GLM 5.3과 Qwen3.8 27B의 구조화된 출력을 문서화하고 있으며, 이를 이용해 모델이 개체 목록과 고정된 유형 집합을 지키게 할 수 있습니다. 이미지로 들어오는 문서라면 Qwen3.8 27B는 이미지 입력도 받습니다.

BroadNet은 자사 모델의 NER 벤치마크를 공개하지 않습니다. 아랍어 개체명 추출 글에는 프롬프트, 발음 부호를 무시하는 스팬 검사, 히즈라력 날짜 처리, 그리고 자신의 표본에 실행할 평가 스크립트가 있습니다.

자주 묻는 질문

NER과 개체 추출은 무엇이 다른가요?

연구에서 NER은 보통 모든 토큰에 레이블을 붙이는 것을 뜻합니다. 개체 추출은 개체 목록을 반환하는 것을 뜻하는 경우가 많고, 대부분의 LLM 파이프라인이 이 방식입니다. 실제로 배포하는 방식 그대로 평가하세요.

모델이 반환한 개체가 아랍어 원문과 일치하지 않는 이유는 무엇인가요?

모델이 옮겨 적으면서 함자를 바꾸거나, 타트윌을 지우거나, 발음 부호를 추가한 경우가 많습니다. 개체가 원문에 있는지 확인하기 전에 개체와 원문을 모두 정규화하세요.

중첩 NER(nested NER)이란 무엇인가요?

조직명 안의 도시 이름처럼 다른 개체 안에 들어 있는 개체입니다. Wojood는 이를 주석으로 표시하며, 전체 개체의 22.5%가 중첩 개체입니다.

Markdown으로 읽기ChatGPT에 질문하기Claude에 질문하기Perplexity에 질문하기