RESEARCH PROPOSAL TARGET

검증과 거버넌스

성공 조건은 양청의 최종 결론을 같게 만드는 것이 아닙니다.

검증·피드백 단계가 이어지는 연구 전망

평가 지표

각 지표의 정의·분모·예외·필요한 Gold Set·사람 검증·현재 근거 상태를 펼쳐 확인합니다. 임의 숫자는 모두 SIMULATION · 교육용 합성 데이터입니다.

SIMULATION · 교육용 합성 데이터 — 그래프·표의 모든 수치는 임의의 교육용 값입니다.

조정된 양국 정합률 TARGET
정의
1 − 설명되지 않은 중요 불일치 수 / 양국에서 비교 가능한 중요 쟁점 수
분모
양국에서 비교 가능한 중요 쟁점 수. 비교 가능한 중요 쟁점이 0이면 계산하지 않는다.
예외
다른 청구항 버전이나 정당한 법역 차이는 분모에 섞지 않는다.
필요한 Gold Set
전문가가 합의한 비교 가능 쟁점 목록과 설명 가능/불가능 판정
사람 검증
설명되지 않음의 판정은 사람의 독립 검토로 확인
현재 근거 상태
정의만 존재. 실측치 없음.
일방 미탐 추가 발견률 TARGET
정의
상대 관청의 근거 또는 제안 체계에서 찾아 최종 확인한 일방 미탐 수 / 후향적으로 확인된 전체 일방 미탐 수
분모
후향적으로 확인된 전체 일방 미탐 수
예외
Gold Set이 없는 데 숫자를 만들지 않는다.
필요한 Gold Set
후향적 미탐 목록(공개 자료 한정)
사람 검증
미탐 여부를 각 관청 전문가가 확인
현재 근거 상태
정의만 존재. 실측치 없음.
중요 쟁점 Recall TARGET
정의
전문가가 중요하다고 판정한 쟁점 중 체계가 신호를 낸 비율
분모
전문가 판정 중요 쟁점 수
예외
접근 불가 자료는 분모·분자에서 제외하고 별도 보고
필요한 Gold Set
전문가 판정 중요 쟁점 세트
사람 검증
중요도 판정 자체가 사람 작업
현재 근거 상태
목표치만 존재.
Evidence Provenance Coverage TARGET
정의
신호가 원문 span·취득시각·출처로 설명되는 비율
분모
생성된 전체 신호 수
예외
원문이 없는 신호는 커버리지에 포함하지 않음
필요한 Gold Set
증거 구조화가 완료된 사건 세트
사람 검증
원문 위치의 정확성 사람 검수
현재 근거 상태
정의만 존재. 실측치 없음.
허위 인용률 TARGET
정의
원문에 존재하지 않는 인용·문단을 만든 신호 비율
분모
생성된 전체 인용·span
예외
서버 검증에서 거부된 초안은 출력에서 제외하되 집계는 유지
필요한 Gold Set
원문 대조가 가능한 사건 세트
사람 검증
사람이 원문과 대조해 확정
현재 근거 상태
정의만 존재. 실측치 없음.
Claim Alignment F1 TARGET
정의
구성요소 대응의 정밀도·재현율 조화평균
분모
검증 대상 요소 대응 수
예외
불확실 대응은 별도 집계하고 UNKNOWN 처리
필요한 Gold Set
전문가가 확정한 요소 대응 세트
사람 검증
AI 초안을 사람이 확정한 뒤에만 평가에 사용
현재 근거 상태
정의만 존재. 실측치 없음.
정당한 법역 차이 분류 TARGET
정의
법역 차이를 품질 결함으로 오분류하지 않는 비율
분모
법역 관련 불일치 사건 수
예외
각국 법률 전문가의 판단을 기준으로 함
필요한 Gold Set
법역 차이 판정 사건 세트
사람 검증
법역 판정은 사람 전담
현재 근거 상태
정의만 존재. 실측치 없음.
UNKNOWN calibration TARGET
정의
자료 부족 시 UNKNOWN으로 유보한 비율과 그 정확성
분모
자료 부족이 확인된 사건 수
예외
UNKNOWN을 FALSE로 대체한 경우는 오류로 집계
필요한 Gold Set
자료 상태가 알려진 사건 세트
사람 검증
부족한 자료의 특정이 맞는지 사람 확인
현재 근거 상태
정의만 존재. 실측치 없음.
심사관 추가 검토시간 TARGET
정의
신호당 사람의 독립 검토에 든 시간
분모
검토된 신호 수
예외
신호가 없던 기준선과 비교해야 함
필요한 Gold Set
관찰 평가 기록
사람 검증
참여 관찰평가에서 측정
현재 근거 상태
목표치(단축)만 존재. 실측치 없음.
Alert Yield TARGET
정의
사람 검토 후 확인된 격차 / 생성된 신호 수
분모
생성된 신호 수
예외
기각·법역차이는 분자에서 제외
필요한 Gold Set
사람 검토 결과 기록
사람 검증
모든 신호는 사람 검토를 거침
현재 근거 상태
정의만 존재. 실측치 없음.
재현성 TARGET
정의
동일 입력·Rule 버전에서 동일 Trace가 재생성되는지
분모
재실행 전체 수
예외
Rule·모델 버전이 바뀌면 별도 비교
필요한 Gold Set
고정 입력 세트
사람 검증
결정적 규칙은 자동 검증 가능
현재 근거 상태
이 사이트의 결정적 규칙으로 자동검증됨.
승인 없는 Rule 활성화·제한자료 외부전송 TARGET
정의
승인 전 규칙 활성화 횟수와 제한자료 외부전송 시도 수
분모
전체 규칙 변경·전송 이벤트 수
예외
없음 — 발생 자체가 사고
필요한 Gold Set
감사 로그
사람 검증
거버넌스 검토
현재 근거 상태
0이어야 하는 지표.

목표치(TARGET)와 실측치(MEASURED)

논문의 후향적 후보 3,000~5,000건, 전문가 판정 300~500건, 검토시간 개선 등은 잠정 표본·목표이지 확보한 데이터나 결과가 아닙니다.

TARGET

논문의 후향적 후보 3,000~5,000건, 전문가 판정 300~500건, 검토시간 개선 등은 잠정 표본·목표이지 확보한 데이터나 결과가 아닙니다.

MEASURED

MEASURED 탭은 아직 비어 있습니다.

실측 카드(실험 ID, 패밀리/시점 분리, 기준선, 표본, 사람 평가, 모델/Rule/검색 버전, 실패, 변동성·신뢰구간, 재현자료)가 갖춰진 뒤에만 채워집니다.

거버넌스 로드맵 (제안)

각 단계의 Go/No-Go는 논문과 연결되며, 예정 기간은 확정 사업 일정이 아닙니다.

  1. 1
    자료계약 정립 — 자료 4등급, 접근·감사·보관 경계를 문서화하고 양청·기관 승인 경로를 확인

    ✓ Go 조건: 등급 정의·접근 경로가 양측에서 확인됨

    ✕ No-Go 조건: 등급 불명확 또는 제한자료의 공개 경로 노출

  2. 2
    후향적 평가자료 구축 — 공개 패밀리 후보 3,000~5,000건(잠정 목표)에서 비교 가능 쟁점을 사람이 확정

    ✓ Go 조건: 인용·재사용 조건과 비식별 절차가 문서화됨

    ✕ No-Go 조건: 공개 허가가 확인되지 않은 자료 포함

  3. 3
    검색·규칙 시제품 — 결정적 공통 규칙과 AI 초안 파이프라인을 Shadow로 병행 실행

    ✓ Go 조건: 재현성·원문 검증이 통과함

    ✕ No-Go 조건: 허위 인용·원문 없는 신호가 기준 초과

  4. 4
    심사관 참여 관찰평가 — 전문가 판정 300~500건(잠정 목표)으로 신호 품질·검토시간·허위 인용을 측정

    ✓ Go 조건: 기준선 대비 신호 품질·비용이 검증됨

    ✕ No-Go 조건: 검토시간이 기준선보다 크게 증가

  5. 5
    제한적 업무지원 — 승인된 범위에서만 사람 검토 후보를 제공하고 감사 로그 유지

    ✓ Go 조건: 감사·승인 절차가 운영됨

    ✕ No-Go 조건: 승인 없는 Rule 활성화 또는 제한자료 전송 발생

  6. 6
    확장 검토 — 자료 유형·법역 확장은 별도 Go/No-Go 평가 후 진행

    ✓ Go 조건: 확장 대상 자료·법역의 근거가 확보됨

    ✕ No-Go 조건: 확장 범위의 법적 근거 미비