세 줄 요약
- 이 장부는 규칙을 건드리지 않은 채 등록 이후에 나온 금통위원 발언 기사로 앞선 결과를 다시 확인한다. 아직 쌓는 중이라 정산된 사건이 없다.
- 과거 표본 검정에는 두 약점이 있다. 채점하는 LLM 이 2021~2026년 실제 금리 경로를 알 수 있다는 것(사후 지식)과, 같은 표본으로 규칙을 고르고 검정했다는 것이다. 등록 이후 사건은 채점자가 결과를 알 수 없고 규칙도 이미 잠겨 있다.
- 사건이 연 20여 건이라 30건이 쌓이려면 약 16개월(2028-02 안팎)이 걸린다. 그때 한 번 판정하고, 10건과 20건에서는 중간 보고만 한다.
무엇을 물었나
잠근 톤 점수와 잠근 진입 규칙(게시 30초 뒤 톤 방향으로 시장가 진입, 5분 뒤 정리, 왕복 비용 1틱)을 등록 뒤에 나온 발언 기사에 그대로 적용하면 비용을 넘는가. 그리고 기사 직후 2분의 가격 변화가 톤 방향과 일치하는가.
| 가설 | 내용 | 지지 문턱 | 상태 |
|---|---|---|---|
| H214 | 사건의 주 셀 순손익(3선, 게시 30초 뒤 진입 · 5분 보유, 왕복 1틱 뒤) 평균 > 0 | 첫 극성 사건 30건에서 거래일 묶음 bootstrap 단측 p < 0.05 | 쌓는 중 |
| H215 | 같은 사건의 «기사 직전 분 대비 2분 뒤» 가격 변화에 톤 방향을 곱한 평균 > 0(비용 전) | 같은 30건에서 같은 bootstrap 단측 p < 0.05 | 쌓는 중 |
- 판정 시점
- 첫 극성 사건이 30건 쌓였을 때 한 번. 10건과 20건에서는 중간 보고만 하고 판정하지 않는다. 2028-02-29 까지 30건이 안 되면 그때 쌓인 만큼으로 판정하고 개수를 적는다
- 읽는 법
- H214 와 H215 가 모두 지지되면 규칙이 표본 밖에서 확인된 것이다. H215 만 지지되면 «방향은 맞지만 초 단위 진입도 비용을 못 넘는다». 둘 다 미지지면 과거 표본의 효과는 사후 지식이나 표본 선택에서 왔을 가능성이 크다
용어와 기호
- 표본 밖 장부
- 규칙을 잠근 뒤에 생기는 사건만 한 줄씩 쌓아 두는 기록. 과거에 이미 본 자료로는 검정을 다시 할 수 없을 때 쓴다
- 등록 시각
- 이 실험의 계획을 담은 커밋의 시각(2026-10-22 08:49). 이 시각 뒤 1002 가 게시 시각을 찍은 기사만 사건이 된다
- 잠금
- 채점한 점수를 기록 파일에 쌓고 커밋하는 것. 이 커밋이 정산보다 먼저여야 한다. 가격을 본 뒤 점수를 고칠 수 없게 하는 장치다
- 정산
- 잠긴 점수가 있는 사건에 대해 그날의 초 단위 체결틱으로 순손익을 계산해 쌓는 것. 점수가 커밋에 없는 사건은 정산하지 않는다
- 첫 극성 사건
- 같은 위원, 같은 날의 발언 기사 중 처음으로 톤이 한쪽으로 기운(점수 2 이하 비둘기, 4 이상 매파) 기사 하나. 뒤따르는 같은 위원 기사는 세지 않는다
- 톤 점수
- LLM 이 기사 본문을 읽고 그 기사가 나온 시점의 기대(기준금리, 설문, 시장 가격, 시황, 소비자심리, 위원의 평소 입장)에 견줘 1~5점으로 매긴 값
- 사후 지식
- 채점하는 LLM 이 학습으로 이미 알고 있는 실제 결과. 과거 사건의 점수에는 스며들 수 있지만, 학습 지식이 2026-06 까지인 모델에게 그 뒤 사건의 결과는 알 수 없다
- md5
- 파일 내용의 지문. 채점 지침과 입력 생성 코드가 등록 때와 같은지 확인하는 데 쓴다
- 거래일 묶음 bootstrap
- 같은 날 사건이 같이 움직일 수 있어 거래일을 통째로 복원추출해 평균을 10,000번 다시 계산하는 방법. 평균이 0 이하로 나온 비율이 단측 p 다
어떻게 쟀나
무엇을 잠갔나
| 항목 | 값 |
|---|---|
| 채점 지침 | 앞선 실험의 score_prompt.md — md5 23026072ea936a205f8f501640e96e46 |
| 채점 입력 생성 | 앞선 실험의 build_packs.py — md5 eb552b1c825e4257a1846b1f377350f2. 기사마다 자기 게시 분 이전의 여건만 담고, 한 묶음에 같은 날 기사를 넣지 않는다(12건씩) |
| 사건 선정 | 평일 09:10~15:15, 회의일은 결정 속보 15분 뒤 이후, 위원 본인 발언, 점수 극성(2 이하 · 4 이상), 위원·날짜마다 첫 극성 기사. 1002 단말에서 온 기사만(게시 초가 있어야 한다) |
| 진입 규칙 | 3선, 게시 초 + 30초 + 1초 뒤 첫 체결가에 톤 방향 진입, 5분 뒤 마지막 체결가 청산, 왕복 1.0틱 |
| 채점자 | 채점 때 세션의 모델. 묶음마다 모델 이름을 남기고, 모델이 바뀌면 합쳐 판정하되 모델별로도 보고한다 |
채점 지침이나 입력 생성 코드가 등록 때와 달라지면(해시가 바뀌면) 그때부터의 사건은 새 장부로 갈라 쓴다. 계획을 고쳐 쓰지 않는다.
장부를 쌓는 여섯 단계
- 수집. 등록 뒤 나온 발언 기사의 행(위원, 종류, 제목, 원천)을 그 시점 모습 그대로 얼려 쌓고, 기사 본문과 그 시각까지의 시황과 제목을 받는다(본문은 내부 저장소에만 둔다).
- 입력 생성. 앞선 실험과 같은 규칙으로 채점 입력을 만든다.
- 채점. 서브에이전트가 잠근 지침 그대로 점수를 매긴다. 가격 자료는 주지 않는다.
- 잠금. 점수를 기록 파일에 쌓고 커밋한다.
- 정산. 그날의 초 단위 체결틱이 시세 서버에 들어온 뒤(그날 행 1,000개 이상), 커밋된 점수가 있는 사건만 순손익과 분 단위 변화를 계산한다.
- 보고. 누적 건수, 평균, 신뢰구간, 평균 지연을 본다. 중간 보고는 연구 로그에 한 줄씩 남긴다.
사건마다 실제 지연도 남긴다. 1002 제공 시각, 수신기가 처음 본 시각, 본문 수신 시각, 채점 완료 시각이다. 앞선 초 단위 실험은 점수를 이미 안다고 두고 지연을 쟀기 때문에, «채점이 30초 안에 끝날 수 있는가» 의 실제는 이 기록으로 따로 본다.
현황
- 정산된 사건
- 0건(작성 시점). 등록은 2026-10-22 08:49 이고, 그날 금통위 결정과 기자간담회가 첫 사건 후보를 만든다
- 도구 점검
- 입력 생성은 앞선 실험의 채점 입력과 같은지 과거 기사 117건으로 대조했고 맞지 않는 항목은 0개였다. 수집, 입력 생성, 잠금, 정산의 전 과정은 임시 폴더에서 모의 사건 3건으로 한 번 돌려 오류 없이 끝났다(실제 장부에는 쓰지 않았다)
- 수신 지연
- 모의 사건에서 수신기가 기사를 처음 본 것은 1002 제공 시각 뒤 3~5초였다. 표본이 3건이라 참고만 한다
- 쌓이는 속도
- 과거 87건(2023~2026)에서 첫 극성 사건은 연 약 23건이었다. 30건까지 약 16개월
왜 그런가
왜 장부가 필요한가
과거 표본의 결과에는 믿기 어려운 부분이 둘 있다. 첫째, 채점하는 LLM 은 2021~2026년 실제로 금리가 어떻게 움직였는지 알 수 있다. 지침으로 «그 지식을 쓰지 말라» 고 했지만 막았다는 보장이 없고, 연도별로 효과의 크기가 크게 다른 점(2022년이 가장 큼)이 이 우려와 맞닿아 있다. 둘째, 같은 표본으로 규칙을 찾고 같은 표본으로 검정했다. 등록 뒤 사건은 두 문제를 함께 푼다. 채점자의 학습 지식은 2026-06 까지라 이 사건들의 결과를 모르고, 규칙은 해시로 잠겨 있어 사건을 본 뒤 바꿀 수 없다.
왜 점수를 먼저 커밋하나
채점이 사건 뒤 수 분~수 시간 늦어져도 입력에는 그 기사의 게시 분 이전 자료만 있어 새는 정보가 없다. 다만 가격이 이미 나온 뒤에 점수를 고치는 일은 막아야 하므로, 점수를 커밋한 뒤에만 정산한다.
한계
검출력. 30건에서 평균 순손익의 표준오차는 약 0.27틱이고, 단측 5%, 검출력 80% 로 잡히는 최소 평균은 약 +0.6틱이다. 초 단위 실험이 찾은 효과가 이보다 작으면 «판정 불가» 로 적는다.
속도. 사건이 연 20여 건이라 판정까지 약 16개월이 걸린다.
채점 시각. 채점이 사건 직후 실시간으로 이뤄지지는 않는다. 이 장부는 실시간 매매의 지연이 아니라 점수와 규칙의 표본 밖 유효성을 본다.
분류 변화. 트래커의 위원 연결과 종류 분류가 나중에 바뀔 수 있어, 장부는 수집 시점의 행을 얼려 둔다.
모델 변화. 세션 모델이 바뀌면 같은 지침도 다르게 채점될 수 있다(모델별 보고).
다음
정산이 쌓이는 대로 중간 보고를 남기고, 30건에서 판정을 쓴다. 앞선 초 단위 실험이 1002 게시 앞 2분에 가격이 먼저 움직인다고 보았으므로, 1002 보다 앞선 원천을 같은 장부에 나란히 쌓는 것도 후속 후보다.
산출물
- 계획
protocol.md,config.yaml(첫 사건 전 커밋 293e575) - 도구
code/ledger.py(collect, pack, meta, lock, settle, report, selftest) - 장부
ledger/events.jsonl(수집 시점의 사건 행),ledger/predictions.jsonl(잠근 점수),ledger/outcomes.jsonl(정산) - 기사 본문저장소와 사이트에 싣지 않고 내부 저장소에만 둔다. 이 페이지와 장부에는 기사 제목, 점수, 짧은 근거만 있다
- 판정30건에서
analysis.md에 쓴다