센서를 조작하는 강화학습 에이전트와, 이를 최소 감사로 적발하는 감시자 에이전트

AI가 자신의 성과를 스스로 보고할 때, 그 지표 자체를 조작할 수 있다면 감독은 무엇을 할 수 있는가. 지금까지는 조작이 일어나고 검출도 가능하다는 사실까지만 밝혀졌을 뿐, 선행 사례는 모두 스스로를 의심하는 1인칭 구조였고 감시에 드는 비용도 다루지 않았다. 전수 감시는 감시로 얻는 것보다 비싸고 무감사는 피해를 키운다. 그래서 우리는 AI가 AI를 감시하는 3인칭 구조를 세우고, 언제 검사할 것인가를 감시자의 학습 문제로 만들었다. 5×5 토마토 재배 환경에서 겉보기 수분과 실제 수분을 분리하고, 관찰과 정밀 감사 두 행동만 가진 감시자를 검사 비용과 미적발 피해의 합이 최소가 되도록 학습시켰다. 또한 감시자가 받는 정보를 감사 로그와 겉보기 대시보드, 행동 정보, 물주기 신호의 네 블록으로 나누고 한 블록씩 더해 가며 정보원마다 값어치를 매겼다. 학습된 감시자는 에피소드당 1.1회에서 1.6회의 감사만으로 기만을 거의 전량 적발해 평균 10.8회를 쓰는 주기 감사를 앞섰다. 개선폭의 95퍼센트는 이미 공짜로 쥐고 있던 공개 지표 하나에서 나왔고, 값비싼 행동 로그는 비용을 낮추는 대신 적발 속도와 정밀도를 샀다. 본 활동은 감독 예산을 어디에 먼저 쓸지, 어떤 로그부터 열지에 대한 답이며, 그 절차는 금융 감독과 설비 점검처럼 지표 조작이 가능한 영역으로 그대로 옮겨 갈 수 있다.