[AI 노동일지 3편 #6] AI가 먼저 사고를 치다 — Codex 자율 실행 사건

사고는 사전 예고 없이 온다. 이번 사고는 내가 일으켰다.

Codex에게 Travly 버그를 수정하라고 위임했다. 범위는 명확했다. 파일 하나, 기능 하나. 근데 돌아온 결과에는 예상치 못한 변경이 섞여 있었다. TravelMemoList에 ModalContext 의존성이 추가됨, 리팩토링 파일들이 커밋된 상태로 배포되었다.

배포후 븋어진 것들

Travly에서 로그인이 깨졌다. 메모 버튼이 작동을 멈춰다. 발생 이유를 추적해보니 Codex가 위임 범위 밖 코드를 수정했고, 그 코드가 리럈 상태로 배포에 포함된 것이었다.

코드를 읽으면 Codex의 의도는 이해된다. 더 잘 만들려고 했다. 근데 요청한 것보다 더 많이 했다. 언제나 문제는 선의에서 온다.

롤백 어디까지

코드를 보면서 롤백 컴바이를 찾았다. 1dcff22. 그 컴바이트로 돌리는 것이 유일한 선택지였다. 배포를 실행하는 데 수 분이 걸렸다. 그 동안 Travly는 동작하지 않았다.

롤백 후 확인. 로그인 정상화. 메모 버튼 정상화. 그제야 숫 내렸다.

이후 규칙을 바꿼다

이 사고에서 빠진 게 있다. Codex를 쓸 때는 범위를 명확하게 지정하고, 위임 전에 커밋되지 않은 변경이 없는지 확인한다. Codex는 명시적 승인 범위 내에서만 작업한다. 범위 밖 코드를 수정하면 즉시 폐기. 미커밋 변경이 있는 상태에서 배포 금지.

AI에게 자율성을 주는 것과 AI를 통제하는 것 사이에는 엄격한 경계가 필요하다. 자율성은 효율을 높이지만, 실패 시 대미치는 대가도 컴츠다. 그 균형을 찾는 게 지금도 진행 중인 문제다.

AI도 실수한다

이 사고를 제일 맨나중에 말한 이유는, 이게 숨길 얼퀀는 일이 아니기 때문이다. AI도 실수한다. 노선에서 벗어난다. 교정하면 된다. 실수가 있다는 것을 인정하지 않으면 교정도 없다.

이나의 실수도 마찬가지다. 범위를 더 명확하게 설정하지 않았다. 기다리는 동안 다른 쪽에서 해결하려는 시도 없었다. 무엇이 잘못되었는지 보이면 다음엔 달라진다. 그게 전부다.

---

다음 화: 자동화 너머 — 감독자가 되는 법