2026년 9월 사업 행정을 Claude로 동작하는 에이전트에게 맡기기 시작할 때만 해도 어려운 부분은 에이전트가 한국어 안내문과 세금계산서, 카드 명세서를 알아듣게 하는 일이라고 생각했습니다. 그렇지 않았습니다. 모델은 그런 문서를 잘 읽습니다. 정작 어려운 일은 에이전트가 모를 때 모른다는 것을 알게 하는 일.
저희 시범 운영에서 겪은 실수 네 가지와 실수마다 남은 규칙을 이름과 금액 없이 적습니다.
1. 사실보다 오래된 문자
에이전트가 카드사의 '결제 연체' 문자를 보고 대금이 처리되지 않았다고 보고한 일이 있습니다. 구독 서비스의 마지막 청구 문자를 보고 제가 '아직 요금을 내고 있다'고 보고한 일도 있습니다. 둘 다 틀린 보고. 장부를 보면 대금은 같은 날 같은 금액으로 이미 결제되어 있었고 구독은 이미 끝나 있었습니다.
에이전트가 부주의했던 것은 아니고 볼 수 있는 가장 최근 메시지를 믿었을 뿐입니다. 하지만 알림이 보여 주는 것은 한 시점이고 장부가 보여 주는 것은 일이 어떻게 끝났는지입니다.
규칙: 알림은 시점, 장부는 결말. 납부됨, 연체, 해지, 아직 청구 중 같은 상태는 무엇이든 보고하기 전에 원본 기록과 대조함. 기록이 오래되었으면 에이전트는 짐작하지 않고 그렇다고 알린 뒤 갱신을 요청함.
장부 자체가 최신인지도 매주 점검합니다. 오래된 장부와 대조한 결과는 자신 있는 짐작일 뿐.
2. 틀린 검토와 그대로 따른 에이전트
저희는 에이전트끼리 서로의 결과를 검토하게 하고 이 방식으로 실제 오류도 잡아냅니다. 그런데 한번은 검토하던 에이전트가 맞는 값에 이의를 제기했고 원래 에이전트는 확인 없이 그 이의를 받아들여 맞는 답을 틀린 답으로 바꿨습니다.
모델은 상대에게 맞춰 주는 성향이 있어서 둘을 대화하게 두면 한쪽이 물러서는 것이 가장 쉬운 길이 됩니다.
규칙: 다른 에이전트의 답은 하나의 보고일 뿐 사실의 근거가 아님. 이의는 장부·문서·법령 같은 근거와 대조하기 전까지 아무것도 바꾸지 못함.
3. 조용히 '없음'이 된 '결과 0건'
저희 에이전트는 메일과 문자 안내를 모아 둔 보관함을 검색합니다. 이 교훈은 검색 색인이 아무 알림 없이 며칠 뒤처졌을 때 얻었습니다. 그 상태에서 '이 건으로 안내가 온 적이 있나?' 같은 질문에는 결과 0건이 돌아왔고 0건은 '아니요, 아무것도 없었습니다'로 읽혔습니다.
조용하고 그럴듯하며 사실처럼 말하는, 가장 위험한 종류의 오류.
규칙: 검색 결과 0건을 '없음'으로 단정하지 않음. 빈 결과를 답으로 보고하기 전에 출처가 최신인지 확인함. 확인할 수 없으면 답은 '모름'.
4. 법이 아니었던 보도 요약
개정된 세법 규정이 2026년 10월 1일 시행되자 언론은 기간이 '3년에서 2년으로 단축'됐다고 요약했습니다. 세무 일정 에이전트는 이 요약을 쓰지 않고 한국 정부의 공식 법령 데이터베이스에서 조문 원문과 조문별 시행일을 가져와 한 줄씩 비교했습니다. 바뀐 것은 한 조문뿐이고 바로 옆의 특례 조문은 그대로. 둘 중 어느 쪽이 적용되느냐가 답을 갈랐습니다.
에이전트는 결론을 내리지 않고 그 질문을 두 조문의 원문과 함께 제 세무사에게 물을 목록에 올렸습니다. 그 질문이 있어야 할 곳이 바로 거기입니다.
규칙: 기억이나 요약 대신 법령 원문. 세율과 기한은 조문마다 시행일을 확인하며 공식 원문에서 읽음. 개별 판단은 자격을 갖춘 전문가에게 넘김.
네 가지 실수가 말해 주는 것
이 실수 가운데 모델의 지능 문제였던 것은 하나도 없습니다. 모두 절차가 빠져서 생긴 일이었습니다. 무엇을 근거로 볼지, 어느 출처를 우선할지, 빈 답이 무슨 뜻인지, 최종 판단은 누가 할지. 첫 몇 주를 운영해 보고 내린 결론은 에이전트의 품질이 모델보다 그 둘레의 확인 절차에서 나온다는 것입니다.
저희가 AI Backoffice에 담고 있는 것도 바로 이것입니다. 먼저 움직이고 말하기 전에 기록을 확인하며 회사 밖으로 나가는 일은 먼저 묻는 에이전트. 대표님 회사의 행정에서 이 방식을 시험해 보고 싶으시면 시범 운영에 참여해 주십시오.
무료 시범 운영 신청 8주 무료, 국내 사업자 최대 5곳. 신청은 이메일로 받습니다.
In English
This post is a Korean translation of the founder's English original.