Claude 자동 모드 기본 적용: 승인 요청 97%가 그냥 눌리는 상황에서 AI 에이전트의 사람 승인은 어디에 둬야 하나

AI 에이전트에 사람 승인을 붙일 때 회사가 먼저 정할 것은 몇 번 묻느냐가 아니라 어떤 동작에서만 묻느냐입니다. 모든 동작에 승인 버튼을 달면 사람은 곧 읽지 않고 누릅니다. Anthropic은 2026년 10월 22일 다음 주부터 프로·맥스·팀 요금제의 대부분 Claude 앱에서 새 세션을 자동 모드로 시작한다고 밝혔고 그 근거로 Claude Code 사용자가 권한 요청의 97%를 승인한다는 자체 분석을 들었습니다. 승인은 되돌리기 어렵거나 회사 밖으로 나가는 동작에만 남기고 나머지는 시스템 규칙과 작업 기록으로 지키는 편이 더 안전합니다.

Anthropic은 무엇을 바꾸나

자동 모드는 도구 실행 요청을 사람 대신 분류기가 검사해 안전한 동작은 진행하고 위험한 동작은 막는 방식입니다. 막히면 Claude가 더 안전한 다른 경로를 찾거나 사용자에게 직접 승인을 요청합니다. Claude Code에서는 2026년 8월 14일부터 프로·맥스·팀 요금제의 새 세션에 기본 적용됐고 10월 22일 갱신으로 대부분의 Claude 앱으로 넓어집니다. 엔터프라이즈 관리자에게는 기본 적용 전에 이메일로 알린다고 했습니다. Claude Code에서는 연속 3번, 또는 한 세션에서 20번 막히면 수동 승인으로 돌아가고 다른 기본값을 고르거나 자동 모드를 끄는 설정도 있습니다.

승인 버튼은 왜 통제가 되지 못했나

Anthropic이 8월 7일 공개한 Claude Code 분석에서 사용자는 권한 요청의 97%를 승인했습니다. 같은 사용자들이 Claude가 내놓은 작업 계획은 39%를 거절했지만 개별 권한 요청은 3%만 거절했습니다. 한 번에 하나씩 뜨는 짧은 확인 창은 읽히지 않는다는 뜻입니다.

통제 실험 결과도 같은 방향입니다. 유료 전문 테스터 1,053명이 참여한 코딩 실험에서 승인 요청 하나를 명백히 위험한 명령으로 바꿔 보였을 때 사람은 13.6%(1,053명 중 143명)만 막았고 자동 모드는 같은 명령의 89%(937건)를 막았습니다. 세션 초반 사람의 차단율은 약 17%였지만 앞선 요청이 50건 넘게 쌓인 뒤에는 약 5%로 떨어졌고 자동 모드의 차단율은 세션 길이와 상관없이 같았습니다.

실제 사용 분석도 있습니다. 2026년 5~6월 Anthropic의 안전 파이프라인이 검토 대상으로 표시한 세션을 다시 채점했더니, 운영 환경 수준(심각도 7 이상)에서 사용자가 명시적으로 요청하지 않은 해로운 동작이 수동 승인 세션의 6.3%, 자동 모드 세션의 2.4%에서 나왔습니다. Anthropic은 이 수치가 모두 Claude Code 기준이라고 밝혔고 자동 모드도 분류 시스템에 기대는 만큼 위험을 없애지는 못한다며 운영 인프라를 크게 바꾸는 작업은 사람이 직접 검토하라고 권했습니다.

자동 모드가 막는 동작은 회사 업무에서 어떻게 보이나

회사 업무 에이전트에서 사람 승인은 어디에 두나

Anthropic의 설계는 세 층입니다. 상태를 바꾸지 않는 읽기와 검색은 허용 목록으로 바로 실행하고 프로젝트 폴더 안의 파일 수정은 버전 관리로 되돌릴 수 있어 검사 없이 허용하며 나머지 동작만 분류기가 봅니다. 코드나 비밀값을 외부로 보내는 동작은 분류기가 승인하지 않는 범주로 따로 막아 두었습니다. 회사 업무 에이전트도 같은 순서로 나눌 수 있습니다.

• 동작을 등급으로 나누기. 읽기, 초안 작성, 내부 기록, 외부 발신, 삭제·결제·권한 변경으로 나누고 등급마다 자동 실행, 사람 승인, 차단 중 하나를 정합니다.
• 읽기와 초안은 묻지 않기. 되돌릴 수 있고 밖으로 나가지 않는 동작에 승인을 붙이면 승인이 습관이 됩니다. 대신 작업 기록을 남깁니다.
• 외부 발신·결제·삭제는 시스템에서 막기. 이 등급은 프롬프트 지시가 아니라 계정 권한과 승인 대기열이 막고, 사람이 승인한 뒤에만 실행합니다.
• 승인 화면에는 판단할 값만. 받는 사람, 금액, 바뀌는 건수처럼 사람이 보고 판단할 값을 한 화면에 보여 주고, 담당자가 하루에 몇 건을 승인하는지 셉니다. 건수가 너무 많으면 등급 나누기를 다시 봅니다.
• 막힌 동작을 모아 보기. 에이전트가 막힌 동작과 사람이 거절한 동작을 모아 주기적으로 봅니다. Anthropic도 사내 사고 기록에서 막을 동작의 기준을 만들었습니다.

구축 업체에 물을 질문 다섯 가지

• 에이전트 동작을 어떤 등급으로 나누고, 등급마다 자동 실행·사람 승인·차단 중 무엇을 하나요?
• 외부 발신·결제·삭제는 프롬프트가 아니라 어떤 시스템이 막나요? 승인 기록은 어디에 남나요?
• 담당자가 하루에 승인할 건수를 얼마로 예상하나요? 그 수가 늘면 어떻게 줄이나요?
• 자동 검사나 분류 모델을 쓴다면, 우리 업무 사례로 막아야 할 동작을 얼마나 막는지 시험한 결과를 보여 줄 수 있나요?
• 에이전트가 막히거나 대상을 하나로 정하지 못하면 멈추고 누구에게 넘기나요?

노벤티스는 어떻게 하나

노벤티스는 AI 에이전트를 설계할 때 업무별 입력·출력·승인 규칙과 실패 시 사람에게 넘기는 조건을 먼저 정하고 승인 없이 외부 발신·결제·삭제를 실행하는 자동화는 만들지 않습니다. 이미 쓰는 메일·메신저·CRM 위에 에이전트를 연결하고 첫 프로젝트는 접점 하나를 대상으로 4~8주 안에 PoC까지 진행합니다. PoC에서는 실제 업무 데이터와 정답지로 결과를 사람이 검토하고 검증된 범위만 운영으로 넘기며 범위와 비용은 진단 미팅 후 서면 견적으로 정합니다.

이 글이 맞는 독자: 메일·CRM·사내 시스템에 AI 에이전트를 붙이면서 사람 승인 단계를 어디에 둘지 정하려는 회사의 운영 책임자, IT·보안 담당자입니다.