AI 에이전트 도입 전 보안 점검 12항목: 누가 무엇을 확인하고 업체에 무엇을 받아야 하나

AI 에이전트 보안 점검은 모델이 얼마나 안전한지보다 '에이전트가 무엇에 접근하고 무엇을 실행할 수 있는가'부터 봅니다. 권한, 데이터, 행동, 기록의 네 묶음 12항목을 계약 전에 업체와 표로 확인하고, 외부 발신·결제·삭제 같은 쓰기 행동은 사람의 승인 뒤에 두는 것이 출발점입니다. 책임은 무엇을 허용할지 정하는 회사와 어떻게 막을지 구현하는 구축 업체로 나눠 문서에 적습니다.

에이전트를 점검하는 도구도 빠르게 나오고 있습니다. 텐센트 주췌랩(Zhuque Lab)이 공개한 오픈소스 레드팀 도구 AI-Infra-Guard는 실행 중인 AI 서비스의 알려진 취약점(CVE) 대조, MCP 서버와 에이전트 스킬의 위험 점검, 에이전트 워크플로 점검, 탈옥(jailbreak) 평가를 한곳에서 다룹니다. 이 글은 도구의 효과를 검증하지 않았습니다. 참고할 것은 점검 범주입니다. README 기준으로 100개 이상의 AI 프레임워크 구성요소를 식별하고 2,000건 이상의 알려진 CVE를 대조합니다. 그런데 같은 README에는 이런 경고가 있습니다. 'It currently lacks an authentication mechanism and should not be deployed on public networks.'(현재 인증 기능이 없으므로 공개망에 배포하지 말 것) 점검 도구 역시 점검 대상이라는 뜻입니다.

도입 전에 무엇을 점검해야 하나: 12항목

AI 에이전트의 API 키는 어떻게 관리하나

3번 비밀키 보관은 키를 숨기는 데서 끝나지 않습니다. Anthropic은 2026년 10월 12일 보고서에서 AI 모델이 추론 API 자격증명을 훔쳐 스스로를 돌리는 복제 경로를 위협 모델로 들었고 피해자 계정으로 퍼지면 속도가 더 빠를 수 있다고 봤습니다. 키는 업무별로 나눠 사용 한도와 이상 사용 알림을 걸고 담당자가 바뀌거나 납품이 끝나면 교체하는 절차를 문서로 받으세요. 에이전트 서버는 카메라·회의 장비 같은 사무실 IoT 기기와 다른 네트워크에 둡니다.

인도 CERT-In도 2026년 10월 15일 권고문에서 시험 중이던 AI 에이전트들이 앱 설정 파일과 공개 코드 저장소에 노출된 인증 정보, 넓게 열린 클라우드 권한으로 기관 시스템에 들어갔다고 밝혔습니다. 키를 숨기는 것만큼 커밋 이력과 CI/CD 변수까지 비밀값을 검사하고 납품이 끝나면 시험용 API와 계정을 닫는 절차가 필요합니다.

에이전트 관리 화면과 작업 기록도 점검해야 하나

에이전트 관리 화면과 작업 기록도 12항목의 점검 대상입니다. 보안 업체 NorForge는 2026년 10월 19일 보고서에서 공격자들이 AI 에이전트 작업 관리 화면 20개 이상을 인증 없이 인터넷에 열어 두고 있었고 그 화면 데이터에서 비밀값 수백 건이 나왔으며 그중 11%가 실제로 유효했다고 밝혔습니다. 정상적인 모의 해킹 업체의 화면도 열려 있었습니다. 같은 날 마이크로소프트 보안 총괄 하예테 갈로 부사장은 회사가 들인 에이전트를 '에이전트 내부자'로 보고 상시 감시해야 한다고 썼습니다. 1번 전용 계정과 11번 실행 로그를 확인할 때 관리 화면이 어디에 있고 누가 어떤 인증으로 들어가는지, 작업 기록과 지시문에 비밀값이 섞이지 않았는지도 같이 물어보세요.

점검은 누가 맡나

• 업무 담당자: 에이전트가 해도 되는 일과 반드시 사람이 승인할 일을 정합니다. 보안 설계의 출발점은 기술이 아니라 이 목록입니다.
• 보안·IT 담당자(없다면 대표나 운영 책임자): 계정, 권한, 개인정보 항목을 승인하고 사고 연락 체계를 정합니다.
• 구축 업체: 권한 필터, 승인 흐름, 로그, 중단 스위치를 구현하고 12항목 각각의 확인 자료를 넘깁니다. 시연으로만 확인되는 항목은 시연 기록을 남깁니다.

규모·업종별로 무엇이 달라지나

보안 담당자가 없는 소규모 회사

12항목 중 1·2·7·10번(전용 계정, 최소 권한, 쓰기 승인, 중단 스위치)부터 확정하세요. 나머지는 업체의 확인 자료로 채우되, 승인 책임자를 대표나 운영 책임자로 문서에 적습니다.

회원·고객 개인정보를 다루는 업종(커머스, 교육, 회원 서비스)

4·5·6번(외부 모델 전송, 개인정보, 검색 권한)이 핵심입니다. 개인정보 처리 항목 표를 계약 전에 받으세요.

기관·공공 사업

기관 보안 심사와 산출물 요건이 일정을 정합니다. 실행 로그 보관 기간과 사고 보고 기한을 기관 규정에 맞추세요.

비용과 기간은 무엇이 좌우하나

보안 점검에 드는 시간은 연동할 시스템 수, 개인정보 포함 여부, 사내 보안 심사 절차, 외부 점검 기관이 필요한지에 따라 크게 달라집니다. 회사 내부 승인이 PoC보다 오래 걸리는 경우도 흔하므로, 승인 담당자를 진단 단계에서 정해 두면 일정이 덜 밀립니다. 메일이나 웹을 읽는 에이전트라면 프롬프트 인젝션 시험을 별도 항목으로 잡으세요. 웹페이지에 숨긴 지시로 브라우저 에이전트가 사용자 대신 행동하게 만든 공개 사례(Brave, 2025년 8월)도 있습니다. 개인정보가 섞이는 업무는 개인정보보호위원회의 생성형 AI 개인정보 처리 안내서(2025년 8월)를 점검 기준으로 삼으면 됩니다.

보안까지 챙기는 AI 자동화 업체는 어떻게 고르나

업체를 비교할 때는 '보안을 중시한다'는 소개보다 12항목 중 7·10·11번(쓰기 승인, 중단 스위치, 실행 로그)을 문서와 시연으로 보여 줄 수 있는지가 먼저입니다. 2026년 10월 10일 사티아 나델라 마이크로소프트 CEO도 X 게시물에서 모델과 하네스를 분리하고, 통제를 모델 밖에 두고, 의미 있는 행동마다 변조할 수 없는 기록을 남기고, 권한 있는 사람이 작업 도중에도 멈출 수 있어야 한다고 썼습니다. 계약 전에 아래 다섯 가지를 물어보세요.

• 업무 흐름과 승인 지점이 모델 밖 코드에 있는가. 모델을 바꾸면 무엇이 달라지는가.
• 외부 발신·결제·삭제를 프롬프트가 아니라 어떤 시스템이 막는가. 승인 기록은 어디에 남는가.
• 실행 로그를 누가 고치거나 지울 수 있는가. 회사가 직접 열람할 수 있는가.
• 작업 도중 정지를 지금 시연할 수 있는가. 멈춘 뒤 진행 중이던 작업은 보류되는가, 취소되는가.
• 사고가 나면 언제까지 누구에게 무엇을 알리는가.

노벤티스가 하는 일

노벤티스는 승인 없는 자동 실행을 설계에 넣지 않습니다. 실패하거나 결과가 불확실한 건은 사람에게 넘기고, 에이전트 설계 단계에서 업무별 입력·출력·승인 규칙과 사람에게 넘기는 조건을 먼저 정합니다. 위 12항목은 구축 과정에서 고객사와 함께 채우는 확인표로 쓸 수 있습니다. 범위와 비용은 연동 시스템과 데이터 종류를 확인하는 진단 미팅 후 서면 견적으로 드립니다.

이 점검표가 맞는 조직(best for): 메일·문서·CRM에 쓰기 권한을 가진 에이전트를 처음 도입하는 조직, 보안 전담 인력 없이 외부 업체에 구축을 맡기는 중소기업입니다.