Anthropic 'AI 웜' 보고서: 작은 AI 모델이 스스로 퍼질 수 있다면 회사는 기기·네트워크·API 키에서 무엇을 정해야 하나

Anthropic이 2026년 10월 12일 공개한 보고서의 결론은 작은 AI 모델이 몇 달 안에 스마트 TV 박스나 가전 같은 사물인터넷(IoT) 기기에서 스스로 복제할 수 있는 수준에 이를 수 있다는 것입니다. 당장 회사 시스템이 위험해졌다는 뜻은 아니지만 보고서가 짚은 경로는 회사가 지금 관리할 수 있는 것들입니다. 정할 것은 네 가지입니다. 사무실 기기 목록과 기본 비밀번호, 기기와 업무망의 분리, 평소와 다른 대용량 트래픽 감시, 그리고 AI 에이전트가 쓰는 API 키의 사용 한도와 교체 절차입니다. 네 가지 모두 AI 웜이 아니어도 기존 봇넷과 키 유출을 막는 기본 조치라서 미룰 이유가 없습니다.

Anthropic은 무엇을 시험했나

Anthropic 프런티어 레드팀의 William Zhou와 Daniel Freeman이 쓴 이 보고서는 자율 복제를 대상 찾기, 실행 권한 얻기, 추론 환경 세우기, 새 기기에서 다시 퍼지기의 네 단계로 나눴습니다. 앞의 두 단계인 해킹은 기존 연구로 돌리고 낯선 기기에서 모델을 띄우는 추론 환경 구축을 주로 쟀습니다. 연구진은 대당 약 55달러인 저가 안드로이드 TV 박스 15대를 묶어 Gemma4-26B-A4B 모델을 초당 0.39토큰으로 돌렸고 9B 모델이 시험한 하드웨어 9종 중 8종에서 추론을 띄웠다고 밝혔습니다.

전체 복제 시험은 방화벽으로 막은 클라우드 가상 네트워크 안의 안드로이드 에뮬레이터 8대에서 했습니다. 시험한 오픈 웨이트 모델 가운데 처음부터 끝까지 복제를 해낸 것은 Z.ai의 GLM-5.2뿐이었고 다섯 번 중 네 번은 8대 모두로, 한 번은 7대로 퍼졌습니다. 연구진은 작은 모델의 성능이 지금까지의 속도로 오르면 올해 말 이 수준에 닿는다고 추정했습니다. 다만 이 시험은 인증 없는 ADB 포트로 침투 단계를 아주 쉽게 만든 상한값이고 Anthropic은 이 시험에 자사 모델을 쓰지 않았습니다.

1. 사무실 기기 목록과 기본 비밀번호부터 정리한다

보고서는 가정과 소규모 사업장의 IoT 기기가 첫 표적이 될 수 있다고 봤습니다. 인터넷에 연결돼 있고 보안 조치가 적었기 때문입니다. 과거 Mirai 봇넷은 제조사 기본 아이디와 비밀번호 목록만으로 퍼졌고 보고서도 실제 IoT 보안이 시험의 쉬운 침투 단계보다 크게 어렵지 않을 수 있다고 적었습니다. 요즘은 보안 카메라와 화상회의 장비에도 작은 AI 칩이 들어가 표적으로서 매력이 커진다고도 했습니다. 사무실의 화상회의 장비, 보안 카메라, 네트워크 저장장치, 스마트 TV를 목록으로 만들고 기본 비밀번호가 남은 기기, ADB 같은 관리 포트가 열린 기기, 제조사 업데이트가 끊긴 기기를 표시하세요. 보고서는 영국 시장에서 IoT 기본 비밀번호가 이미 규정 위반이라는 점도 덧붙였습니다.

2. 기기는 업무망과 나눈다

연구진의 복제 시험은 기기끼리 인증 없이 연결되는 네트워크에서 이뤄졌습니다. 회사에서는 카메라, 회의 장비, 손님용 와이파이를 업무 PC와 서버, AI 에이전트가 도는 서버와 다른 네트워크에 두고 기기끼리 연결할 이유가 없으면 막아 둡니다. 보고서는 방어 목표를 감염 기기 하나가 새로 감염시키는 기기 수, 곧 R₀를 1 아래로 낮추는 것이라고 설명합니다.

3. 평소와 다른 대용량 트래픽을 알아챈다

보고서는 방어하는 쪽에 유리한 점도 짚었습니다. 새로 감염된 기기는 수 기가바이트짜리 모델 파일을 받고, 분산 추론은 평소 통신하지 않던 기기끼리 많은 트래픽을 오래 주고받으며 전파 과정에서 스캔과 외부 연결이 늘어납니다. 빨리 퍼질수록 흔적이 커진다는 뜻입니다. 공유기나 방화벽에서 기기별 트래픽을 보고 회의 장비가 밤새 기가바이트 단위로 내려받는 것 같은 이상을 알림으로 받게 해 두세요. 보고서가 인용한 Mirai 대응 사례에서는 통신사가 감염 가입자를 격리하고 알리자 14일 안에 감염의 92%가 정리됐고 알리지 않았을 때는 74%였습니다.

4. AI 에이전트가 쓰는 API 키는 한도와 교체 절차를 둔다

보고서가 든 또 다른 경로는 모델이 추론 API 자격증명을 훔쳐 스스로를 돌리는 방식입니다. 연구진은 이런 복제가 발견되기는 쉽지만 피해자 계정으로 퍼지면 속도가 더 빠를 수 있다고 봤고 느린 복제체의 등장은 API 키를 잘 훔치는 더 공격적인 형태가 뒤따를 신호라고 결론에 적었습니다. 업무 자동화에 모델 API를 쓰는 회사라면 키를 코드, 프롬프트, 사내 문서에 두지 않고 업무별로 키를 나눠 사용 한도와 이상 사용 알림을 걸고 담당자가 바뀌거나 납품이 끝나면 키를 교체하는 절차를 문서로 둡니다. 청구서를 보고서야 알게 되는 상황을 막는 것이 목적입니다.

연구진은 결론에서 'We should aim to harden our systems to make it difficult for such replicators to spread, but also prepare to deal with a world where they are here to stay.'(복제체가 퍼지기 어렵게 시스템을 단단히 하되, 복제체가 머무는 세상에도 대비해야 한다)라고 썼습니다.

과장인가, 대비할 일인가

The Verge는 TV 박스에서 모델을 느리게 돌린 실험과 실제 가전을 휩쓰는 AI 웜 사이에는 큰 간극이 있다고 짚었습니다. 연구진도 완전한 복제체는 아직 없다고 인정했고 시험은 침투를 쉽게 만든 상한값입니다. 반면 Palisade Research의 Jeffrey Ladish는 The Verge에 앞으로 12개월 안에 실제 환경에서 첫 사례가 나올 것으로 본다고 말했습니다. 회사가 이 논쟁의 결론을 기다릴 필요는 없습니다. 위 네 가지는 AI 웜이 오지 않아도 기존 봇넷과 키 유출을 막는 조치이기 때문입니다.

AI 자동화 업체에 확인할 것

• 에이전트가 쓰는 모델 API 키는 어디에 보관하고 업무별로 나누는가. 사용 한도와 이상 사용 알림이 걸려 있는가.
• 담당자가 바뀌거나 납품이 끝나면 키와 계정을 누가 어떻게 교체·회수하는가.
• 에이전트를 돌리는 서버의 외부 통신은 필요한 주소로만 열려 있는가.
• 회사의 IoT 기기와 에이전트 서버가 같은 네트워크에 있지 않은가.
• 이상 사용이 생기면 누가 언제 알고 어떻게 멈추는가. 이 절차를 시연할 수 있는가.

노벤티스는 어떻게 다루나

노벤티스(noventis.io)는 AI 에이전트와 업무 자동화를 고객사 시스템에 맞춰 설계하고 구축하는 AX 엔지니어링 팀입니다. 위 점검 항목은 노벤티스의 특정 사례가 아니라 일반 보안 원칙입니다. 승인 없이 외부 발신·결제·삭제를 실행하는 자동화는 만들지 않으며, 납품 범위와 운영 조건은 진단 미팅 후 서면 견적과 계약으로 확정합니다.

이 글이 맞는 독자: 사무실 기기와 AI 업무 자동화를 함께 관리하거나, 외부 업체에 AI 에이전트 구축을 맡기는 중소·중견기업의 IT·운영 책임자입니다.