AI 에이전트에게 회사 시스템을 맡겨도 안전할까? 정부 '에이전틱 AI 제로트러스트 안내서', 클로드 엔터프라이즈 보안 센터, 카카오 판단 모델 공개 3건
과학기술정보통신부와 한국인터넷진흥원(KISA)이 기업이 AI 에이전트를 도입할 때 권한과 실행 과정을 단계마다 검증하도록 돕는 「에이전틱 AI 제로트러스트 안내서」를 11월 6일 공개했습니다. 앤트로픽은 클로드 엔터프라이즈에 보안 설정을 한 화면에서 점검하는 보안 센터와, 프롬프트와 도구 호출을 회사 보안 도구로 먼저 검사하는 추론 훅을 내놓았습니다. 카카오는 AI 에이전트가 문장 대신 확률, 선택, 점수로 빠르게 판단하게 돕는 모델 Kanana-2-v-decide를 상업적으로 쓸 수 있는 라이선스로 공개했습니다.
발행 · 한국 시간 · AI 초안 및 원문 대조를 거친 누구나AI 편집
직전 호(11월 6일 오전 10:51) 이후 공개된 국내 발표 2건(과기정통부 보도자료 보도시점 11월 6일 11:00, 카카오 보도자료 11월 6일)과, 미국 시간 11월 5일 발표됐지만 오전 호에서 다루지 않은 앤트로픽 발표 1건입니다. 과기정통부 보도자료 첨부 원문과 KISA 게시 안내서 PDF, 앤트로픽 공식 글과 도움말, 카카오 보도자료와 허깅페이스 모델 카드를 발행 전에 직접 확인했습니다. 실제로 시스템에 적용해 본 후기가 아니라 공식 자료 확인에 기반한 브리핑이며, 성능 수치는 각 회사가 밝힌 값입니다. 클로드 기능 일부는 베타입니다.
오늘 AI 뉴스의 핵심은?
권한과 행동을 계속 검증하는 장치를 갖춘다면 범위를 정해 맡길 수 있다는 것이 정부 안내서의 방향입니다. 과기정통부와 KISA는 11월 6일 에이전트의 입력 처리, 도구 호출, 작업 위임, 외부 통신 지점마다 행위를 검증하고 위험 수준에 따라 사람 승인을 거치도록 권하는 안내서를 내놓았습니다.
먼저 읽는 핵심 요점
과기정통부와 KISA의 「에이전틱 AI 제로트러스트 안내서」는 2024년 제로트러스트 가이드라인 2.0의 4단계 성숙도 모델을 AI 에이전트 환경으로 넓히고, 실무 적용 시나리오 5개를 담았습니다.
앤트로픽은 클로드 엔터프라이즈에 권장 설정과 현재 설정을 비교하는 보안 센터(베타)와, 프롬프트와 도구 호출을 회사 보안 도구로 먼저 검사하는 추론 훅(정식 제공)을 내놓았습니다.
카카오 Kanana-2-v-decide는 문장을 만들지 않고 확률, 선택, 점수로 답하는 3.67B 규모 판단 모델로, 카카오는 GPT-6 Luna보다 약 43배 빠르다고 밝혔습니다.
01 / 정책·연구
과기정통부와 KISA, '에이전틱 AI 제로트러스트 안내서' 발간…AI 에이전트 행동을 단계마다 검증하고 위험하면 사람이 승인
발표일 2026-11-06 · 사건·업데이트일 2026-11-06
과학기술정보통신부와 한국인터넷진흥원(KISA)은 11월 6일 국내 기업이 AI 에이전트를 도입하고 운영할 때 제로트러스트 보안을 적용하도록 돕는 「에이전틱 AI 제로트러스트 안내서」를 발간했다고 밝혔습니다. 제로트러스트는 '절대 믿지 말고 계속 검증하라'는 보안 개념입니다. 정부는 에이전트가 외부 서비스와 주고받는 상호작용과 물리 장치에 내리는 명령까지 통제 대상이 넓어졌고, 프롬프트 오염과 위임받은 권한을 넘어선 자율 행동이 새로운 위협이라고 설명했습니다. 안내서는 입력 처리, 도구 호출, 작업 위임, 외부 통신이 일어나는 지점마다 행위를 검증하고 정책을 집행하며, 위험 수준에 따라 사람의 승인이나 미리 승인된 정책을 적용하도록 했습니다. 2024년 12월 제로트러스트 가이드라인 2.0의 4단계 성숙도 모델(기존, 초기, 향상, 최적화)과 6개 핵심 요소, 2개 교차 기능 구조를 이어받아 보안 기능 53개를 정의했고, 158쪽 분량 PDF에 프롬프트 인젝션을 통한 목표 탈취, AI 생성 코드 실행, 악성 에이전트, 승인 피로 악용, MCP 공급망 침해 등 시나리오 5개를 담았습니다. 안내서는 가이드라인 2.0을 대체하지 않는 보완 문서라고 밝히고 있습니다.
우리의 일과 배움에는
누구나AI 편집 해설로는, 업무 자동화를 위해 에이전트에 메일, 드라이브, 결제 같은 권한을 연결하기 시작한 회사라면 '처음 로그인할 때 한 번 확인'으로는 부족하다는 기준이 국내 공식 문서로 정리됐다는 점이 중요합니다. 특히 사람이 승인 버튼을 습관처럼 누르게 되는 '승인 피로'를 위협 시나리오로 다룬 것은 현장 운영 규칙을 만들 때 바로 참고할 만합니다. 법적 의무가 아닌 안내서이므로 우리 조직 규모에 맞는 항목부터 골라 적용하는 것이 현실적입니다.
누구나AI 편집 해설
AI 생성 편집 이미지 · 실제 발표 현장 아님
한눈에 이해하기
과기정통부와 KISA가 11월 6일 공개한 안내서는 AI 에이전트의 입력, 도구 호출, 작업 위임, 외부 통신을 지점마다 검증하고 위험한 행동에는 사람 승인을 붙이도록 권합니다.
이렇게 활용해보세요
KISA 누리집에서 안내서 PDF를 내려받아 제3장 성숙도 표로 우리 조직의 AI 에이전트 보안 수준이 4단계 중 어디인지 먼저 표시합니다.
사내에서 쓰는 에이전트마다 접근 권한, 할 수 있는 행동, 되돌릴 수 없는 행동을 적고, 되돌릴 수 없는 행동(송금, 삭제, 외부 발송)에는 사람 승인을 붙입니다.
승인 요청이 너무 잦아 습관적으로 허용하지 않도록, 저위험 행동은 미리 정한 정책으로 자동 처리하고 고위험 행동만 사람이 보게 나눕니다.
앤트로픽, 클로드 엔터프라이즈에 '보안 센터'와 '추론 훅' 추가…프롬프트와 도구 호출을 회사 보안 도구로 먼저 검사
발표일 2026-11-05 · 사건·업데이트일 2026-11-05
앤트로픽은 11월 5일 클로드 엔터프라이즈에 보안 팀용 기능을 추가했다고 밝혔습니다. 보안 센터(베타)는 채팅, Cowork, Claude Code의 보안 설정을 한 페이지에 모아 현재 값과 앤트로픽 권장 값을 비교하고 설정 위치로 연결하며, 보고서로 내려받아 감사 담당자와 공유할 수 있습니다. 앤트로픽은 보안 센터가 권장 사항에 기반한 안내일 뿐 법이나 표준 준수 인증이 아니라고 명시했습니다. 추론 훅은 정식 제공으로, 프롬프트 훅은 프롬프트를, 도구 호출 전 훅은 도구 실행 전 호출 내용을 회사가 운영하는 보안 서버로 보내 허용 또는 거부를 받은 뒤에만 진행합니다. 이 밖에 여러 조직을 admin.claude.com 한곳에서 관리하는 중앙 관리(베타), Admin API로 구성원을 모든 기기에서 로그아웃시키는 기능(베타), 관리자가 직접 설정하는 IP 허용 목록(베타), 관리 대상 컴퓨터의 Claude Desktop에서 개인 계정 같은 외부 계정 로그인을 막는 기능이 추가됐습니다. Cowork 가상 머신 안에서 회사 EDR 센서를 돌리는 기능은 Team과 Enterprise에서 macOS와 Windows 베타로 제공되며, 차단하지 않고 탐지만 합니다.
우리의 일과 배움에는
누구나AI 편집 해설로는, 직원들이 회사 몰래 개인 AI 계정을 쓰는 '섀도 AI'와 민감한 자료 유출이 기업 AI 도입의 가장 큰 걱정거리인데, 이번 기능은 기존 보안 정책을 AI 사용 흐름에 그대로 걸 수 있게 했다는 점에서 의미가 있습니다. 같은 날 나온 정부 안내서가 말하는 '도구 호출 지점의 검증'을 실제 제품 기능으로 구현한 예로 볼 수 있습니다. 다만 대부분 엔터프라이즈 전용이고 여러 기능이 베타이므로, 도입 전 계약 요금제와 지원 범위를 확인해야 합니다.
누구나AI 편집 해설
AI 생성 편집 이미지 · 실제 발표 현장 아님
한눈에 이해하기
앤트로픽은 11월 5일 클로드 엔터프라이즈에 권장 설정과 비교하는 보안 센터(베타)와, 프롬프트와 도구 호출을 회사 보안 도구가 먼저 허용 또는 거부하게 하는 추론 훅(정식 제공)을 추가했습니다.
이렇게 활용해보세요
클로드 엔터프라이즈 관리자는 Organization settings의 보안 센터를 열어 권장 값과 다른 항목부터 확인하고, 보고서를 내려받아 보안 담당자와 함께 검토합니다.
이미 쓰는 DLP(데이터 유출 방지) 솔루션이 추론 훅을 지원하는지 보안 업체에 확인하고, 주민등록번호나 고객 명단 같은 차단 규칙을 클로드에도 적용합니다.
Claude Desktop을 회사 컴퓨터에 배포했다면 개인 계정 로그인 차단을 켜고, 퇴사나 기기 분실 때 쓸 Admin API 로그아웃 절차를 미리 문서로 만들어 둡니다.
카카오, AI 에이전트용 판단 모델 'Kanana-2-v-decide' 오픈소스 공개…문장 대신 확률, 선택, 점수로 답한다
발표일 2026-11-06 · 사건·업데이트일 2026-11-06
카카오는 11월 6일 AI 에이전트의 의사결정을 돕는 멀티모달 모델 Kanana-2-v-decide를 허깅페이스에 오픈소스로 공개했다고 밝혔습니다. 이 모델은 문장을 생성하지 않고, 텍스트나 이미지를 입력하면 조건이 참일 확률, 여러 선택지별 확률과 최적 선택지, 단계별 점수의 세 가지 형식으로 판단 결과를 돌려줍니다. 카카오는 파손된 상품 사진과 교환 요청이 들어오면 파손 여부, 문의 유형, 고객 감정을 확률이나 점수로 판단해 상담 연결이나 교환 안내로 이어지게 하는 사례를 들었습니다. 모델 카드 기준 크기는 3.67B(비전 인코더 0.49B, 언어 모델 3.18B)이고 이미지 최대 10장, 2만 480토큰까지 입력할 수 있습니다. 카카오는 H200 GPU 1장에서 평균 0.04초 이내로 응답해 GPT-6 Luna보다 약 43배 빠르고, 한국어 1만 5,909문항 자체 평가셋에서 72.50점으로 비교 모델 중 가장 높았다고 밝혔습니다. 모델 카드의 공개 평가 표에서는 두 공개 평가 평균(61.23)과 이미지 평가에서 1위였고, 텍스트 공개 평가 단독 점수는 다른 비교 모델이 더 높았습니다. 연구와 상업적 이용이 가능한 카나나 오픈 라이선스가 적용됐고, 카카오는 웹 검색과 상품 카테고리 자동 분류 등 내부 프로젝트에 먼저 적용할 계획입니다.
우리의 일과 배움에는
누구나AI 편집 해설로는, 문의 분류나 다음 처리 단계 선택처럼 '정답 고르기'가 반복되는 업무는 긴 답변을 쓰는 큰 모델보다 이런 판단 전용 모델이 빠르고 저렴할 수 있다는 점이 핵심입니다. 고객센터나 쇼핑몰을 운영하는 개발 조직이라면 확률 값을 기준으로 '높으면 자동 처리, 애매하면 사람에게'처럼 규칙을 짜기 쉬워집니다. 다만 성능 수치는 카카오가 밝힌 값이고 직접 운영하려면 GPU 환경과 개발 역량이 필요하므로, 비개발 조직은 이런 기능이 들어간 서비스가 나오는지를 지켜보는 편이 현실적입니다.
누구나AI 편집 해설
AI 생성 편집 이미지 · 실제 발표 현장 아님
한눈에 이해하기
카카오가 11월 6일 공개한 Kanana-2-v-decide는 텍스트와 이미지를 보고 문장 대신 확률, 선택, 점수로 판단 결과를 돌려주는 3.67B 규모 오픈소스 모델이며, 상업적 이용이 가능한 라이선스가 붙었습니다.
이렇게 활용해보세요
우리 업무에서 반복되는 판단(문의 유형 분류, 사진 속 상품 파손 여부, 긴급도 점수)을 3개 정도 골라 선택지와 기준을 문장으로 적어 둡니다.
개발 담당자가 있다면 허깅페이스 모델 카드의 예시 코드로 실제 문의 20~30건을 넣어 보고, 확률이 애매한 구간은 사람이 확인하도록 기준값을 정합니다.
적용 전에 카나나 오픈 라이선스 문서를 읽고, 고객 사진과 문의 내용을 다룰 때의 개인정보 처리 방침도 함께 점검합니다.
KISA 누리집 지식플랫폼의 법령·가이드라인 > 가이드라인 게시판에 11월 6일 'PDF(약 6MB)'로 올라와 있으며 누구나 내려받을 수 있습니다. 공공누리 '출처표시, 상업적 이용금지, 변경금지' 조건이 붙어 있으니 사내 교육 자료로 쓸 때 출처를 밝히고 내용을 바꾸지 않아야 합니다.
클로드 Team 요금제에서도 보안 센터와 추론 훅을 쓸 수 있나요?
앤트로픽 발표 기준으로 보안 센터, 추론 훅, 중앙 관리, 새 접근 제어는 클로드 엔터프라이즈 기능입니다. Cowork 가상 머신 안에서 회사 EDR 센서를 돌리는 기능만 Team과 Enterprise 모두 macOS와 Windows에서 베타로 제공된다고 밝혔습니다.
Kanana-2-v-decide는 회사 서비스에 무료로 써도 되나요?
카카오는 연구 목적뿐 아니라 상업적 활용이 가능한 '카나나 오픈 라이선스'를 적용했다고 밝혔습니다. 다만 세부 조건은 허깅페이스 모델 페이지의 라이선스 문서를 직접 읽고 확인해야 하며, 모델을 돌릴 GPU와 개발 인력은 별도로 필요합니다.
