[뉴스토마토 전연주 기자] 생성형 인공지능(AI)을 넘어 스스로 판단하고 작업을 수행하는 '에이전틱 AI' 확산이 본격화하는 가운데, 보안 기반과 통제 체계 구축 필요성이 대두되고 있습니다. AI가 단순 응답을 넘어 실제 데이터 접근하고 업무를 수행하는 단계로 들어서면서 접근 권한 관리와 정책 설정, 실행 범위 통제 등이 핵심 과제로 떠오른 모습입니다.
한국인터넷진흥원(KISA)은 16일부터 이틀간 서울 코엑스에서 '제32회 정보통신망 정보보호 컨퍼런스(NetSec-KR 2026)'를 온·오프라인 하이브리드 방식으로 진행한다고 밝혔습니다. 이번 행사의 전체 주제는 '흔들림 없는 보안 기초 위에 구현하는 인공지능(AI) 대전환'입니다. 이틀 동안 AI 안전, 생성형 AI 및 딥페이크, 공급망 보안 등 다양한 세션이 함께 열리며, AI 확산에 따른 정보보호 이슈 전반도 다뤄질 예정입니다.
행사 첫날 키노트 세션에서는 김영훈 AWS코리아 부사장이 '견고한 보안 기반 위의 에이전틱 AI'를 주제로 발표했습니다. 생성형 AI는 개념검증 단계, 상용화 단계를 거쳐, 최근 비즈니스 가치 창출 단계까지 이동하고 있는데요. 생성형 AI 어시스턴트가 반복 작업 자동화에서 자율형 멀티 에이전트 시스템으로 발전하고 있다는 것이 김 부사장의 설명입니다.
김 부사장은 "인간의 개입이 줄어들수록 보안과 윤리 문제가 함께 제기된다"며 "에이전트가 인간의 통제를 넘어 작업을 수행하는 상황에서 어느 수준까지 통제를 유지할 것인지에 대한 논의가 필요하다"고 말했습니다. 에이전틱 AI가 실제 업무 환경으로 확산하는 만큼, 보안 문제 역시 동반돼야 한다는 겁니다.
에이전틱 AI 확산에 따른 주요 보안 이슈로는 권한 오남용, 메모리 오염, 다중 에이전트 간 충돌, 의사결정 과정의 불투명성 등이 언급됐습니다. 김 부사장은 "에이전틱 AI가 기업 데이터에 접근하고 실제 작업을 수행하는 단계로 확대되면서, 접근 통제와 실행 범위 관리가 중요하다"고 강조했습니다.
특히 에이전틱 AI 보안과 관련해서는 런타임, 아이덴티티, 폴리시가 주요 요소로 제시됐습니다. 런타임은 에이전트를 실제 운영 환경에서 안전하게 실행하기 위한 기반이고, 아이덴티티는 에이전트에 부여되는 접근 권한을 관리하는 체계입니다. 폴리시는 에이전트의 행동 범위와 도구 호출, 작업 수행 한계를 사전에 정하는 정책 장치입니다.
김 부사장은 에이전트가 실제 업무에 투입될수록 어떤 환경에서 실행되고, 어떤 데이터와 시스템에 접근하며, 어디까지 행동할 수 있는지를 각각 통제하는 구조가 중요하다고 강조했습니다.
행사에서는 에이전틱 AI 확산에 따른 위기 인식도 함께 공유됐습니다. 이상중 KISA 원장은 미국 엔트로피사의 미토스 모델을 언급하며 "AI가 보안 취약점을 스스로 탐지하고 자율적으로 공개까지 수행할 수 있는 가능성에 대해 전 세계적 우려가 제기되고 있다"고 말했습니다.
또 류재명 과학기술정보통신부 제2차관은 "AI가 공격자의 개입 없이도 스스로 시스템의 취약점을 찾아내고 해킹 시나리오를 설계하는 자율형 사이버 공격으로의 지능적 진화를 가속화하고 있다"고 주장했습니다.
'제32회 정보통신망 정보보호 컨퍼런스(NetSec-KR 2026)' 포스터. (자료=한국인터넷진흥원)
전연주 기자 kiteju1011@etomato.com
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김충범 테크지식산업부장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지