AI가 강력한 변화의 원동력으로 떠오르면서 CISO는 이 기술의 잠재력을 최대한 활용하고 조직 전반에서 안전하게 적용하기 위해 팀 운영 방식을 다시 고민하고 있다.
생성형 AI는 이제 기업 전반에서 보편적인 도구로 자리 잡았다. 보스턴컨설팅그룹(BCG)의 최근 조사에 따르면, 전체 기업의 50%가 워크플로를 재설계하기 위해 이 기술을 활용하고 있으며, 응답자의 77%는 향후 3~5년 내 AI 에이전트가 기업 운영에 필수적인 역할을 할 것이라고 답했다.
AI의 잠재력에 익숙한 CISO와 보안팀도 예외가 아니다. 수년간 머신러닝은 사이버 보안 운영의 핵심 요소였지만, 최근 생성형 AI를 비롯한 AI의 발전으로 기술은 보안 운영 전반으로 깊숙이 확산되고 있다. 자체 개발하거나 벤더로부터 제공받는 이들 도구는 포렌식, 사고 대응, 로그 분석, 오케스트레이션, 취약점 관리, 보고서 작성 등 다양한 업무를 지원하고 있다.
이처럼 보안 프로세스에 AI 활용이 늘어나면서 사이버 운영(CyberOps)은 근본적으로 변화하고 있다. 보안 전문가의 업무 효율성과 생산성이 높아지고, 사이버 보안의 일하는 방식 자체가 새롭게 정의되고 있는 것이다. PwC 사이버·리스크 혁신연구소 리더 맷 고럼은 “AI가 바꾸는 것은 사이버 운영의 ‘무엇’이 아니라 ‘방법’이다. 특정 작업을 수행하는 속도를 바꾸고, 인력이 더 고차원적인 업무에 집중할 수 있게 한다”라고 말했다.
역량 보강과 업무 자동화
AI는 인간이 도저히 따라잡을 수 없는 속도로 업무를 처리해, 사이버 보안 부서가 수행할 수 있는 작업량을 기하급수적으로 확장한다. SANS 연구소의 AI·신흥 위협 부문 책임연구원 롭 T. 리는 “AI는 사이버 보안 기능이 할 수 있는 일의 범위를 극적으로 넓힌다”라고 설명했다.
또한 AI는 반복적인 업무를 거의 완벽하게 수행해, 인간 직원이 제공할 수 없는 수준의 일관성을 보장한다. EY의 미국 및 글로벌 사이버 CTO 댄 멜런은 “사람은 컨디션에 따라 결과가 달라질 수 있지만, AI는 동일한 작업을 반복적으로 수행할 때 일관성과 예측 가능성이 월등히 높다”라고 전했다.
AI는 속도와 규모 확장뿐 아니라 인력의 역량 강화에도 기여한다. IANS 리서치 연구원이자 마이크로소프트 금융 서비스 사이버 보안 고문, 그리고 전 코네티컷주 CISO였던 제프리 브라운은 “AI는 방어력을 두 배로 끌어올리는 도구다. 주니어 직원의 지식을 빠르게 끌어올려 학습 곡선을 단축시키고, 시니어 인력은 더 효과적으로 일할 수 있게 해 생산성을 재정의한다”라고 말했다.
예컨대 보안관제센터(SOC)에서는 AI가 티켓 분류와 라우팅 같은 1차 지원 업무 대부분을, 경우에 따라 전부 수행해 인력이 더 높은 수준의 이슈를 다루도록 한다. 생성형 AI는 고급 업무 수행을 돕는 사례 연구와 가이드를 자동으로 제공해 SOC 인력의 효율성과 생산성을 개선한다.
일자리 상실에 대한 우려에도 불구하고, 브라운은 지금까지 CISO들이 AI를 인력 대체가 아닌 업무 강화 수단으로 활용하고 있다고 강조했다. 그는 “AI의 가장 효과적인 활용은 여전히 인간이 개입하는 방식”이라고 말했다.
결과적으로 AI는 CISO의 팀이 할 수 있는 업무 영역을 확장하고, 더 많은 구성원이 고도화된 업무에 참여할 수 있게 한다. 예컨대 위협 모델링에 AI를 활용하면서, 규모가 작거나 전문성이 부족했던 팀도 잠재적 보안 위협을 사전에 식별·분석·완화할 수 있게 된 것이다.
IANS 리서치 연구원이자 공공 부문 CISO인 울프강 괴를리히는 “전반적으로 보안 운영팀은 기존 역량으로 더 많은 일을 해내고 있으며, 전체적인 기술 수준이 올라가고 있다. 이는 업무 수준 자체가 한 단계 격상되는 효과를 가져온다”라고 말했다.
소규모 팀, 새로운 역량 패러다임
이 모든 변화는 인력 전략에도 직접적인 영향을 미치고 있다. 보안 리더들은 전통적인 초급 보안 직무가 곧 사라질 것이며, 새롭게 업계에 진입하는 인력은 처음부터 더 높은 수준의 업무를 수행할 준비가 필요하다고 말한다.
제프리 브라운은 “에이전틱(Agentic) AI가 성숙해 더 많은 보안 부서에 도입되고, 보안 업무 상당 부분을 맡게 되면서 이런 변화가 특히 두드러질 것”이라고 설명했다. 그는 이어 “앞으로 어떤 유형의 전문가가 몇 명이나 필요한지 근본적으로 다시 고민해야 한다”라고 덧붙였다.
브라운이 코네티컷주 CISO로 재직할 당시, 피싱 대응만 전담하는 팀원이 있었다. 그러나 이제는 에이전틱 AI가 피싱 공격 대응 워크플로 대부분을 자동화할 수 있는 상황에서 과연 이런 전문 인력이 여전히 필요할지 의문이라고 지적했다.
브라운은 AI로 인해 보안팀은 더 작아지고 전문 인력 수도 줄어들 것이라면서도, 단순히 줄어드는 것이 아니라 “에이전트를 관리하며 업무를 수행하는 관리자”로 변모할 것이라고 말했다. 그는 수년간 이어져 온 보안 인력 수요와 공급의 불균형을 고려할 때, 이를 부정적으로 보지 않는다고 덧붙였다.
다만 브라운은 AI를 사이버 운영(CyberOps)에 도입하면서 보안 전문가에게 새로운 역량이 요구될 것이라고 강조했다. CISO는 AI 거버넌스, 프롬프트 엔지니어링, 데이터 과학 등 새로운 핵심 역량을 확보한 인력을 채용해야 한다는 것이다.
브라운은 “이는 매우 큰 패러다임 전환이 될 것”이라며 “에이전트가 제시한 답변이 옳은지 판단하고, 그렇지 않을 때는 구분할 수 있는 사람이 필요하다. 미래의 보안 운영은 인간과 AI의 공생 관계가 될 것이다. 인간의 직관은 대체할 수 없으며, 우리는 AI를 활용해 더 생산적이면서도 반드시 인간이 개입하는 구조를 유지해야 한다”라고 말했다.
거버넌스, 민첩성, 속도의 필요성
기업 전반에서 AI 활용이 가속화되면서, 이를 보안하고 데이터 사용을 관리해야 하는 사이버 보안 운영에도 새로운 도전이 닥치고 있다. 하지만 많은 보안팀은 이미 이 과제에 어려움을 겪고 있다.
액센츄어의 ‘사이버 보안 회복력 2025’ 보고서에 따르면, “전체 조직의 77%가 필수적인 데이터·AI 보안 관행을 도입하지 못하고 있으며, 생성형 AI 사용에 대해 명확한 정책과 교육을 실시한 곳은 22%에 불과하다. 또한 AI 시스템의 전체 인벤토리를 유지해 공급망 리스크를 관리하는 곳은 극히 소수에 그친다. 민감 데이터 보호 수준도 미흡해, 전송·저장·처리 단계에서 암호화와 접근 제어를 완전히 활용하는 기업은 25%에 불과하다”라고 지적했다.
보고서는 또한 “AI가 클라우드 기반 처리에 의존하고 있음에도 불구하고, 83%의 조직이 통합 모니터링·탐지·대응 기능을 갖춘 안전한 클라우드 기반을 마련하지 못했다”라고 밝혔다.
가트너 역시 2025년 7월 발간한 ‘CISO를 위한 AI 사이버 관리 지침서’에서 “CISO들이 기업 전반에서 AI 보안 확보에 뒤처지고 있다”라고 지적했다. 가트너는 보고서를 통해 “CISO는 AI 리터러시, 생애주기 거버넌스, 학제 간 협력, 인간 감독, 기본 보안 통제, 그리고 AI TRiSM(신뢰·위험·보안 관리)에 기반한 사이버 관리 접근법을 도입해야 한다”라고 권고했다.
보안 리더들은 사이버 운영팀이 AI 거버넌스 역량을 강화하고, 조직 내부뿐 아니라 외부에서 접근하는 AI 에이전트를 온보딩·식별·승인하는 능력을 갖춰야 한다고 입을 모은다. EY의 댄 멜런은 “AI 에이전트가 허용된 범위를 벗어나지 않도록 인간 권한 관리와 같은 견제 장치가 필요하다”라고 말했다.
PwC의 맷 고럼은 “비즈니스 변화 속도가 빨라질 것이고, CISO도 이에 발맞춰야 한다. 이를 위해 보안팀은 프롬프트 엔지니어링과 데이터 과학 같은 AI 역량과 기존 사이버 보안 역량을 융합할 수 있어야 한다”라고 설명했다.
보안팀의 재편성
가트너의 수석 부사장 애널리스트 아비바 리탄은 AI가 일자리를 대체하는 만큼 새로운 일자리도 만들어낼 것이라고 전망했다. 그는 “AI는 사람들이 더 많은 일을 더 잘할 수 있도록 역량을 끌어올릴 것”이라고 말했다.
리탄은 해커들이 AI를 활용해 점점 더 정교한 공격을 감행하고 있기 때문에, 새로운 사이버 운영(CyberOps) 역할이 반드시 필요하다고 강조했다. 그는 “AI는 조직이 이런 공격에 훨씬 효과적으로 대응할 수 있도록 도울 것”이라고 덧붙였다.
그러나 이러한 변화는 CISO가 운영팀을 근본적으로 재검토하도록 만든다. AI와 인간을 어떻게 조합해 최대한의 효과를 낼 수 있을지를 고민해야 한다는 것이다. 공공 부문 CISO이자 IANS 리서치 연구원인 울프강 괴를리히는 “CISO는 ‘어떤 부분은 인간이 맡아야 하는가, 어떤 부분을 AI에 맡길 수 있는가, 그리고 팀에서 그 역량을 잃었을 때의 인지적 비용은 무엇인가’를 질문해야 한다”라며 “보안 인력이 오랫동안 부족했기 때문에 긍정적인 측면도 있지만, 단순히 버튼만 누르는 SOC 팀으로 전락해서는 안 된다”라고 지적했다.
괴를리히는 CISO가 인재 전략을 업데이트해야 한다고 강조했다. 기존 직원을 재교육하고, 미래의 역할을 맡을 신입 인력을 채용해 AI 및 AI 에이전트와 나란히 일할 수 있도록 로드맵을 마련해야 한다는 것이다. 다만 이 과정에서 사이버 보안 운영에 반드시 필요한 인간 고유의 지능을 잃지 않아야 한다고 덧붙였다.
이는 특히 중요하다. 사이버 범죄자들 역시 AI를 활용하고 있으며, 기업이 지켜야 할 윤리나 규제를 따를 필요가 없기 때문에 훨씬 더 빠르게 움직이고 있다. 적대 세력이 AI로 즉시 변형 가능한 악성코드를 생성해 기존 패턴 매칭 기반 도구나 전통적 보안 기술을 무력화시키고 있다는 사실은, 방어 측면에서 CISO가 AI를 효과적으로 활용해야 할 필요성을 더욱 높이고 있다.
괴를리히는 “미래의 보안 운영은 결국 AI 대 AI의 싸움이 될 것이다. 기계와 기계가 맞붙는 가운데, 인간은 조종석에서 올바른 일이 진행되는지 확인하거나, 반대로 공격자가 원하는 공격이 실행되도록 감독하게 될 것이다. 이는 우리가 보안 운영 방식을 근본적으로 다시 생각하게 만드는 변화”라고 말했다.
dl-ciokorea@foundryco.com
