Insights

ChatGPT로 새는 회사 기밀, Shadow AI 막는 AI 거버넌스 솔루션이 필요한 이유

September 8, 2026

min Read

회의록 요약, 고객 메일 작성, 코드 오류 분석, 시장 조사까지 생성형 AI가 일상적인 업무 도구로 자리 잡았습니다. 필요한 AI 서비스를 직원이 직접 찾아 업무에 적용하는 일도 자연스러워졌습니다. 문제는 이러한 활용이 기업의 승인과 관리 범위 밖에서 이뤄질 때입니다. 개인용 AI 계정에 내부 문서를 올리거나 승인되지 않은 확장 프로그램을 설치하면, 기업은 어떤 데이터가 어디로 이동했는지 파악하기 어렵습니다.

Akamai의 「Enterprise AI Usage Risk Report 2026」 관련 조사에서는 기업 내 AI 대화의 약 47%가 기업에서 관리하지 않는 개인 계정을 통해 이뤄진 것으로 나타났습니다. AI 사용량도 모든 직원에게 고르게 분산되지 않았으며, 상위 5%의 사용자는 하위 50%보다 AI를 12배 더 자주 사용했습니다.

AI를 능숙하게 활용하는 직원일수록 다양한 도구와 데이터를 연결하기 때문에 기업이 살펴야 할 범위도 함께 커집니다. 최근에는 개인용 챗봇뿐 아니라 기존 업무 서비스에 추가된 AI 기능, 개발 도구, 사내에서 직접 운영하는 AI 모델, 업무를 대신 수행하는 AI까지 관리 대상이 넓어지고 있습니다. 특정 서비스 몇 개를 차단하는 방식만으로는 기업 내 AI 사용을 통제하기 어려워지는 이유입니다.

Shadow AI란?

Shadow AI는 임직원이 IT 또는 보안 부서의 승인과 관리 없이 AI 도구를 업무에 사용하거나 직접 구축·연결하는 것을 말합니다. 개인 ChatGPT나 Claude 등 계정으로 문서를 요약하는 행동뿐 아니라 승인되지 않은 AI 확장 프로그램, 개인 인증 키로 연결한 서비스, 별도 검토 없이 사내에서 운영하는 AI 모델도 포함됩니다.

기존 Shadow IT의 주요 관심사는 승인되지 않은 소프트웨어나 기기가 기업 네트워크에 접속하는 문제였다면, Shadow AI에서는 접속 여부와 함께 AI에 전달되는 내용까지 살펴야 합니다. 사용자가 프롬프트에 입력한 고객 정보, 계약서, 소스 코드가 외부 모델로 전송될 수 있고, AI가 연결된 저장소와 업무 시스템에서 추가 데이터를 불러올 수도 있기 때문입니다.

같은 AI 서비스라도 사용 방식에 따라 관리 상태가 달라집니다. 회사가 계약한 기업용 계정과 통합 로그인으로 접속하면 사용자 권한과 이용 기록을 관리할 수 있습니다. 반면 개인 계정이나 무료 구독으로 이용하면 해당 기록이 기업의 관리 체계 밖에 남을 수 있습니다. 이미 승인된 업무 서비스에 새로운 AI 기능이나 외부 연결 기능이 추가된 경우에도 별도의 검토 없이 사용하면 관리 공백이 생깁니다.

개인용 챗봇에서 업무를 수행하는 AI까지

초기 Shadow AI 논의는 직원이 공개형 챗봇에 업무 자료를 입력하는 상황에 집중됐습니다. 현재는 AI 서비스에 접속하는 경로와 활용 방식이 훨씬 다양해졌습니다. Netskope의 「AI Report 2026」은 관리 범위가 개인용 AI 앱에서 AI Agent, MCP 서버, 사내 AI 운영 환경으로 확대됐다고 설명합니다.

AI Agent는 사용자의 지시를 바탕으로 자료를 찾고 여러 도구를 연결해 실제 업무까지 수행하는 AI입니다. MCP는 이러한 AI가 사내 데이터베이스나 파일 저장소, 개발 도구에 연결되는 방식을 표준화한 규격입니다. 연결 대상과 권한을 제대로 관리하지 않으면 AI가 필요한 범위를 넘어 기업 데이터에 접근할 수 있습니다.

개발 환경도 관리가 필요한 영역입니다. 개발자가 개인 인증 키를 사용해 외부 AI 모델을 연결하거나, 회사의 검토 없이 내부 컴퓨터에서 AI 모델을 실행할 수 있습니다. 브라우저와 개발 프로그램에 설치되는 AI 확장 기능도 화면에 표시된 내용과 소스 코드, 로그인 정보에 접근할 수 있습니다. 따라서 대표적인 AI 서비스 몇 개만 허용하거나 차단하는 방식으로는 다른 경로에서 발생하는 Shadow AI를 놓칠 수 있습니다.

Shadow AI가 만드는 기업의 보안 공백

1) 데이터 이동 경로의 불투명성

직원이 생성형 AI에 입력하는 데이터에는 고객 정보, 인사 자료, 계약 조건, 제품 전략, 소스 코드, 인증 키 등이 포함될 수 있습니다. 기업용 계약과 개인용 계정은 데이터 보존 및 모델 학습 사용 여부, 데이터 처리 위치, 관리자가 확인할 수 있는 기록의 범위가 다를 수 있습니다. 개인 계정으로 전송된 데이터는 기업이 삭제 여부를 확인하거나 사고 발생 후 이동 경로를 추적하기 어렵습니다.

AI가 내부 시스템과 연결되면 데이터는 양방향으로 이동합니다. 사용자가 외부 AI에 기밀 정보를 보내는 것뿐 아니라, 사내 문서 검색 기능과 연결된 AI가 사용자의 권한 범위를 벗어난 정보를 답변에 포함할 가능성도 확인해야 합니다. 데이터 보호 정책을 파일과 이메일 전송에만 적용해서는 이러한 AI 이용 과정을 모두 살펴볼 수 없습니다.

2) 개인 계정과 분산된 권한

회사 이메일로 가입한 계정이라고 해서 반드시 기업이 관리하는 계정은 아닙니다. 개인 구독에 회사 이메일을 사용하면 관리자는 계정의 접근 권한과 데이터 설정, 이용 기록을 확인하지 못할 수 있습니다. 부서별로 발급한 인증 키나 소스 코드에 직접 입력된 키도 퇴사와 조직 이동, 프로젝트 종료 이후까지 남아 보안 부담을 키웁니다.

업무를 자동으로 수행하는 AI에도 사람의 계정과 같은 접근 기준이 필요합니다. AI가 필요 이상의 데이터와 도구를 사용할 수 있으면 잘못된 판단이 실제 명령이나 시스템 변경으로 이어질 수 있습니다. 누가 해당 AI를 만들었고 어떤 도구를 사용할 수 있는지, 어떤 계정으로 작업을 수행했는지 확인할 수 있어야 합니다.

3) 감사와 규제 대응의 어려움

AI 요청과 응답 기록이 여러 서비스에 흩어지면 사고 발생 시 어떤 데이터가 어떤 AI에 전달됐는지 확인하는 데 한계가 있습니다. 적용된 보안 정책과 사용자의 승인 여부, AI가 수행한 작업도 함께 기록되지 않으면 책임 범위와 사고 원인을 밝히는 데 시간이 걸립니다.

IBM의 「Cost of a Data Breach Report 2025」에 따르면 조사 대상 조직 가운데 5곳 중 1곳이 Shadow AI와 관련된 침해를 경험했다고 답했습니다. Shadow AI는 잠재적인 위험에 그치지 않고 실제 사고와 대응 비용, 규제 부담으로 연결되고 있습니다.

AI를 차단해도 Shadow AI가 사라지지 않는 이유

직원이 Shadow AI를 사용하는 주된 이유는 보안 정책을 피하기 위해서가 아니라 일을 더 빠르게 처리하기 위해서입니다. 승인된 도구가 필요한 기능을 제공하지 못하거나 도입 검토에 오랜 시간이 걸리면 익숙한 개인 계정과 무료 서비스를 선택합니다. 개발자와 전문 사용자는 업무에 맞는 AI를 직접 연결하면서 회사의 공식 환경보다 먼저 새로운 활용 방식을 만들어가기도 합니다.

UpGuard가 전 세계 보안 리더 500명과 직원 1,000명을 대상으로 실시한 조사에서는 직원의 45%가 차단된 AI 애플리케이션을 사용하기 위해 다른 방법을 찾는다고 답했습니다. 일괄 차단은 사용을 중단시키기보다 개인 기기나 기업이 확인하기 어려운 서비스로 이동시킬 수 있습니다. 가시성이 더 낮아지는 결과입니다.

정책과 교육만으로도 한계가 있습니다. 사용 가능한 데이터와 금지된 데이터를 문서로 정리해도 실제 업무 순간에 이를 판단하기는 쉽지 않습니다. AI 서비스와 기능이 빠르게 추가되는 상황에서 연간 또는 분기 단위의 점검만으로 최신 사용 현황을 반영하기도 어렵습니다. 직원이 사용할 수 있는 안전한 대안과 기술적 통제가 함께 마련돼야 정책이 실제 업무에 적용됩니다.

금지에서 통제로 전환하는 Shadow AI 관리 전략

1) 실제 사용 현황부터 확인

정책을 만들기 전에 어떤 AI 서비스와 계정, 확장 프로그램, 외부 연결 기능이 사용되는지 확인해야 합니다. 서비스 목록을 만드는 데서 끝내지 않고 사용자와 부서, 계정 유형, 연결된 데이터, 사용 목적까지 파악해야 합니다. AI를 자주 사용하는 직원과 핵심 업무부터 확인하면 한정된 보안 자원을 우선순위에 맞게 투입할 수 있습니다.

2) 도구가 아닌 사용 맥락에 따른 분류

모든 AI 도구를 허용 또는 차단의 두 범주로 나누기는 어렵습니다. 같은 서비스라도 공개 자료 작성에는 사용할 수 있지만 고객 정보나 소스 코드 처리에는 적합하지 않을 수 있습니다. AI 서비스와 사용 사례를 승인, 모니터링, 제한, 차단 대상으로 구분하고 데이터 민감도와 사용자 권한에 맞춰 기준을 적용해야 합니다.

3) 업무에 사용할 수 있는 승인 경로 제공

기업이 필요한 기능을 제공하지 못하면 비승인 도구 사용은 반복됩니다. 기업용 계정과 통합 로그인, 검토를 마친 AI 모델, 안전한 내부 데이터 연결 방식을 제공해 승인된 환경이 가장 편리한 선택이 되도록 설계할 필요가 있습니다. AI 서비스 접속에 사용하는 인증 키를 중앙에서 관리하고 프로젝트와 사용자 단위로 사용량을 배정하면 보안과 비용을 함께 통제할 수 있습니다.

4) AI 상호작용에 정책 적용

AI 서비스의 접속 여부만 관리해서는 충분하지 않습니다. 질문과 첨부파일에 개인정보나 기밀 정보가 포함됐는지 확인하고, 사용하는 AI와 업무 목적에 따라 전송을 제한해야 합니다. 업무를 수행하는 AI가 이용할 수 있는 도구와 데이터, 실행 권한에도 같은 기준이 필요합니다. 모든 요청과 응답, 정책 적용 결과를 기록하면 사고 조사와 감사에도 활용할 수 있습니다.

5) 지속적인 점검과 사용자 안내

AI 도구와 기능은 수시로 바뀌므로 승인 목록과 정책도 정기적으로 갱신해야 합니다. 차단 알림만 제공하기보다 해당 작업에 사용할 수 있는 승인된 서비스를 함께 안내하면 직원이 위험한 경로를 반복해서 찾는 일을 줄일 수 있습니다. 사용 로그와 위반 사례를 바탕으로 교육 내용을 조정하는 방식이 일회성 보안 교육보다 실제 업무에 가깝습니다.

AI Keeper

Shadow AI를 줄이려면 직원이 업무에 사용할 수 있는 승인된 AI 환경과 이를 일관되게 관리할 공통 통제 지점이 필요합니다. 부서마다 서로 다른 AI 모델과 인증 키, 보안 정책을 운영하면 AI 활용이 늘어날수록 관리 기준과 이용 기록도 함께 흩어집니다.

AI Keeper는 기업에서 사용하는 여러 AI 서비스를 하나의 통합 경로로 연결하는 AI 운영 관리 플랫폼입니다. 외부에서 제공하는 AI와 기업이 직접 운영하는 AI 모델이 달라도 같은 보안 정책을 적용할 수 있습니다. 직원이 입력한 질문이나 첨부파일에 개인정보가 포함됐는지 확인하고, AI가 기존 지시를 무시하도록 유도하는 공격이나 부적절한 내용도 공통 기준에 따라 차단합니다.

사용한 AI 플랫폼, 적용된 정책, 상세 로그는 기록으로 남아 문제가 발생했을 때 이용 과정을 확인할 수 있습니다. 업무를 자동으로 수행하는 AI가 어떤 사내 도구와 데이터에 접근할 수 있는지도 사용자와 조직의 권한에 따라 관리합니다. 기존 개발 환경과 연결할 수 있으며, 클라우드와 사내 인프라를 함께 사용하는 환경부터 외부 네트워크와 분리된 폐쇄망까지 기업의 보안 조건에 맞춰 운영할 수 있습니다.

AI Keeper의 역할은 직원의 AI 사용을 막는 데 있지 않습니다. 업무에 필요한 AI를 기업이 승인한 경로로 모으고, 서비스가 달라도 같은 보안과 관리 기준을 적용하는 데 있습니다. 이를 통해 기업은 AI 활용의 편의성을 유지하면서 Shadow AI가 만드는 데이터와 권한, 비용, 감사의 공백을 줄일 수 있습니다.

마무리

새로운 AI 도구가 빠르게 업무에 도입되면서 Shadow AI의 범위도 계속 달라지고 있습니다. 직원들이 필요한 기술을 선택하고 활용하는 속도가 기업의 승인과 관리 절차보다 앞서기 때문입니다. 처음에는 개인용 챗봇에 업무 자료를 입력하는 사례가 주로 문제가 됐지만, 최근에는 AI 확장 프로그램과 사내 AI 모델, 업무 자동화 도구, 외부 연결 기능까지 관리 대상이 넓어졌습니다.

기업이 먼저 해야 할 일은 AI 사용을 무조건 줄이는 것보다 어디에서, 어떤 방식으로 활용되고 있는지 확인할 수 있는 환경을 만드는 것입니다. 실제 사용 현황을 파악하고 데이터의 민감도와 사용자 권한에 따라 관리 기준을 세운 뒤, 직원이 업무에 활용할 수 있는 승인된 환경을 제공해야 합니다. 질문과 답변, 적용된 정책, 비용, AI의 활동까지 지속적으로 기록한다면 활용의 편의성을 유지하면서도 보안 공백을 줄일 수 있습니다.