기업 내 제너레이티브 AI의 새로운 보안 의무에 대한 이해
소개 소개: Microsoft Copilot이 기업 보안 위험을 혁신하는 방법
Microsoft Copilot은 조직에서 데이터에 액세스하고 데이터와 상호 작용하는 방식을 바꾸고 있습니다. 사용자는 더 이상 SharePoint 사이트, Teams 채널 또는 전자 메일 스레드를 통해 검색하는 데 국한되지 않습니다. 대신 Copilot은 모든 Microsoft 365 워크로드에서 필요한 정보를 동적으로 수집하여 필요에 따라 자연어 질문에 답합니다. 이러한 변화는 생산성과 지식 액세스의 새로운 시대를 열어줍니다.
하지만 이러한 성능에는 새로운 보안 문제가 수반됩니다. 구성과 정책 시행에만 집중하는 기존의 접근 방식으로는 충분하지 않습니다. Copilot의 실시간 컨텍스트 기반 대응은 보안 팀이 설정 시뿐만 아니라 실행 중에도 위험이 발생하는 환경에 적응해야 한다는 것을 의미합니다.
Copilot이 기존 보안 도구에 도전하는 이유
기존의 엔터프라이즈 보안 도구는
- 결정론적 액세스 경로(데이터에 대한 명확하고 추적 가능한 경로)
- 정적 권한(고정 액세스 규칙)
- 예측 가능한 애플리케이션 동작(애플리케이션은 코딩된 대로만 작동하고 그 이상은 수행하지 않음)
반면 부조종사는 그렇지 않습니다:
- 각 프롬프트에 동적으로 적응
- 컨텍스트 기반-여러 소스에서 관련 정보 가져오기
- 행동적으로 긴급한 – 때로는 예상치 못한 새로운 결과물 생성
따라서 Copilot을 보호하려면 구성, ID 및 액세스 관리, 정책 시행, 그리고 가장 중요한 런타임 동작에 대한 심층적인 가시성 등 계층화된 방어가 필요합니다.
Microsoft Copilot 작동 방식(보안 관점에서)
Copilot은 Microsoft 365 위에 계층화된 검색 증강 세대(RAG) 시스템이라고 생각하세요. 각 사용자 상호 작용에서 일어나는 일은 다음과 같습니다:
- 사용자가 브라우저, Office 앱 또는 Teams를 통해 프롬프트를 제출합니다.
- 코파일럿은 사용자 신원, 권한 및 컨텍스트를 확인합니다.
- SharePoint, OneDrive, Teams, 이메일, 모임 노트 등에서 관련 엔터프라이즈 콘텐츠가 검색됩니다.
- 참조가 결합되어 “근거”가 되어 응답을 알려줍니다.
- 맞춤형 답변이 생성되어 사용자에게 반환됩니다.
가장 중요하고 위험한 단계는 접지입니다. 보안팀은 반드시 물어봐야 합니다:
- 어떤 문서가 선택되었나요?
- 어떤 채팅이나 대화가 답변에 영향을 미쳤나요?
- 외부 또는 레거시 참조가 포함되었나요?
- 민감하거나 의도하지 않은 콘텐츠가 응답에 영향을 미쳤나요?
안타깝게도 이러한 질문은 구성 검사나 API 원격 분석만으로는 답할 수 없는 경우가 많습니다. 런타임 인사이트가 없다면 위험은 눈에 보이지 않습니다.
코파일럿 보안 환경: 다양한 도구, 다양한 계층
단일 보안 제품으로 전체 코파일럿 위험 표면을 커버할 수는 없습니다. 대부분의 기업은 문제의 각기 다른 측면을 해결하기 위해 여러 계층의 제어 기능을 배포합니다:
1. 구성 및 SaaS 상태 관리
- Microsoft 365 테넌트 설정 및 공유 상태 평가
- 민감도 레이블, Teams 외부 액세스 및 코파일럿 사용 여부를 평가합니다.
- 기본 위생을 확립하고, 잘못된 구성을 줄이고, 감사를 지원합니다.
- 제한: 실제로 일어나는 일이 아니라 일어날 수 있는 일에 초점을 맞춥니다. 런타임 시 사용자 프롬프트, 코파일럿 응답 또는 접지에 대한 인사이트가 없습니다.
2. 신원 및 조건부 액세스 제어
- Copilot에 액세스할 수 있는 사용자를 제어하고 MFA, 장치 보안 및 위치 제한을 적용합니다.
- 제로 트러스트 적용 활성화
- 제한: 이진(허용/거부) 결정만 가능 – 액세스 권한 부여 후 콘텐츠 또는 코파일럿 동작에 대한 가시성 없음.
3. 데이터 분류, DLP 및 규정 준수
- 데이터 분류(PII, PHI, IP, 규제 대상), 정책 적용, 보존 및 규정 준수 시행
- 민감한 내용을 정의하고 규정을 준수합니다.
- 제한 사항: 정확한 라벨링과 커버리지를 가정하며, Copilot이 콘텐츠를 실시간으로 결합하는 방식을 확인하기 어렵습니다.
4. 감사 로그 및 활동 원격 분석
- Copilot 사용 이벤트, 누가, 언제, 어떤 워크로드를 호출했는지 추적합니다.
- 보고 및 포렌식 지원
- 제한 사항: 이벤트 수준만으로는 코파일럿이 특정 방식으로 답변한 이유나 특정 콘텐츠가 사용된 이유를 설명할 수 없습니다.
격차가 남아있는 곳
이러한 모든 통제에도 불구하고 조직은 중요한 질문에 대한 답을 얻지 못합니다:
- 어떤 문서가 실제로 코파일럿의 응답에 영향을 미쳤나요?
- 코파일럿이 사용자에게 표시해서는 안 되는 정보를 표시했나요?
- 레거시 문서나 외부 문서가 조용히 재도입되고 있나요?
- 프롬프트 또는 응답이 실시간으로 정책을 위반하고 있나요?
- 구성이 올바르게 보이는데도 규정 준수 위반이 발생하나요?
왜 그럴까요? 코파일럿 위험은 설정 방식뿐만 아니라 런타임에도 발생하기 때문입니다.
AI 소개>보안: 런타임 보안 격차 좁히기
AI>Secure는 이러한 문제를 해결하기 위해 특별히 설계되었습니다. 인라인 MITM(중간자) 보안 계층으로 작동하며, 모든 Copilot 트래픽이 발생하는 대로 검사하고 API 또는 엔드포인트 전용 솔루션이 따라올 수 없는 기능을 제공합니다.
AI의 주요 기능>보안:
인라인 검사 및 정책 시행
- 브라우저, Office 앱, Teams 및 기타 Microsoft 365 클라이언트에서 Copilot 상호 작용을 감시합니다.
- 사후가 아닌 실시간으로 정책을 시행합니다.
- 접지 동작을 관찰하고 기록합니다.
유니버설 커버리지
- 웹, 데스크톱, 모바일 등 모든 Copilot 진입점을 보호합니다.
- 사용자가 Copilot에 액세스하는 방식에 관계없이 일관된 보안 및 가시성 보장
실시간 프롬프트 및 응답 검사
- 문제가 있는 프롬프트가 처리되기 전에 차단합니다.
- 사용자가 보기 전에 위험한 응답을 차단하거나 삭제합니다.
- 데이터 유출 방지 및 선제적인 AI 정책 시행
접지 및 참조 가시성
- 각 응답에 참조된 모든 문서, 채팅, URL 및 아티팩트를 식별합니다.
- 런타임 시 민감도 및 적절성 평가
- 각 참조를 사용자 신원 및 컨텍스트와 연관시킵니다.
- Copilot 보안을 가정 기반에서 증거 기반으로 전환합니다.
유효성 검사기
- 즉각적인 주입 감지
- 콘텐츠 안전 및 어조 분석
- 기업에서 정의한 허용/거부 카테고리
- 참조 URL 안전 및 자세
- 코드 및 IP 유출 방지
- 데이터 유출 방지(PII, PHI, 민감한 기업 데이터)
- 참조 감도 및 액세스 유효성 검사
대시보드 및 분석
-
- 트랜잭션 수준 메트릭(총 트랜잭션, 프롬프트 대 응답 수, 유효성 검사기 결과)
- 유효성 검사기별 인사이트(탐지율, 시행 영향)
- 사용자 및 클라이언트 가시성(누가 Copilot을 사용하는지, 어떤 플랫폼에서 사용하는지, 사용량 및 위반 동향)
- 규정 준수 및 위험 태세(고위험 사용자, 위반 추세, 감사 증거)
</ul
다중 보안 계층이 여전히 중요한 이유
AI>Secure는 핵심 SaaS 태세 관리, ID 및 액세스 제어, DLP/분류 또는 감사 도구를 대체하지 않습니다. 대신 런타임 가시성 및 시행이라는 중요한 계층을 추가하여 전체적인 그림을 완성합니다.
진정한 의미의 코파일럿 보안은 네 가지 계층을 포괄하는 것을 의미합니다:
-
-
- 구성
- 액세스
- 정책
- 동작 (런타임)
-
대부분의 솔루션은 처음 세 가지를 다룹니다. AI>Secure는 네 번째, 즉 Copilot의 실제 위험이 발생하는 경우를 위해 설계되었습니다.
결론 결론: 의도부터 행동까지 – 코파일럿 보안의 새로운 표준
Copilot이 기업 지식에 대한 주요 인터페이스가 되면서 보안에 대한 기준도 높아졌습니다. 조직은 더 이상 정책을 작성하거나 액세스를 구성하는 방식만으로 평가받는 것이 아니라 AI가 실제로 어떻게 작동하는지, 의사 결정이 설명 가능한지, 추론 중에 민감한 데이터가 진정으로 보호되는지에 따라 평가받게 됩니다.
Copilot이 어떻게 답변을 근거로 삼고 있는지 확인할 수 없다면 완전한 보안을 보장할 수 없습니다. AI>Secure는 보안 리더가 Copilot을 자신 있게 관리하는 데 필요한 런타임 가시성, 제어 및 증거를 제공하고 규제 기관, 감사관 및 비즈니스 자체의 요구 사항을 충족합니다.