AI는 자율적으로 일하되,
기업의 통제 밖으로 나가지 않습니다
모든 조회와 실행은 사용자의 권한, 회사의 업무 규칙, 승인 절차를 따릅니다.
AI가 무엇을 읽고, 어떻게 판단하고, 누가 승인했으며, 어떤 결과를 만들었는지 전체 과정을 기록합니다.
실행되는 모든 업무는 기록으로 증명됩니다
하나의 요청이 데이터 조회부터 권한 확인, 정책 적용, 사람 승인, 실제 실행, 감사 기록까지 어떻게 이어지는지 그대로 남습니다.
Action Request
“30일 이상 연체된 거래처에 독촉 메일을 보내고 담당자 업무를 등록해줘”
매출채권 원장 128건, 입금 내역 84건, 거래처 정보 42건 조회
요청자에게 매출채권 조회 권한 확인
외부 이메일 발송은 담당자 승인 필요
대상 거래처 7곳, 독촉 문안 7건, 담당자 업무 7건 생성
재무팀 김지원 승인 완료
이메일 발송, CRM 업무 등록, 처리 결과 ERP 기록
실행자, 승인자, 모델, 도구, 결과, 오류 기록 저장
여섯 가지 통제 구조
보안과 거버넌스는 마지막 단계가 아니라, 모든 조회와 실행을 관통하는 공통 통제 구조입니다.
Identity & Access
사용자와 조직의 권한을 그대로 적용
부서, 직책, 역할, 데이터 범위에 따라 에이전트가 조회하고 실행할 수 있는 범위를 제한합니다. 사람에게 적용된 권한 체계가 에이전트에게도 동일하게 적용됩니다.
Data Boundary
필요한 데이터만 접근
업무에 필요한 데이터만 전달하고, 개인정보와 민감정보는 정책에 따라 마스킹하거나 접근을 제한합니다. 운영 에이전트의 원천 데이터베이스 직접 접근은 기본적으로 차단하고, API 계층을 통해 접근합니다.
Policy Engine
회사의 업무 규칙을 코드로 적용
금액 기준, 거래 상태, 결재선, 허용 도구, 금지된 행동을 실행 전에 확인합니다. 회사의 업무 규칙이 코드로 표현되어 모든 실행에 일관되게 적용됩니다.
Human Approval
중요한 결정은 사람이 승인
전표 전기, 계약 확정, 외부 발송, 자금 집행처럼 영향이 큰 업무는 사람의 승인을 거쳐 실행합니다. 승인이 필요한 업무는 승인 완료 전 실행되지 않습니다.
Evaluation & Monitoring
정확도와 업무 성공 여부를 지속적으로 평가
응답 품질뿐 아니라 실제 업무 완료율, 예외 발생, 처리 시간, 비용을 모니터링합니다. 운영 중에도 에이전트의 신뢰도를 측정합니다.
Audit & Traceability
모든 행동을 다시 확인할 수 있도록 기록
조회한 데이터, 사용한 모델, 실행한 도구, 승인자, 결과를 감사 가능한 형태로 남깁니다. 사후에 모든 행동을 그대로 재구성할 수 있습니다.
운영 에이전트는 데이터에 직접 닿지 않습니다
데이터는 권한과 마스킹이 적용된 계층을 거쳐 전달되고, 모든 실행은 승인과 감사 기록을 통과합니다.
구축 원칙
최소 권한
AI에게 모든 권한을 주지 않습니다. 승인된 업무 안에서 필요한 최소 권한만 부여합니다.
직접 접근 차단
운영 에이전트의 원천 데이터베이스 직접 접근을 기본적으로 차단하고, 권한과 검증이 적용된 API 및 도구 계층을 사용합니다.
검증된 작업만 허용
임의 쿼리를 차단하고, 검증된 표준 Skill·CLI만 호출하도록 제한합니다.
전체 로깅 · 감사 추적
누가·언제·무엇을 조회하고 실행했는지 모두 기록해 사후에 그대로 재구성할 수 있습니다.
Human in the Loop
영향이 큰 업무는 반드시 사람의 승인을 거쳐 실행되도록 설계합니다.
Local LLM · 온프레미스 (선택)
민감 데이터를 외부로 내보내지 않도록 사내 인프라와 로컬 모델 구동까지 설계할 수 있습니다.
AI에게 모든 권한을 주지 않습니다.
승인된 업무 안에서 필요한 최소 권한만 부여합니다.
통제 가능한 AI 도입, 어디서부터 시작할지
함께 정리해 드립니다.
데이터·권한·승인 절차 등 운영 환경을 알려주시면, 통제 구조를 포함한 도입 방향을 제안드립니다.