답은 안에 있는데, 꺼낼 수가 없었습니다
기업의 경쟁력은 결국 얼마나 빨리, 얼마나 정확히 판단하느냐에서 갈립니다. 그런데 그 판단의 재료는 이미 회사 안에 넘칩니다. 문제는 그 재료가 문서와 재무보고서, 이메일과 표준 운영 절차(SOP) 사이에 흩어져 있어, 정작 필요한 순간에 꺼내 쓰기가 어렵다는 것입니다.
우리가 만난 조직도 그랬습니다. 그들은 수년간 쌓인 시장 보고서, 기술 문서, 계약서, 회의록을 가지고 있었습니다. 그런데 “최근 전기차 시장 동향과 우리의 진입 전략을 정리해 달라” 같은 질문 하나에 답하려면, 여러 팀이 며칠에 걸쳐 자료를 뒤지고 취합해야 했습니다. 답의 재료는 다 있는데, 그 재료를 모아 판단으로 바꾸는 일에 사람과 시간이 통째로 들어갔던 것입니다.
그렇다고 상용 클라우드 AI에 내부 자료를 던져 넣을 수도 없었습니다. 미공개 재무 상태와 전략 문서, 계약 정보를 외부 서버로 보내는 일은 받아들일 수 없는 보안 위험이었기 때문입니다. AI의 도움이 가장 절실한 자리에서, 오히려 AI를 쓰지 못하는 역설이 반복되었습니다.
정보는 넘쳤고, 판단은 늘 늦었습니다. 가장 많이 가진 조직이, 정작 가장 느리게 답했습니다.
챗봇을 넘어, 일하는 참모로
이 고민은 한 조직만의 것이 아닙니다. 그리고 해법의 방향은 분명해지고 있습니다.
전통적인 AI 챗봇이나 단순 문서 검색은, 회사의 복잡한 맥락을 이해하고 여러 단계를 밟아 분석을 수행하는 데 한계가 있었습니다. 한 번의 질문에 한 번의 답을 줄 뿐, 스스로 자료를 모으고 종합해 결론을 만들지는 못했습니다.
최근 부상한 것은 단순한 질의응답을 넘어, 시스템 자원에 직접 접근하고 여러 도구를 조율하며 다단계 작업을 수행하는 ‘에이전트 런타임’입니다. 이런 에이전트를 회사 안 로컬 환경에 두고 사내 데이터를 인덱싱하면, 데이터를 밖으로 내보낼 위험 없이 24시간 가동되는 전담 리서치 애널리스트이자 전략 고문을 두는 셈이 됩니다.
다만 여기에는 대가가 따릅니다. 이런 에이전트는 유능한 만큼, 호스트 시스템에 대한 광범위한 권한(파일 읽기·쓰기, 명령 실행 등)을 갖습니다. 실제로 이런 런타임에서 심각한 권한 상승 취약점이 보고되기도 했습니다. 힘이 클수록, 그 힘이 잘못 쥐어졌을 때의 파장도 커집니다. 그래서 질문은 “이 참모를 들일 것인가”가 아니라, “이 참모를 어떻게 통제하며 들일 것인가”로 바뀝니다.
통제된 참모의 구조
CHANSWER가 이 조직과 함께 설계한 것은 더 강력한 AI 모델이 아니었습니다. 데이터를 안에 둔 채 안팎을 종합해 판단하되, 그 손발을 분명히 통제하는 참모의 구조였습니다.
사내 문서를 물어볼 수 있는 자산으로 바꿉니다
가장 먼저, 흩어진 사내 문서를 AI가 근거로 삼을 수 있는 자산으로 정리했습니다. PDF와 문서 파일, 스프레드시트, 이메일 내역을 회사 안의 검색 데이터베이스에 색인해, 로컬에서 구동되는 모델이 그 근거를 직접 찾아 답하도록 한 것입니다. 답변마다 “이 판단의 근거는 이 문서의 이 대목”이라고 출처를 함께 내놓게 했습니다. 데이터가 건물 밖으로 나가지 않으니 유출의 경로 자체가 사라지고, 근거가 함께 나오니 답을 검증할 수 있습니다. 이 자산화 작업이, 앞서 다룬 데이터 주권·데이터 질의 사례들과 같은 원리 위에 있는 ATLAS 프로그램이 다루는 영역입니다.
안과 밖을 종합해 판단을 만듭니다
다음으로, 이 참모가 단발성 답변에 그치지 않고 실제 판단을 만들게 했습니다. “시장 동향과 진입 전략” 같은 요청이 들어오면, 에이전트는 외부에서 최신 시장·경쟁사 정보를 수집하는 동시에 내부 데이터베이스에서 자사의 기술 보고서와 재무 상태를 찾아옵니다. 그리고 이 둘을 종합해 SWOT·PESTLE 분석과 예상 수익률(ROI)이 담긴 경영진 브리핑으로 엮어냅니다. 이 모든 과정을 세션 단위로 기억하므로, 한 번의 답이 아니라 지속되는 프로젝트로 관리됩니다. 시키는 일을 하나씩 처리하는 자동화에서, 목표를 받아 스스로 풀어내는 자동화로 옮겨가는 자리입니다. 이 종합·자동화 설계가 SWARM 프로그램이 다루는 영역입니다.
참모의 손발에 고삐를 채웁니다
가장 중요한 설계입니다. 유능한 참모일수록 위험할 수 있기에, 그 손발에 세 겹의 고삐를 채웠습니다. 첫째, 권한의 최소화입니다. 에이전트가 접근할 수 있는 디렉터리와 실행할 수 있는 명령의 범위를 격리된 샌드박스 안으로 철저히 좁혔습니다. 둘째, 사람의 승인입니다. 중요한 파일을 수정하거나 외부로 데이터를 보내는 등 파급력이 큰 작업은 반드시 관리자의 명시적 승인을 거치게 했습니다. 셋째, 프롬프트 인젝션 방어입니다. 내부 문서에 숨어든 악의적 명령이 참모를 조종하는 간접 공격에 대비해, 시스템에 들어오는 데이터의 무결성을 검증하는 관문을 두었습니다. 어디까지가 참모의 재량이고 어디부터가 사람의 결정인지를 못 박는 일입니다. 확률적으로 움직이는 에이전트의 능력을 결정적인 가드레일과 게이트로 감싸는 이 통제가 없으면, 앞의 두 구조는 자산이 아니라 혼돈이 됩니다.
마지막 판정은 사람이 쥡니다
이 작업에서 우리가 분명히 그은 선이 있습니다. 참모는 조사하고 정리할 뿐, 판정하고 책임지지는 않는다는 것입니다.
에이전트는 자료를 조사하고, 분석을 구현하고, 그 결과를 스스로 검증하는 안쪽 루프를 맡습니다. 그러나 그 결과를 실제로 배포할지, 외부로 내보낼지, 전략으로 채택할지를 결정하는 바깥 루프는 사람이 쥡니다. 되돌릴 수 없는 일 앞에서 참모는 스스로 판단하지 않고 멈춰 서서 사람을 부르도록 설계했습니다. 자동화는 사람을 비우기 위한 것이 아니라, 사람을 더 중요한 판단으로 옮기기 위한 것이기 때문입니다.
역설적이게도, 이렇게 고삐를 쥘 때 참모는 오히려 더 멀리 나아갑니다. 무엇을 하면 안 되는지가 분명할 때, 나머지 영역에서 참모는 비로소 안심하고 일할 수 있습니다. 통제는 자율을 죽이는 족쇄가 아니라, 자율이 폭주하지 않고 흐르도록 잡아주는 고삐입니다.
지키면서 빨라졌습니다
전환 이후 가장 크게 달라진 것은, 데이터를 지키면서도 판단의 속도가 빨라졌다는 점입니다.
경영진과 기획팀은 매일 아침 전날의 주요 업계 뉴스와 경쟁사 동향, 사내 프로젝트 진행 상황이 요약된 브리핑을 자동으로 받아보게 되었습니다. 며칠씩 걸리던 전략 리서치가 하룻밤 사이에 초안으로 정리되어 도착한 것입니다. 인사와 운영팀은 사내 규정과 복리후생 정책을 학습한 참모를 실시간 헬프데스크로 두었고, 법무팀은 계약서 검토 때 잠재적 독소 조항이나 규제 위반 소지를 미리 짚어주는 보조 참모를 얻었습니다.
그러면서도 데이터는 단 한 번도 건물 밖으로 나가지 않았습니다. 보안을 위해 속도를 포기하거나, 속도를 위해 보안을 양보하던 딜레마가 사라진 것입니다.
사람의 일도 더 사람다운 쪽으로 옮겨갔습니다. 자료를 뒤지고 취합하던 반복에서 벗어난 사람들은, 그 시간을 판단하고 결정하고 책임지는 일에 쓰게 되었습니다.
조직에 남는 것은 통제된 참모의 구조입니다
CHANSWER의 모든 작업에는 하나의 원칙이 있습니다. 우리가 만든 것이 고객의 자산으로 남아야 한다는 것입니다.
이 프로젝트가 끝난 뒤 조직에 남은 것은 브리핑 도구 하나가 아닙니다. 사내 문서를 물어볼 수 있는 자산으로 바꾸는 법, 안과 밖을 종합해 판단을 만드는 법, 그리고 그 참모의 손발에 고삐를 채우는 법이 조직 안에 자리 잡았습니다. 통제 위에서만 자율을 허용하는 구조가 남은 것입니다.
이 구조를 가진 조직은, 새로운 에이전트 도구가 나오거나 새로운 취약점이 보고될 때마다 도입할지 말지를 두고 흔들리지 않습니다. 힘을 들이되 그 힘에 고삐를 채우는 법이 이미 조직의 것이 되었기 때문입니다. 격차는 답에서 갈립니다. 그리고 그 답은, 통제된 자율 위에 설 때에만 믿을 수 있는 답이 됩니다.
적용을 고민하는 분들께
지금 사내에 쌓인 지식을 전략으로 바꾸고 싶지만 보안이 걸려 망설이고 계신다면, 우리의 경험에서 세 가지를 권합니다.
하나, 데이터를 안에 둔 채 시작하세요. 민감한 데이터를 다룬다는 것은 AI를 포기할 이유가 아닙니다. 로컬 환경에 참모를 두고 사내 문서를 색인하면, 데이터가 건물 밖으로 나가지 않으면서도 그 문서가 답을 하기 시작합니다.
둘, 능력보다 고삐를 먼저 설계하세요. 에이전트에게 무엇을 시킬지보다, 무엇을 하면 안 되는지를 먼저 정해야 합니다. 권한 최소화와 사람의 승인, 입력 검증을 확장보다 앞에 두세요. 통제 없는 자율은 자산이 아니라 부채입니다.
셋, 낮은 위험부터 작은 성공으로. 큰 시스템을 한 번에 세우지 마세요. 사내 규정집이나 공개 가능한 보고서처럼 덜 민감한 데이터부터 작은 개념 증명으로 시작하면, 통제를 지키면서도 얻을 수 있는 가치를 직접 확인할 수 있습니다.
지식을 쌓아둔 것과, 그 지식이 전략을 답하게 하는 것은 다른 일입니다. 데이터를 안에 둔 채 참모를 들이는 조직이 판단의 속도를 얻습니다. 단, 그 참모의 손발에 고삐가 쥐어져 있을 때에만 그렇습니다. 고삐를 쥐면, 더 멀리 갑니다.
이 사례와 연결된 프로그램
- ATLAS · 지식 자산화 — 흩어진 사내 문서를 AI가 근거로 삼는 자산으로 구조화
- SWARM · 하이퍼오토메이션 — 확률적 에이전트의 능력을 결정적 가드레일·게이트로 감싼, 안팎 종합 자동화
- VERTICAL · 도메인 특화 파트너십 — 규제·민감 데이터를 첫 관문으로 다뤄, 데이터를 안에 둔 채 산업 맥락에 맞춘 설계
CHANSWER는 기회를 답으로, 답을 역량으로 옮기는 일을 합니다. 당신의 조직에 밖으로 내보낼 수 없어 묻어둔 지식이 있는지 들려주세요. 그 지식을 통제된 참모로 세우는 길부터 함께 열겠습니다.
Comments are closed.