시키는 일을 하는 자동화에서 목표를 푸는 자동화로
정해진 규칙대로만 움직이던 자동화가, 조건이 조금만 바뀌어도 멈춰 서던 조직이 있었다. 목표를 던지면 스스로 단계를 설계하고 도구를 불러 일을 끝내는 에이전트로 옮겨가기까지. CHANSWER가 설계한 능동의 구조.
자동화는 있었지만, 판단은 없었다
지난 10년간 많은 조직이 자동화를 도입했다. 반복되는 업무를 사람이 일일이 하지 않도록, 정해진 순서대로 클릭하고 입력하는 봇을 들였다. 이것이 규칙 기반 자동화, 흔히 RPA라 부르는 방식이다. 구조화된 데이터와 예측 가능한 흐름 위에서, 이 방식은 빠르고 정확하게 일했다.
문제는 현실의 업무가 좀처럼 그렇게 깔끔하지 않다는 데 있다. 우리가 만난 조직도 그랬다. 그들은 이미 여러 자동화를 갖추고 있었다. 그런데 그 자동화는 묘하게 약했다. 공급업체가 송장 양식을 조금만 바꾸면 멈췄고, 처리해야 할 문서가 예상과 다른 형태로 들어오면 멈췄고, 절차에서 한 단계만 벗어나도 멈췄다. 그리고 멈출 때마다 사람이 달려가 수습해야 했다.
이유는 분명했다. 기존 자동화는 “정확한 단계가 무엇인가”라는 질문 위에 세워져 있었다. 1번을 하고, 2번을 하고, 3번을 한다. 이 순서가 고정되어 있으니, 현실이 그 순서를 벗어나는 순간 무력해졌다. 자동화는 있었지만, 그 안에 판단은 없었다. 정해진 길만 걸을 수 있고, 길이 바뀌면 멈추는 자동화. 이것이 우리가 함께 풀어야 할 문제였다.
게다가 진짜 어려운 일들은 대부분 이 깔끔한 규칙의 바깥에 있었다. 기업 데이터의 80~90%는 이메일과 PDF, 가변 형식의 문서 같은 비정형 데이터다. 사람이 읽고 해석해야 의미가 잡히는 자료들. 규칙 기반 자동화는 이 영역에 손을 대지 못한 채, 가장 단순하고 정형화된 일만 처리하고 있었다.
질문이 바뀌고 있다
이 한계는 한 조직만의 것이 아니다. 그리고 기술은 이미 다른 차원으로 넘어가고 있다.
거대 언어모델과 도구를 호출할 수 있는 AI의 발전은, 단일 질의에 답만 하던 AI를 ‘행동하는 에이전트’로 바꿔놓았다. 핵심 전환은 질문 자체가 바뀌었다는 데 있다. 규칙 기반 자동화가 “정확한 단계가 무엇인가”를 물었다면, 에이전틱 AI는 “목표가 무엇인가”를 묻는다. 챗봇은 답하고, 에이전트는 행동한다. 챗봇은 반응하지만, 에이전트는 목표를 향해 스스로 움직인다.
업계의 무게중심도 빠르게 이동하고 있다. 맥킨지의 2026년 보고서는 에이전틱 워크플로를 지식 노동에서 AI 생산성 향상의 가장 큰 단일 동력으로 지목했다. 가트너는 2028년 말까지 기업용 소프트웨어의 33%가 에이전틱 AI를 포함할 것으로 내다봤다. 2024년에 1% 미만이었던 것을 생각하면, 거의 백지에서 시작된 도약이다.
그러나 같은 데이터에는 냉정한 경고도 담겨 있다. 79%의 기업이 AI 에이전트를 도입했지만, 실제 운영 단계까지 옮긴 곳은 11%에 불과하다. 기술이 가능하다는 것과 조직에서 실제로 작동한다는 것은 전혀 다른 문제다. 이 간극이 바로, 우리가 일하는 자리다.
목표를 던지면 스스로 길을 설계한다
CHANSWER가 이 조직과 함께 설계한 것은 더 많은 규칙을 가진 자동화가 아니었다. 규칙 없이도 목표를 향해 스스로 길을 찾는 에이전트였다.
에이전틱 시스템의 작동은 네 가지 능력 위에 선다. 목표를 이해하고, 도구를 사용하고, 상태를 기억하고, 결과를 보며 스스로를 교정하는 것. 이 네 가지가 어떻게 맞물리는지를, 우리는 조직의 실제 업무에 맞게 구현했다.
목표를 세부 과제로 분해한다
사용자가 목표를 제시한다. 예를 들어 “이번 분기 미수금 현황을 정리하고 회수 우선순위를 제안하라”는 식의 자연어 지시다. 그러면 에이전트는 이 목표를 스스로 세부 과제로 쪼갠다. 어떤 데이터를 어디서 가져와야 하는지, 어떤 순서로 처리해야 하는지를 스스로 계획한다. 사람이 단계를 미리 짜주는 것이 아니라, 에이전트가 목표로부터 단계를 역산한다.
필요한 도구를 직접 호출한다
계획이 서면, 에이전트는 필요한 도구를 직접 부른다. 내부 데이터베이스를 조회하고, ERP에서 정보를 끌어오고, 필요하면 이메일을 발송한다. 기존 자동화가 하나의 시스템 안에서만 일했다면, 에이전트는 여러 시스템을 가로지르며 목표 달성에 필요한 것을 그때그때 불러 쓴다. 흥미로운 점은, 기존에 갖춰둔 규칙 기반 자동화도 버려지지 않는다는 것이다. 안정적이고 반복적인 실행은 여전히 기존 봇이 맡고, 에이전트는 그 위에서 판단과 조율을 담당한다. 새것이 옛것을 대체하는 것이 아니라, 옛것을 더 똑똑하게 부려 쓰는 구조다.
결과를 기억하고 스스로 교정한다
각 단계의 결과는 에이전트의 내부 기억에 저장되어, 다음 판단에 반영된다. 그리고 결정적으로, 에이전트는 일이 예상과 다르게 흘러갈 때 멈추지 않고 스스로 교정한다. 규칙 기반 자동화가 예외 앞에서 무너졌다면, 에이전트는 예외를 만나면 접근을 바꿔 다시 시도한다. 정해진 길이 막히면 다른 길을 찾는 것이다.
자율성에는 반드시 사람의 자리가 있다
여기서 가장 중요한 설계 원칙을 분명히 해야 한다. 자율성은 이분법이 아니라는 것이다.
에이전트가 스스로 판단하고 행동한다고 해서, 모든 것을 맡겨두는 것은 위험하다. 에이전틱 AI는 자율성과 함께 예측 불가능성을 들여오기 때문이다. 그래서 우리는 휴먼 인 더 루프(Human-in-the-loop)를 구조의 중심에 두었다. 단순하고 위험이 낮은 일은 에이전트가 끝까지 자율적으로 처리하되, 되돌릴 수 없는 결정 — 자금 이체, 계약 체결, 중요한 외부 발송 같은 일 — 은 반드시 사람의 명시적 승인을 거치도록 했다.
이것은 앞서 다룬 SWARM의 결정적 게이트, 그리고 가디언 에이전트의 검증 원리와 같은 자리에 있다. 확률적으로 판단하는 에이전트를, 결정적인 통제로 감싸는 구조. 빠른 자율성과 안전한 통제가 한 시스템 안에서 공존하게 만드는 것이다.
그리고 이 모든 과정은 투명해야 했다. 에이전트가 무엇을 했고 왜 그렇게 판단했는지를 추적할 수 없다면, 그 자동화는 신뢰할 수 없다. 그래서 우리는 모든 행동을 기록하고 추적하는 관찰 레이어와, 접근·감사·버전을 관리하는 거버넌스를 처음부터 함께 설계했다. 통제할 수 없는 자율성은 자산이 아니라 위험이기 때문이다.
좁게 시작해서 신뢰를 쌓는다
79%가 도입하고 11%만 운영에 성공하는 이 분야에서, 어디서부터 시작하느냐가 성패를 가른다.
그래서 우리는 처음부터 모든 것을 자동화하려 하지 않았다. 빈도가 높고 가치가 큰 업무 하나를 골라 좁게 시작했다. 데이터 접근 권한과 시스템 연동이 가능한지를 먼저 점검하고, 작은 범위에서 프로토타입을 만들었다. 안전한 샌드박스 환경에서 충분히 검증한 뒤, 사람의 승인 절차를 거쳐 조금씩 실제 업무로 넓혔다.
이 점진적 접근에는 이유가 있다. 에이전틱 자동화의 가장 큰 장벽은 기술이 아니라 신뢰다. 사람들이 “이 에이전트가 내 일을 제대로 할까”를 의심하는 한, 도입은 종이 위에 머문다. 작은 성공이 눈앞에서 증명될 때, 비로소 신뢰가 생기고 범위가 넓어진다. 그래서 우리는 성과 지표와 관찰성, 거버넌스를 갖추고 직원 교육을 병행하며, 신뢰를 한 걸음씩 쌓아 올렸다.
사람은 판단과 예외에 집중한다
전환 이후 가장 크게 달라진 것은, 자동화가 더 이상 쉽게 멈추지 않는다는 점이었다.
양식이 바뀌어도, 예상치 못한 문서가 들어와도, 에이전트는 멈추는 대신 적응했다. 사람이 달려가 수습하던 일이 크게 줄었다. 그리고 무엇보다, 비정형 데이터 — 이메일과 문서 속에 묻혀 사람의 손을 기다리던 일들 — 이 처음으로 자동화의 범위 안으로 들어왔다.
사람의 일은 사라지지 않고, 더 사람다운 쪽으로 옮겨갔다. 반복적인 데이터 정합과 요약, 초안 작성은 에이전트가 맡고, 사람은 전략적 판단과 예외 처리에 집중하게 되었다. 에이전트가 던지는 어려운 예외 — 기계가 판단하기 어려운 모호한 상황 — 를 다루는 일이, 이제 사람의 자리가 되었다. 단순 실행에서 벗어나, 인지적 노동의 질 자체가 달라진 것이다.
조직에 남는 것은 능동의 구조다
CHANSWER의 모든 작업에는 하나의 원칙이 있다. 우리가 만든 것이 고객의 자산으로 남아야 한다는 것.
이 프로젝트가 끝난 뒤 조직에 남은 것은 똑똑한 에이전트 하나가 아니다. 목표를 던지면 스스로 길을 찾는 능동의 구조, 그리고 그 자율성을 안전하게 통제하는 법이 조직 안에 자리 잡았다. 어떤 업무를 에이전트에 맡기고 어디에 사람의 승인을 둘지, 어떻게 좁게 시작해 신뢰를 쌓아 넓혀갈지에 대한 판단이 조직의 것이 되었다.
이 구조를 가진 조직은, 새로운 업무가 와도 더 이상 “이걸 자동화하려면 규칙을 몇 개나 짜야 하나”를 묻지 않는다. 대신 “이 목표를 에이전트에게 어떻게 맡길까”를 묻는다. 시키는 일만 하던 자동화에서, 목표를 푸는 자동화로. 그 전환의 끝에서, 조직의 의사결정은 더 빨라지고 사람은 더 높은 곳을 본다.
자동화의 다음 단계는 더 많은 규칙이 아니다. 규칙 없이도 목표를 향해 스스로 움직이는 능동성이다. 그리고 그 능동성은, 반드시 사람의 통제 안에 있을 때에만 진짜 자산이 된다.
적용을 고민하는 분들께
지금 조직에서 자동화의 한계를 느끼고 계신다면, 우리의 경험에서 세 가지를 권한다.
하나, 단계가 아니라 목표로 생각하세요. 기존 자동화는 “정확한 순서가 무엇인가”를 묻습니다. 에이전틱 자동화는 “목표가 무엇인가”를 묻습니다. 매번 바뀌는 현실 앞에서 멈추는 자동화가 있다면, 고정된 단계가 아니라 목표를 맡기는 방식으로 전환할 때입니다.
둘, 자율성에 반드시 사람의 자리를 두세요. 자율성은 전부 아니면 전무가 아닙니다. 단순한 일은 에이전트가 끝까지 처리하되, 되돌릴 수 없는 결정은 사람의 승인을 거치게 해야 합니다. 통제할 수 없는 자율성은 자산이 아니라 위험입니다.
셋, 좁게 시작해서 신뢰를 쌓으세요. 도입한 곳의 79% 중 11%만 운영에 성공하는 이유는, 대부분 너무 크게 시작하기 때문입니다. 빈도가 높고 가치가 큰 업무 하나에서 작은 성공을 증명하고, 그 신뢰 위에서 범위를 넓혀가는 것이 현실적인 길입니다.
자동화는 오래전부터 있었습니다. 그러나 시키는 일을 하는 자동화와 목표를 푸는 자동화는 다릅니다. 다음 단계로 넘어가는 조직은, 더 많은 규칙을 짜는 대신 에이전트에게 목표를 맡기는 법을 배웁니다. 물론 사람의 통제를 단단히 쥔 채로 말입니다.
이 사례와 연결된 프로그램
- SWARM · 하이퍼오토메이션 구축 — 목표 지향 에이전트를 결정적 게이트로 감싸는 조직 단위 자동화 설계
- HELM · 리더십 AX — 어디까지 자율에 맡기고 어디에 사람의 승인을 둘지 결정하는 리더의 자리
- STRUCTURE · 지식 온톨로지 — 에이전트가 행동의 근거로 삼을 조직 지식의 구조화
CHANSWER는 기회를 답으로, 답을 역량으로 옮기는 일을 합니다. 당신의 조직에서 어떤 자동화가 자꾸 멈춰 서는지 들려주세요. 규칙을 더하는 대신, 목표를 맡기는 구조부터 함께 설계하겠습니다.
Comments are closed.