Hands On
자동화가 똑똑해질수록 결과물은 빨라지지만, 그것을 떠받치는 사람의 역량은 조용히 약해집니다. 그리고 예외의 순간, 그 약해진 역량이 드러납니다. 우리가 자동화를 사람의 판단으로 감싸는 이유, 그 관점을 밝힙니다.
결과물은 똑똑해지는데 그것을 떠받치는 힘은 약해집니다
요즘 조직에서 결과물은 놀라울 만큼 빠르게 도착합니다. 예전 같으면 며칠이 걸렸을 기획안이나 분석이, 단 하루 만에 전문가 수준의 문서로 만들어집니다. 겉으로 보면 모든 것이 더 똑똑해진 것 같습니다.
그런데 질문 하나를 던지면 분위기가 달라집니다. 이 근거가 무엇인지, 이 전략이 작동하려면 어떤 조건이 필요한지를 물으면, 흐릿한 대답만 돌아옵니다. 결론을 자기 손으로 직접 만지고 다듬어본 사람 특유의 감각이 없기 때문입니다. 결과물은 점점 똑똑해 보이는데, 정작 그 결과를 떠받치는 힘은 약해진 상태. 그래서 질문 하나에 와르르 무너지는 상태가 벌어집니다.
이것은 단순히 AI라는 도구를 써서 생기는 일이 아닙니다. 문제는 도구 자체가 아니라, 도구가 대신하면서 지나가 버린 사람의 시간입니다. 자료를 찾는 수고, 상충하는 정보를 비교하는 지루함, 논리를 다듬느라 문장을 수차례 고치는 고독한 시간. 겉보기엔 비효율 같지만, 사람을 자라게 하는 거의 모든 것은 그 비효율 속에서 만들어집니다. 완성된 답을 먼저 받아버리면, 우리는 생각하기도 전에 결론의 모양에 안주합니다. 그렇게 판단은 점점 도구에 외주됩니다.
이것을 우리는 자동화의 역설이라 부릅니다
이 현상은 새롭지 않습니다. 사람들은 이미 오래전부터 이것을 자동화의 역설이라 불러왔습니다. 자동화 시스템이 정교해질수록 사람이 역량을 기를 동기는 줄어들고, 정작 시스템이 감당하지 못하는 예외 상황에 맞닥뜨릴 위험은 커진다는 역설입니다.
가장 뼈아픈 사례는 항공에서 나옵니다. 심리학자 제임스 리즌은 일찍이 이렇게 짚었습니다. 수동 조종은 고도로 숙련된 활동이며 끊임없이 연습해야 유지되는데, 거의 실패하지 않는 자동 시스템이 바로 그 연습의 기회를 빼앗는다는 것입니다. 그래서 자동화의 한 결과는, 사람이 자신의 존재를 정당화하는 바로 그 활동에서 도리어 탈숙련된다는 것입니다.
2009년 대서양에서 일어난 한 항공 사고가 이를 비극적으로 보여줍니다. 현대 자동화의 결정체였던 그 비행기는, 속도 센서가 잠시 얼어 자동조종이 풀리며 조종간이 사람에게 넘어왔습니다. 수백 시간 자동조종에 익숙했던 승무원은 방향을 잃었습니다. 인증은 받았으나 쓰지 않아 녹슨 수동 비행 기술이, 위기의 순간 그들을 배신했습니다. 멀쩡한 비행기가 추락했고 228명이 목숨을 잃었습니다. 조사가 드러낸 진실은 무서웠습니다. 조종사들은 시스템을 다루는 데는 능숙했지만, 직접 나는 법을 잊고 있었습니다. 자동화가 걷힌 순간, 그들은 인지적 진공에 떠 있었습니다.
핵심은 이것입니다. 믿을 수 있고 뛰어난 자동화일수록, 문제가 생겼을 때 오히려 더 크게 무너질 수 있다는 것. 평소에 거의 완벽하기 때문에, 사람은 경계심을 놓고 점검을 멈추며, 그렇게 잘못된 출력을 알아챌 능력마저 잃어갑니다.
같은 일이 지금 기업 안에서 벌어지고 있습니다
이 이야기는 조종석에만 머물지 않습니다. 같은 동학이 지금 기업 전반에서 펼쳐지고 있습니다. 거대 언어모델과 AI 에이전트가 ‘지식의 자동조종’이 되어, 일상적인 인지 노동을 전례 없는 규모로 대신합니다. 그리고 그 편리함은 똑같은 위험을 안고 옵니다.
근거는 일화에 그치지 않습니다. 한 연구진의 2025년 연구는, AI 비서에 가장 많이 의존한 지식 노동자일수록 그 도구의 결론을 덜 비판적으로 사고했음을 발견했습니다. AI가 정확하리라 믿을수록, 사람은 자신의 분석 능력을 덜 씁니다. 비행기의 조종간이 그러했듯, 기업의 판단력도 쓰지 않으면 녹습니다.
그래서 진짜 위험은 따로 있습니다. 흔히 사람들은 AI를 잘 쓰는 사람과 못 쓰는 사람 사이에서 격차가 벌어질 것이라 말합니다. 그러나 진짜 격차는 다른 곳에서 갈립니다. AI를 통해 자기 사유를 더 단단하게 만드는 사람과, AI에게 사유의 주도권을 통째로 넘긴 사람 사이에서 말입니다. 조직도 마찬가지입니다. 자동화 위에서 판단력을 키우는 조직과, 자동화에 판단을 넘기고 비워버린 조직은, 위기의 순간 같은 자리에 있지 않습니다.
그러나 모든 자동화가 사람을 비우는 것은 아닙니다
여기서 분명히 할 것이 있습니다. 우리는 자동화에 반대하지 않습니다. 자동화의 역설이 모든 경우에 적용되는 것도 아닙니다.
결정적인 구분이 있습니다. 어떤 자동화는 사람을 비우고, 어떤 자동화는 사람을 키웁니다. 고객 응대에서 단순하고 반복적인 문의를 자동화가 처리하면, 사람은 더 복잡하고 더 공감이 필요한 문제에 집중하게 됩니다. 이때 자동화는 사람을 더 가치 있는 자리로 옮겨 줍니다. 반면 조종석의 자동화는 달랐습니다. 그것은 조종사를 더 흥미로운 일로 옮겨 준 것이 아니라, 할 일을 빼앗아 졸게 만들고 결국 가장 중요한 순간에 무력하게 했습니다.
그래서 질문은 “자동화를 할 것인가 말 것인가”가 아닙니다. 진짜 질문은 “이 자동화가 사람을 비우는가, 키우는가”입니다. 반복과 수고를 덜어 사람을 더 높은 판단으로 올려보내는 자동화라면 좋습니다. 그러나 판단 자체를 가져가 사람을 빈자리에 남겨두는 자동화라면, 그것은 위기를 키우는 길입니다. 한 분석의 말처럼, 자동화는 도구이지 목발이 아닙니다.
그래서 우리는 자동화를 사람의 판단으로 감쌉니다
CHANSWER가 모든 작업에서 자동화를 사람의 검증과 판단으로 감싸는 이유가 여기에 있습니다. 그것은 단지 안전을 위한 장치가 아니라, 사람의 역량을 지키기 위한 설계입니다.
우리는 자동화를 사람의 판단력을 대체하는 방향이 아니라, 증폭하는 방향으로 설계합니다. 반복되는 수고는 시스템이 덜되, 무엇이 중요하고 왜 그러한지에 대한 판단의 주도권은 사람이 끝까지 쥐게 합니다. 그래야 무언가 잘못됐을 때 사람이 알아차리고, 필요하면 자동화를 멈추고 직접 키를 잡을 수 있습니다. 평소에 판단을 놓지 않은 사람만이, 위기의 순간 무너지지 않습니다.
자동화로 사람의 일이 바뀔 때, 수동으로 일하던 시절에 필요했던 역량과 자동화된 시스템을 다루는 역량은 같지 않을 수 있습니다. 그래서 우리는 자동화를 얹는 모든 작업에서, 사람이 판단의 주도권을 잃지 않도록 사람 중심으로 설계합니다. 자동화가 사람을 빈자리에 남겨두는 것이 아니라, 더 사람다운 자리 — 판단하고, 책임지고, 위기를 감당하는 자리 — 로 올려보내도록 말입니다.
격차는 답에서 갈립니다
이 관점은 결국 우리가 처음부터 믿어온 한 문장으로 돌아갑니다.
AI는 모두에게 같은 자동화를 쥐여줬습니다. 누구나 같은 속도로 똑똑해 보이는 결과물을 얻을 수 있게 되었습니다. 그러나 바로 그 평등이, 진짜 격차가 어디서 갈리는지를 드러냅니다. 같은 자동화를 쥐고도 누군가는 그 위에서 판단력을 키우고, 누군가는 그 아래에서 판단을 비웁니다.
차이를 만드는 것은 자동화의 성능이 아닙니다. 그 자동화에 사유를 넘겼는가, 아니면 그 위에서 자기 사유를 더 단단히 했는가입니다. 빠른 결과는 누구나 손에 쥡니다. 그러나 위기의 순간 그 결과를 책임지고 다시 세우는 힘은, 판단을 놓지 않은 사람과 조직에게만 남습니다.
그래서 격차는 자동화에서 갈리지 않습니다. 격차는 답에서 갈립니다. CHANSWER가 자동화를 사람의 판단으로 감싸는 이유, 그리고 자동화 위에서도 사람을 더 사람답게 남겨두려는 이유가 여기에 있습니다.
AI는 모두에게 같은 기회를 줬습니다. 격차는 답에서 갈립니다. 우리는 그 답을 사람의 손에 남깁니다.