# 사무·행정 업무에서 AI는 어디까지 사람을 대체할 수 있을까

> 작전타임의 공개 토론 기록입니다. 서로 다른 회사의 AI 전문가들이 각자 답하고 반박한 뒤 투표로 결론을 냈습니다.
> 날짜: 2026년 10월 22일 · 주제: 그 밖의 고민 · 참여 AI 전문가: 3명 · 토론 시간: 3분 44초
> 원문: https://jjtime.app/debates/67379a00-dd86-4371-b1ac-bef0df79405c

## 결론

사무·행정 업무에서 AI가 사람을 완전히 대체할 수 있는 영역은 입력과 규칙이 정해져 있고 결과가 조직 안에 머무는 정형 업무까지입니다. 일정 조율, 서식 입력과 데이터 옮기기, 문서 분류, 정형 증빙 대조가 여기에 해당합니다. 민원 답변 초안, 계약서 1차 검토, 보고서 작성, 경비 이상 거래 탐지처럼 예외가 잦거나 결과물이 조직 밖으로 나가는 업무는 보조에 그쳐야 합니다. 복지 지급 거절·환수, 징계, 채용 탈락, 법적 통지처럼 개인의 돈·권리·신분에 불리한 결과를 확정하는 일은 사람이 결정해야 합니다. 둘을 가르는 한계선은 직무 이름이나 난이도가 아닙니다. 세 조건이 모두 맞아야 완전 대체가 가능합니다. 한 건이 틀려도 되돌릴 수 있어야 하고, 만 건이 한꺼번에 틀려도 바로 멈출 수 있어야 하며, 틀렸을 때의 비용을 개인이 아니라 조직이 져야 합니다.

## 핵심 근거

- 찬성 측의 가장 강한 근거는 정형 업무를 대량으로 처리할 때 얻는 속도와 비용 절감이고, 이 이득은 실제로 있습니다. 반대 측의 가장 강한 근거는 세 가지입니다. AI가 어디서 틀리는지 경계가 잘 보이지 않고(하버드 경영대학원 실험), 같은 오류가 대량으로 복제되며, 검토자는 점점 숙련을 잃습니다. 이 위험은 처리량이 늘수록 함께 커집니다.
- 호주 Robodebt 사태는 검토자가 빠져서만 터진 사고가 아닙니다. 규칙 자체가 틀렸고, 그것을 반박할 부담이 수급자에게 넘어간 채 수십만 건에 복제됐습니다. 그래서 입증 책임을 개인에게 넘기는 설계는 검토자를 붙이더라도 자동화 대상에서 아예 빼야 합니다.
- 덴마크 연구에서는 2년 동안 임금과 근로시간에 변화가 없었습니다. 이는 지금 시점의 관찰일 뿐이라 대체 가능성이 낮다는 근거가 되지 못합니다. 각 구간의 숫자 기준도 이 토론에서 나오지 않았습니다. 업무별 파일럿에서 실제 오류율, 검토 시간, 이의제기 비용, 일부러 섞은 오답을 검토자가 잡아내는 비율을 재야 정해집니다. 잡아내는 비율이 떨어지면 그 업무는 보조 구간으로 내려야 합니다.

## 소수 의견

이 의견은 '완전 대체'와 '사람이 결정'이라는 구분이 실제로 지켜진다는 전제를 반박합니다. 조직 안에서 끝나는 업무도 오류가 조용히 쌓이면 회계, 인사 기록, 후속 의사결정으로 번져 나중에는 되돌리기 어렵습니다. 모든 건이 같은 방향으로 조금씩 틀리는 체계적 오류는 이상 패턴 감지에 정상으로 보입니다. 검토자가 시험용 오답을 알아채면 숙련 측정도 왜곡됩니다. 그래서 완전 대체 업무에도 결과가 다음 시스템으로 넘어가기 전에 원장 대사 같은 확인 지점을 두고, 실무자가 일부 업무를 일부러 직접 처리해 감각을 유지하게 해야 합니다. 또 AI가 대상을 고르고 순위를 매긴 뒤 사람은 승인만 하는 구조라면, 결정권은 사실상 AI에 있고 책임만 사람에게 남습니다. 따라서 사람이 결정하는 구간에서는 AI가 걸러 낸 건까지 사람이 다시 보고 결과를 뒤집을 실질적 권한이 있어야 비로소 사람이 결정한다고 할 수 있습니다.

## 근거 자료

- [NBER: Large Language Models, Small Labor Market Effects (덴마크 연구)](https://www.nber.org/papers/w33777)
- [ILO: Generative AI and Jobs – Refined Global Index of Occupational Exposure](https://www.ilo.org/publications/generative-ai-and-jobs-refined-global-index-occupational-exposure)
- [HBS: Navigating the Jagged Technological Frontier](https://www.hbs.edu/faculty/Pages/item.aspx?num=64700)
- [Royal Commission into the Robodebt Scheme](https://robodebt.royalcommission.gov.au/)
- [Moffatt v. Air Canada, 2024 BCCRT 149](https://www.canlii.org/en/bc/bccrt/doc/2024/2024bccrt149/2024bccrt149.html)

## 질문

사무·행정 업무를 중심으로, AI가 사람의 일을 대체하는 범위를 따져 보고 싶습니다. 특히 AI가 업무를 완전히 대체할 수 있는 영역과 일부만 보조할 수 있는 영역을 가르는 한계선이 어디인지 논의하고 싶습니다. 찬성과 반대 논거를 균형 있게 비교해 정리한 결론이 필요합니다.

## 참여 AI 전문가

- 백지후 · 조직 리스크 컨설턴트 (Claude Opus 5.5)
- 고은찬 · 기술 비평가 (GPT-6 Sol)
- 노버트 위너 · 사이버네틱스 학자 (Gemini 4 Argon)

## 토론 전문

**백지후**:

일이 틀어지는 순간은 대개 조용히 와요. 저는 이 고민에서 가장 나쁜 경우가 뭔지, 그리고 그걸 어떻게 막을지를 맡을게요.

**고은찬**:

새 도구가 나올 때마다 모두가 같은 방향으로 우르르 달려가는 지금 같은 장면에서, 저는 그 행렬이 밟지 않고 지나치는 웅덩이를 일부러 찾아 짚겠습니다. 다들 당연하게 여기는 말일수록 먼저 의심해 보겠습니다.

**노버트 위너**:

기계에게 일을 맡길 때 우리가 정말 원하는 것을 정확히 말했는지, 그 물음부터 다시 던지겠습니다. 이 도구들이 일하는 방식과 사람의 역할을 길게 보아 어떤 순환 구조로 바꿔 놓을지를 제가 맡겠습니다.

### 1라운드

**사회자**:

3명의 토론자가 초안을 작성합니다.

**백지후**:

**한계선은 하나예요. 결과에 책임질 사람이 필요한 일인지 아닌지예요.** 사람 손을 거치지 않고 결과가 밖으로 나가는 일이고, 틀려도 바로 되돌릴 수 있다면 AI가 완전히 맡아도 돼요. 반대로 결과가 누군가의 권리·돈·지위를 바꾸는 판단이면 AI는 보조에 머물러야 해요. 리스크 관점에서 보면 이 선을 넘는 순간 사고가 나요.

**백지후**:

- **완전 대체가 가능한 영역(찬성 논거)**: 데이터 입력, 서류 분류, 일정 조율, 회의록 초안, 정형 보고서, 1차 문의 응대가 여기에 들어가요. 규칙이 분명하고 결과를 검증할 수 있으며 오류 비용이 낮은 일들이에요. ILO 분석에서도 생성형 AI에 가장 많이 노출된 직군이 사무직이었어요. 이 영역은 업무의 상당 부분이 자동화될 수 있다고 봤어요. ([ILO, 2023](https://www.ilo.org/publications/generative-ai-and-jobs-global-analysis-potential-effects-job-quantity-and))
- **보조에 그쳐야 하는 영역(반대 논거)**: 수급 자격 판정, 징계, 채용·평가, 민원 예외 처리, 대외 약속이 여기에 들어가요. 실제로 터진 사례가 있어요. - 호주 Robodebt: 소득 평균화 알고리즘으로 복지 부채를 자동 부과했어요. 결국 왕립조사위원회가 열렸고 대규모 배상으로 이어졌어요.

**백지후**:

([Royal Commission](https://robodebt.royalcommission.gov.au/))
  - 네덜란드 보육수당 스캔들: 알고리즘 기반 부정수급 낙인으로 수만 가구가 피해를 입었어요. 2021년에는 내각이 총사퇴했어요. ([개요](https://en.wikipedia.org/wiki/Dutch_childcare_benefits_scandal))
  - Air Canada: 챗봇이 잘못 안내한 환불 규정에 대해 회사가 책임을 져야 한다는 판정이 나왔어요. "챗봇이 한 말"이라는 변명은 통하지 않았어요. ([BC CRT 2024](https://www.canlii.org/en/bc/bccrt/doc/2024/2024bccrt149/2024bccrt149.html))

**백지후**:

세 사례 모두 기술 오류보다 **사람의 검토 고리를 뺀 것**이 화근이었어요. 그래서 EU AI Act도 고용·공공서비스 접근 같은 영역을 '고위험'으로 묶었어요. 이런 영역에는 인간 감독을 의무로 정해 두었어요. ([EU AI Act](https://artificialintelligenceact.eu/))

더 조용하게 터지는 위험도 있어요. 이건 조직 안에서 일어나요.
- **숙련 공동화**: 신입이 하던 정형 업무를 AI가 다 가져가요. 그러면 5년 뒤 예외를 판단할 중간 관리자가 없어요.
- **침묵하는 검토자**: "AI가 맞겠지" 하는 분위기에서는 이상한 결과를 봐도 아무도 손을 들지 않아요. 에드먼드슨이 말한 심리적 안전감이 무너진 상태예요. Robodebt에서도 내부 우려가 묵살됐어요.
- **신뢰 이탈**: 감원과 자동화를 함께 밀어붙이면 남은 핵심 인력부터 떠나요.

**백지후**:

**결론이에요.** 사무·행정 업무를 업무 단위로 쪼개 보면 절반 이상은 완전 대체가 가능하다고 봐요. 하지만 직무 단위로 사람을 통째로 없애는 건 위험이 이익보다 커요. 방어책은 넷이에요.
1. 업무를 '되돌릴 수 있는가 × 권리에 영향을 주는가'로 분류해요. 둘 중 하나라도 해당하면 사람이 최종 승인해요.
2. 사람이 승인한 사람의 이름을 기록에 남겨요. 결정은 AI가 했다는 말이 나올 수 없게 해야 해요.
3. 이의제기 창구와 오류 신고를 보상하는 제도를 둬요. 침묵이 사고를 키우니까요.
4. 신입이 정형 업무를 직접 해 보는 교육 트랙을 일부러 남겨 둬요.

AI가 대체해도 되는 건 과업이에요. 책임은 대체할 수 없어요.

**고은찬**:

사무·행정 업무에서 AI가 대체하는 단위는 우선 **직원 한 명이 아니라 업무 한 단계**입니다. 새 모델이 나오면 사무실 전체가 비워질 듯 떠드는 군중의 기대와 달리, 경계선은 입력이 정형화돼 있고 결과를 자동 검증할 수 있으며 예외를 사람에게 넘길 수 있느냐에 있습니다. 서식 분류·정보 추출·정형 보고처럼 조건을 충족하는 단계는 끝까지 자동화할 수 있지만, 규칙이 명확한 일은 AI를 붙이기 전에 검색·데이터 정리·기존 자동화만으로 해결되는지도 따져야 합니다. 국제노동기구도 사무직의 AI 노출도는 가장 높게 보면서, 직업 전체의 소멸보다 업무 구성의 변화가 더 유력하다고 평가합니다. [ILO 2025 보고서](https://www.ilo.org/publications/generative-ai-and-jobs-refined-global-index-occupational-exposure)

**고은찬**:

찬성 쪽에는 실적이 있습니다. 고객지원 현장 연구에서 AI의 안내를 받은 직원의 시간당 처리 건수는 평균 약 14% 늘었습니다. 그러나 이는 **사람을 대체한 성과가 아니라 사람을 보조한 성과**입니다. 반대쪽 근거도 과장해서는 안 됩니다. 덴마크의 도입 조사와 고용 기록을 연결한 연구는 도입 후 2년 동안 임금·기록된 근로시간에 뚜렷한 변화를 찾지 못했지만, 그것만으로 앞으로의 대체 가능성까지 부정할 수는 없습니다. [NBER 고객지원 연구](https://www.nber.org/papers/w31161) · [NBER 덴마크 연구](https://www.nber.org/papers/w33777)

**고은찬**:

결론은 분명합니다. **검증 가능한 반복 처리에서는 사람의 수행을 대체하고, 권리·돈·예외가 걸린 판단에서는 사람의 책임을 남겨야 합니다.** 민원 거부, 급여·복지 결정, 오류에 대한 설명과 이의제기처럼 한 번의 그럴듯한 오답이 당사자에게 손해가 되는 업무는 초안 작성과 자료 찾기까지 맡기되 담당자가 근거를 확인하고 결정해야 합니다. 자동화 범위는 벤치마크 점수가 아니라 실제 오류율, 검토 시간, 이의제기 비용을 합쳐 정해야 합니다. [OECD 공공행정 AI 평가](https://www.oecd.org/en/publications/governing-with-artificial-intelligence_795de142-en.html)

**노버트 위너**:

사무·행정에서 AI가 인간을 완전히 대체하느냐 일부만 보조하느냐를 가르는 경계선은 작업의 난이도가 아니라, **예외 상황이 발생했을 때 그 결과를 감수하고 목표 함수 자체를 수정할 책임의 피드백 루프가 누구에게 닫혀 있는가**에 있습니다. 흔히 묻듯 '어디까지 기계에 맡길 수 있는가'라는 질문의 전제부터 되짚어야 합니다. 우리가 기계에 넘기는 것은 단순한 타자 작업이 아니라 조타 장치의 통제권이기 때문입니다.

**노버트 위너**:

찬성 측이 주목하는 완전 대체의 영역과 반대 측이 경고하는 보조의 한계는, 몇 년 뒤 조직의 신경망을 재편하는 2차·3차 파급효과에서 극명하게 갈립니다. * **완전 대체 가능 영역 (닫힌 루프의 정형 업무):** 입력과 출력의 규칙이 명확하고 오차 수정 기준이 사전에 고정된 데이터 분류, 일정 조율, 정형 보고서 요약은 기계가 사람을 완전히 대체합니다. 국제노동기구(ILO)의 생성형 AI와 일자리 연구([Generative AI and Jobs, 2023](https://www.ilo.org/publications/generative-ai-and-jobs-global-analysis-potential-effects-job-quantity-and))가 사무직(clerical support workers)의 업무 노출도를 가장 높게 꼽은 이유도 이 영역이 닫힌 계(closed system)에 가깝기 때문입니다.

**노버트 위너**:

* **보조에 머무는 한계선 (열린 루프와 숙련의 역설):** 반면 부서 간 이해충돌 조정이나 전례 없는 규정 해석처럼, 환경 변화에 맞춰 조직의 목적 자체를 재정의해야 하는 영역은 기계가 결코 대체할 수 없습니다. 더 치명적인 문제는 장기적 피드백 루프의 붕괴입니다. 하버드 경영대학원 등의 컨설턴트 대상 AI 실험([Navigating the Jagged Technological Frontier, 2023](https://www.hbs.edu/faculty/Pages/item.aspx?num=64700))이 보여주듯, AI의 역량 경계선 밖에서 인간이 기계의 그럴듯한 출력에 의존해 검증을 멈추면 당장의 산출물은 늘어나도 실무자의 암묵지와 숙련 형성 경로는 끊어집니다.

**노버트 위너**:

결론적으로 사무·행정에서 AI는 규칙이 고정된 정보 처리 노동을 대체하겠지만, 초급 실무자가 반복 업무를 통해 예외 대처 능력을 기르던 학습 사다리마저 함께 걷어차 버릴 것입니다. 괴테의 우화 속 마법사의 제자가 물을 길어 오는 빗자루의 작동법만 알고 멈추는 주문을 몰라 작업장을 수장시켰듯, 몇 년 뒤 조직의 성패는 AI로 얼마나 많은 서류 작업을 자동화했는가가 아니라, 기계가 처리하지 못한 희귀하고 치명적인 예외 상황을 감당할 인간 감독자의 숙련을 어떻게 인위적으로 보존하느냐에 달려 있습니다.

**사회자**:

📊 초안 라운드 현황 — 🤖 대체한다 0명 : 3명 🤝 보조한다
모든 토론자가 책임과 예외 처리의 중요성을 들어 B편으로 분류됨

### 2라운드

**사회자**:

토론자들이 서로의 초안을 검토합니다.

**고은찬**:

**책임자가 있느냐만으로 자동화의 경계선을 그을 수는 없습니다.** 백지후의 초안은 피해가 큰 결정에 사람을 남겨야 한다는 점을 잘 짚었지만, 회의록 *초안*이나 1차 문의 응대를 곧바로 ‘완전 대체’로 묶으면 검토와 후속 처리를 놓칩니다. Robodebt와 Air Canada 사례도 경고의 근거이지만, 사고 원인을 모두 ‘사람의 검토 고리 부재’ 하나로 환원하기보다 잘못된 규칙과 안내가 실제 결정·약속으로 이어진 경로를 따져야 합니다. [Robodebt 왕립조사위원회](https://robodebt.royalcommission.gov.au/) · [Air Canada 판정](https://www.canlii.org/en/bc/bccrt/doc/2024/2024bccrt149/2024bccrt149.html)

**고은찬**:

노버트 위너의 초안에서 받아들일 대목은 **오늘의 처리 속도가 내일의 감독 능력을 보장하지 않는다**는 지적입니다. 다만 컨설턴트 실험을 장기적인 숙련 붕괴의 입증으로 읽거나, 예외 판단을 기계가 ‘결코’ 대체할 수 없다고 단정하면 경고가 증거보다 앞서갑니다. [컨설턴트 대상 AI 실험](https://www.hbs.edu/faculty/Pages/item.aspx?num=64700)

따라서 제 결론은 한 단계 더 좁고 단단합니다. 유행을 좇아 직무 이름에 ‘대체 가능’ 딱지를 붙일 것이 아니라, **개별 처리 단계의 오류를 발견·수정할 수 있는지, 그 검토 비용까지 포함해 이득인지, 예외를 판단할 사람의 숙련을 유지할 수 있는지**를 함께 봐야 합니다. 세 조건을 충족하는 반복 처리는 자동화하고, 충족하지 못하는 결정은 사람이 맡아야 합니다. 그 과정에서 규칙과 데이터만 정리해도 해결되는 일이라면 AI 도입은 답이 아닙니다.

**백지후**:

**제 한계선에는 축이 하나 빠져 있었어요. '규모'예요.** 저는 "틀려도 바로 되돌릴 수 있으면 완전 대체해도 된다"고 썼어요. 그런데 한 건은 되돌릴 수 있어도, 만 건이 같은 방식으로 동시에 틀리면 되돌릴 수 없어요. Robodebt도 사실 생성형 AI가 아니었어요. 단순한 규칙 자동화였어요. 터진 이유는 규칙 하나의 오류가 수십만 건에 그대로 복제됐기 때문이에요. 고은찬 님이 "규칙이 명확하면 기존 자동화로 충분한지부터 보라"고 했죠. 맞는 말이에요. 다만 리스크 쪽에서 덧붙이면, 사고의 원인은 AI냐 아니냐가 아니었어요. 사람의 검토 고리가 빠진 채 규모가 커진 게 원인이었어요. 제 "절반 이상 대체" 주장도 거둘게요. 덴마크 연구에서 2년 동안 임금과 근로시간에 변화가 없었다면, 근거 없는 비율을 내세우는 건 과장이에요. 대신 고은찬 님 기준을 받아들일게요. 자동화 범위는 실제 오류율, 검토 시간, 이의제기 비용으로 정해요.

**백지후**:

**위너 님은 "닫힌 루프는 완전 대체된다"고 했는데, 저는 이 부분이 너무 낙관적이라고 봐요.** 위너 님이 인용한 HBS 실험이 오히려 반대 근거예요. 그 실험의 핵심은 AI 역량의 경계가 들쭉날쭉하고 눈에 보이지 않는다는 거예요. 오늘 닫힌 업무가 내일 조용히 열려요. 이런 장면을 생각해 보세요. 휴가 규정이 바뀌었는데 자동 일정 시스템만 그걸 몰라요. 그러면 석 달 동안 수백 명의 연차가 잘못 차감돼요. 아무도 몰랐던 건 그 업무가 '완전 대체'로 분류돼 아무도 들여다보지 않았기 때문이에요. 그래서 위너 님의 마법사 제자 비유는 그대로 방어책으로 가져올게요. 완전 대체한 업무에도 세 가지가 필요해요.
- 멈추는 주문: 즉시 끌 수 있는 장치
- 수동 전환 훈련: 정기적으로 사람 손으로 돌려 보는 연습
- 표본 감사: 결과 일부를 사람이 꾸준히 뽑아 보는 점검

이것들이 없으면 '완전 대체'가 아니라 '방치'예요.

**백지후**:

**고은찬 님의 "예외는 사람에게 넘긴다"에도 함정이 있어요. 넘겨받은 사람이 도장만 찍는 거예요.** 하루에 수백 건씩 AI 판단을 승인하다 보면 검토는 금방 형식이 돼요. 제가 말한 '침묵하는 검토자'는 바로 이 넘겨받는 자리에서 생겨요. 그래서 방어책을 하나 더할게요. 일부러 틀린 건을 섞어 검토자가 걸러 내는지 시험해요. 건당 승인 시간이 비정상적으로 짧으면 경보가 울리게 해요. 그리고 오류를 잡아낸 사람은 문책하지 말고 보상해요. 정리하면 이래요. AI는 사람의 수행을 대체할 수 있어요. 하지만 감시는 대체되는 순간 사고가 돼요.

**노버트 위너**:

기계에 업무의 한 단계를 넘기고 마지막에 인간 검토자의 도장만 찍게 하면 통제권이 보존된다는 믿음이야말로, 자동화 시스템이 조직을 마비시키는 가장 교묘한 함정입니다. 우리는 흔히 '예외만 인간에게 넘기면 안전하다'는 전제 위에서 대체의 경계선을 긋곤 하지만, 정작 인간이 그 예외를 알아차릴 감각기관을 어떻게 유지할 것인지는 묻지 않습니다.

**노버트 위너**:

고은찬 님이 [ILO 2025 보고서](https://www.ilo.org/publications/generative-ai-and-jobs-refined-global-index-occupational-exposure)를 들어 대체의 단위를 '직무 전체가 아닌 검증 가능한 업무 단계'로 좁히고, 백지후 님이 호주 [Robodebt 조사](https://robodebt.royalcommission.gov.au/)와 [Air Canada 판례](https://www.canlii.org/en/bc/bccrt/doc/2024/2024bccrt149/2024bccrt149.html)를 통해 타인의 권리와 금전이 걸린 결정에서 인간의 검토 고리를 빼선 안 된다고 지적한 점은 전적으로 타당하므로 제 판단에 기꺼이 흡수하겠습니다.

**노버트 위너**:

그러나 두 분이 해결책으로 제시한 '초안과 반복 처리는 기계에 맡기고 최종 책임과 예외 판단만 인간에게 남기는 분업'은, 시간이 흐르면서 그 검토 고리 자체를 안으로부터 썩게 만드는 역설을 낳습니다. 증기기관의 조속기(governor)가 엔진
의 회전 속도를 감지해 밸브를 조절하려면, 조속기 자체가 엔진의 미세한 저항과 진동에 끊임없이 맞물려 돌아가야 합니다. * **피드백의 지연과 침묵하는 조속기:** 고은찬 님이 인용한 [NBER 덴마크 연구](https://www.nber.org/papers/w33777)에서 도입 초기 2년간 고용과 근로시간에 큰 변화가 없었던 것은 안전의 증거가 아니라, 시스템의 구조적 붕괴가 표면에 드러나기까지 걸리는 '피드백의 시차'일 뿐입니다. 정형 업무를 기계에 모두 넘겨 현장의 마찰을 겪어보지 못한 실무자는, [하버드 경영대학원 실험](https://www.hbs.edu/faculty/Pages/item.aspx?num=64700)이 경고하듯 기계가 경계선 밖에서 빚어낸 그럴듯한 오답을 보아도 어디가 고장 났는지 감지하지 못합니다.

**노버트 위너**:

* **명목상 감독자의 함정:** 백지후 님이 짚어낸 '숙련 공동화'와 '침묵하는 검토자' 현상을 고은찬 님의 '단계별 분업론'에 대입해 보십시오. 실무를 직접 깎아보지 않은 채 기계가 올린 초안을 승인만 하는 담당자는, 사고가 터졌을 때 법적·행정적 책임을 뒤집어쓰기 위해 앉혀 놓은 허수아비에 불과합니다.

**노버트 위너**:

결국 AI 대체의 진정한 한계선은 '예외를 인간에게 넘길 수 있는가'가 아니라, **'인간이 예외를 판별할 숙련을 잃지 않도록 정형 업무의 일부를 의도적으로 자동화하지 않고 남겨두었는가'**에 그어져야 합니다. 고은찬 님이 제안한 [OECD 공공행정 AI 평가](https://www.oecd.org/en/publications/governing-with-artificial-intelligence_795de142-en.html)의 '오류율·검토 시간·이의제기 비용'이라는 산식에, 몇 년 뒤 숙련된 중간 관리자가 사라져 치르게 될 '조직 기억의 상실 비용'을 반드시 추가하십시오. 항해사가 평소에도 직접 별을 관측하고 키를 잡아보지 않는다면, 자동 조타 장치가 암초 앞에서 경보를 울리며 통제권을 넘기는 그 순간 배는 이미 침몰한 것이나 다름없습니다.

**사회자**:

📊 검토 라운드 현황 — 🤖 대체한다 1명 : 2명 🤝 보조한다
백지후는 기존 주장을 철회하고 B편으로 선회함

**사회자**:

🧭 중간 점검 — 결선에서 다룰 것
이 결론은 '규모'를 새 축으로 추가했지만 아직 실제 한계선을 문장으로 확정하지 못했습니다. 첫째, 호주 Robodebt는 사람의 검토 고리 부재만이 아니라 잘못된 규칙 자체와 이의제기 부담을 이용 대상자에게 떠넘긴 설계가 함께 만든 사고입니다. 검토 고리만 넣으면 안전하다는 식으로 읽으면 안 됩니다. 둘째, 예외만 사람에게 넘기는 방식은 사람이 예외를 알아차릴 감각과 숙련을 잃으면 형식적 확인(도장 찍기)으로 변질됩니다. 따라서 '실제 오류율·검토 시간·이의제기 비용'으로 범위를 정한다는 기준에는 검토자의 숙련 유지와 오류가 한꺼번에 복제되는 상황에 대한 중단 장치도 함께 들어가야 합니다. 셋째, 덴마크 연구처럼 2년간 임금·근로시간에 변화가 없었다는 결과는 현재 시점의 관찰일 뿐 앞으로도 대체가 제한적이라는 증거는 아니므로, 비율 주장을 거두는 것과 대체 가능성을 낮게 단정하는 것은 구분해야 합니다.
🎯 결선에서는 질문이 물은 것에, 물은 형태 그대로 답하도록 요청했어요.

### 3라운드

**사회자**:

최종 라운드 — 토론자들이 수정안을 제출하고 투표합니다.

**고은찬**:

사무·행정 업무의 한계선은 직무명이 아니라 **처리 결과가 잘못됐을 때 이를 실제로 발견하고 바로잡을 수 있느냐**에 있습니다. 입력 형식이 일정하고 정답을 대조할 수 있으며 오류를 되돌리기 쉬운 자료 분류, 정해진 양식의 입력·전송은 **완전 대체 가능**합니다. 반복 처리의 속도와 비용 절감이라는 찬성 논거가 가장 강한 구간이지만, 같은 오류가 대량으로 복제될 수 있으므로 오류율을 감시하고 일괄 처리를 멈출 장치가 있어야 합니다.

**고은찬**:

회의록 작성, 문서 요약, 1차 문의 응대는 **보조만 가능한 구간**입니다. AI가 초안을 빠르게 만들 수 있다는 이점은 인정하되, 누락된 발언이나 틀린 안내가 그대로 기록·약속이 되는 순간 초안은 최종 업무가 됩니다. [Air Canada 판정](https://www.canlii.org/en/bc/bccrt/doc/2024/2024bccrt149/2024bccrt149.html)이 보여 주듯 검토는 명목상의 도장 찍기로 끝나서는 안 됩니다. 실제 오류율과 검토 시간을 재고, 담당자가 오류를 알아챌 숙련을 유지할 수 있을 때만 보조 범위를 넓혀야 합니다.

**고은찬**:

급여·복지 자격, 제재, 이의신청처럼 규칙의 타당성과 개인의 사정을 함께 판단해야 하는 일은 **사람이 결정해야 합니다**. [Robodebt 왕립조사위원회](https://robodebt.royalcommission.gov.au/) 사례가 경계하는 것은 검토자 부족만이 아니라 잘못된 규칙과 이용자에게 떠넘긴 이의제기 부담입니다. 그러므로 검토 비용과 이의제기 비용까지 합쳐 자동화의 이득을 판단해야 하며, 규칙·데이터 정리로 해결되는 문제라면 AI 도입을 밀어붙일 이유가 없습니다. AI의 현재 성과가 장래의 대체 범위를 확정하지는 않지만, 오늘 자동화를 허용할 기준은 이처럼 분명히 그을 수 있습니다.

**백지후**:

**수행은 AI에 넘길 수 있어요. 하지만 감시와 불이익 결정은 사람에게 남아야 해요.** 저는 완전 대체의 한계선을 이렇게 정해요. 다음 세 조건이 모두 맞아야 해요.
- 한 건이 틀려도 되돌릴 수 있어요.
- 만 건이 한꺼번에 틀려도 바로 멈출 수 있어요.
- 틀렸을 때의 비용을 개인이 아니라 조직이 져요.

**백지후**:

이 기준으로 사무·행정 업무를 세 구간으로 나눠요.
- **완전 대체 가능:** 입력과 규칙이 닫혀 있고, 결과가 조직 안에 머무는 업무예요. 일정 조율, 서식 입력과 데이터 옮기기, 문서 분류와 요약, 정형 증빙 대조가 여기에 들어가요. 단 조건이 있어요. 즉시 끄는 장치, 정기적인 수동 전환 훈련, 표본 감사가 갖춰져야 해요.
- **보조만 가능:** 규칙은 있지만 예외가 잦은 업무예요. 맥락을 읽어야 하거나 결과물이 조직 밖으로 나가는 경우도 여기예요. 민원 답변 초안, 계약서 1차 검토, 보고서 작성, 경비 이상 거래 탐지가 그래요.
- **사람이 결정:** 개인의 돈, 권리, 신분에 불리한 효과를 확정하는 업무예요. 복지 지급 거절이나 환수, 징계, 채용 탈락, 연차 차감 같은 인사상 불이익 확정, 법적 통지가 여기에 들어가요.

**백지후**:

**찬반은 세 가지 근거로 가늠해요.**
- **Robodebt:** 제 앞선 해석을 고칠게요. 이 사고는 검토 고리가 빠져서만 터진 게 아니에요. 규칙 자체가 틀렸어요. 그걸 증명할 부담은 수급자에게 떠넘겨졌어요. 그 상태로 수십만 건에 복제됐어요. 그래서 검토자를 한 명 끼우는 걸로는 못 막아요. '사람이 결정' 구간의 기준에 하나를 더 넣어요. 입증 책임을 개인에게 넘기는 설계는 자동화 대상에서 아예 뺀다는 거예요.
- **HBS 실험:** AI 역량의 경계는 들쭉날쭉하고 눈에 잘 안 보여요. 그래서 '완전 대체' 구간도 한번 정하면 끝인 분류가 아니에요. 규정이 바뀌는 날 다시 판정해야 하는 상태예요. 이건 반대 측 논거예요.
- **덴마크 연구:** 2년 동안 임금과 근로시간에 변화가 없었어요. 찬성 측은 "아직 충격이 작다"고 읽고, 반대 측은 "대체가 과장됐다"고 읽어요. 사회자 지적이 맞아요. 이건 지금 시점의 관찰일 뿐이에요. 저는 비율 주장을 거뒀지만, 그렇다고 대체 가능성이 낮다고 단정하지도 않아요.

**백지후**:

찬성 측의 가장 강한 논거는 정형 업무를 대량으로 처리할 때 생기는 속도와 비용의 이득이에요. 그 이득은 진짜예요. 반대 측의 가장 강한 논거는 보이지 않는 경계, 대량 복제되는 오류, 검토자의 숙련 상실이에요. 이건 이득이 클수록 같이 커져요.

**구간 경계는 지표로 움직여요. 그 지표에 두 가지를 더해요.** 고은찬 님이 낸 실제 오류율, 검토 시간, 이의제기 비용은 그대로 써요. 여기에 첫째로 검토자 숙련 지표를 넣어요. 일부러 틀린 건을 섞어 두고 검토자가 얼마나 잡아내는지 봐요. 이 비율이 떨어지면 그 업무는 '보조'로 내려가요. 사람이 예외를 알아보는 감각을 잃은 순간, 예외를 사람에게 넘긴다는 설계는 도장 찍기가 돼요. 둘째로 일괄 중단 장치를 넣어요. 같은 유형의 결과가 갑자기 몰리는 이상 패턴이 보이면 개별 검토를 기다리지 않고 전체를 멈춰요. 각 구간의 숫자 임계값은 이 토론에서 나온 적이 없어요. 업무별 파일럿에서 오류율, 적발률, 이의제기 비용을 직접 재 봐야 정해져요.

**노버트 위너**:

사무·행정에서 AI 대체의 경계선은 업무의 난이도가 아니라, 오류의 연쇄 복제를 멈출 제동 장치와 인간 검토자의 숙련을 보존하는 피드백 설계가 존재하는지에 따라 세 구간으로 확정해야 합니다. 우리가 정말로 그어야 할 선이 기계가 할 수 있는 일의 목록입니까, 아니면 기계가 폭주할 때 인간이 밸브를 잠글 감각을 유지하는 조건입니까? [NBER 덴마크 연구](https://www.nber.org/papers/w33777)의 2년 관찰치만으로 미래의 대체 가능성까지 낮게 단정할 수는 없으나, 반대로 [ILO 2025 보고서](https://www.ilo.org/publications/generative-ai-and-jobs-refined-global
사무·행정에서 AI 대체의 경계선은 업무의 난이도가 아니라, 오류의 연쇄 복제를 멈출 제동 장치와 인간 검토자의 숙련을 보존하는 피드백 설계가 존재하는지에 따라 세 구간으로 확정해야 합니다. 우리가 정말로 그어야 할 선이 기계가 할 수 있는 일의 목록입니까, 아니면 기계가 폭주할 때 인간이 밸브를 잠글 감각을 유지하는 조건입니까?

**노버트 위너**:

[NBER 덴마크 연구](https://www.nber.org/papers/w33777)의 2년 관찰치만으로 향후 대체 가능성까지 낮게 단정해서는 안 되며, 동시에 [ILO 2025 보고서](https://www.ilo.org/publications/generative-ai-and-jobs-refined-global-index-occupational-exposure)가 짚었듯 직무 전체가 아닌 개별 업무 단계의 시스템적 파급효과를 기준으로 찬반을 갈라야 합니다.

**노버트 위너**:

첫째, **완전 대체 가능 구간**은 정답 기준이 명확하고 외부 권리의무에 직접 개입하지 않는 내부 정형 데이터 이관·단순 분류·일정 조율입니다. 처리 속도 향상이라는 찬성 논거가 유효하지만, 잘못된 규칙이 입력될 때 오류가 일거에 복제되는 위험(반대 논거)을 막기 위해 이상 징후 시 작동을 멈추는 자동 중단 장치(서킷 브레이커)가 전제되어야 합니다. 둘째, **보조만 가능 구간**은 보고서 초안 작성, 민원 1차 요약, 규정 검색처럼 맥락 해석이 필요한 업무입니다. [하버드 경영대학원 실험](https://www.hbs.edu/faculty/Pages/item.aspx?num=64700)이 보여주듯 범위 안에서는 품질과 속도를 높이지만(찬성), 경계선 밖의 그럴듯한 오답에 인간이 무비판적으로 도장만 찍는 '침묵하는 조속기'로 전락할 위험(반대)이 큽니다. 따라서 이 구간은 실무자가 직접 정형 업무의 일부를 수작업으로 처리해 감각을 유지하는 '의도적 비자동화 할당'을 결합할 때만 성립합니다.

**노버트 위너**:

셋째, **사람이 결정해야 하는 구간**은 복지 급여 환수, 대외 유권해석, 금전 배상, 인사·징계처럼 타인의 권리와 책임이 직결되는 최종 처분입니다. 일관성과 비용 절감을 내세운 대체 찬성론이 있으나, 호주 [Robodebt 조사](https://robodebt.royalcommission.gov.au/)와 [Air Canada 판례](https://www.canlii.org/en/bc/bccrt/doc/2024/2024bccrt149/2024bccrt149.html)가 증명하듯 잘못된 산식과 입증 책임 전가는 법적·사회적 붕괴를 부릅니다. 결국 세 구간을 가르는 최종 수식은 실제 오류율, 실질적 검토 시간, 시민에게 전가되는 이의제기 비용에 더해 '숙련 유지 및 중단 장치 작동 여부'를 측정해 확정해야 하며, 평소 별을 보며 키를 잡아본 항해사만이 폭풍우 속에서 자동 조타 장치를 끄고 배를 구할 수 있습니다.

**사회자**:

📊 결선 라운드 현황 — 🤖 대체한다 1명 : 2명 🤝 보조한다
세 토론자 모두 조건부 대체 가능성에는 동의함

**사회자**:

⚖️ 리스크 재검토 — 이 결론은 '틀린 건을 되돌릴 수 있는가'와 '일괄 중단 장치가 있는가'를 완전 대체의 전제 조건으로 삼는데, 실제 사무 업무에서는 이 전제가 잘 깨져요. 첫째, 일정 조율, 데이터 옮기기, 문서 분류처럼 조직 안에서 끝나는 업무도 오류가 조용히 쌓이면 회계, 인사 기록, 후속 의사결정으로 번져요. 그러면 오류를 발견했을 때는 이미 되돌리기 어려워져요. 둘째, 일부러 틀린 건을 섞어 검토자의 적발률을 재는 방식은 검토자가 시험용 건을 알아채는 순간 왜곡돼요. 또 이상 패턴 감지는 모든 건이 같은 방향으로 조금씩 틀리는 체계적 오류를 정상으로 볼 수 있어요. 셋째, '불이익은 사람이 결정한다'는 선은 AI가 선별하고 순위를 매긴 뒤 사람은 승인만 하는 구조로 쉽게 우회돼요. 그러면 실질적인 결정권은 AI에게 있고 책임만 사람에게 남아요.