AI가 공무원을 대체하면 행정이 공정해지는가

오늘 아침, 공공AX 네트워크에서 한 참가자가 행정학 학술지에 실린 논문을 소개하는 긴 글을 올렸다. 글머리는 질문 하나였다.

공무원을 AI로 대체하면 행정은 더 공정해질까요?

소개 글에 따르면 이 논문은 공무원이 재량으로 내리는 판단을 AI에 넘길 때 무엇이 흔들리는지를 다룬다. 글쓴이는 논문의 요지를 이렇게 옮겼다.

공무원의 재량적 판단을 AI에 넘기는 과정에서 네 가지 공공가치가 위협받을 수 있다고 이야기합니다

글에 적힌 네 가지는 책임성, 공정성과 형평성, 개별적 고려, 결정 이유 제시다. 글쓴이가 특히 인상적이라고 꼽은 대목은 따로 있었다.

AI가 일관된 기준을 적용한다고 해서 반드시 공정한 결과가 나오는 것은 아니라는 점입니다

논문이 AI 도입 자체를 반대하는 것은 아니라는 설명도 붙었다. AI는 판단을 돕고 중요한 결정과 책임은 사람이 맡는 방식을 논문이 제안한다는 것이다. 이 요약은 글쓴이가 읽고 옮긴 것이고, 논문 원문을 이 방의 다른 참가자가 대조했다는 흔적은 대화에 없다.

공평과 형평을 가르자는 말

용어를 짚은 반응이 나왔다. 한 참가자는 이렇게 적었다.

공평과 형평의 차이에 대해 다들 생각해볼 문제겠네요.

곧이어 같은 참가자가 두 말의 차이를 모르는 사람이 많더라고 덧붙였다. 다른 참가자는 본인이 참여한 한 책에서 평등과 형평성을 구분해 다룬 부분이 있다고 답하면서, 이 구분이 기술로만 풀 수 있는 일이 아니라고 보았다.

우리 사회가 무엇을 공정하다고 볼 것인지에 대한 사회적 합의가 필요한 영역이라고 생각합니다.

다른 참가자는 사회적 판단이 시기와 상황에 따라 달라진다는 점을 짚고 이렇게 맺었다.

그래서 모든걸 ai가 할순없겟죠 ㅠ

또 다른 참가자는 AI가 속도는 높일 수 있어도 공정성의 깊이까지 보장하지는 못한다고 말하며 이렇게 정리했다.

행정의 효율은 AI로 높이고 판단의 책임과 인간의 존엄은 사람이 지키는 혁신이어야 한다고 생각합니다

효율이 오르면 사람은 어디로 가는가

효율 쪽에서 던진 반문도 있었다. 한 참가자는 앞선 의견에 동의하면서도 두 가치가 부딪친다고 보았다.

업무효율이 높아졌다는건 그만큼 사람 개입이 적어져도 된다는 의미가되니 상충되는것 같습니다

이 참가자는 기존 업무를 맡던 사람들을 새 업무에 배치해야 하니 어떤 일을 맡길지 깊이 고민해야 한다고 했다. 또 다른 참가자는 시간과 산출물 같은 양적 변화만 보지 말고 판단의 질과 실제 결과의 변화까지 논의할 때라고 했다.

국제표준이 쓰지 않는다는 말

공정의 정의를 두고 한 참가자는 공학 쪽 사정을 전했다.

국제표준에서는 fairness라는 용어를 사용하지 않기로 결정한 바 있습니다. 대신 bias mitigation만 다루고 있죠.

bias mitigation은 편향을 줄이는 일을 가리킨다. 같은 참가자는 공학의 관점에서는 공정이든 형평이든 결국 어떤 편향을 어떻게 줄이느냐로 모인다고 보았다. 어느 표준을 말하는지는 대화에 나오지 않았고, 이 내용은 그 참가자가 전한 말로만 남아 있다.

데이터에 쌓인 편향을 경계하는 말

가장 구체적인 경계는 채용 자동화 사례였다. 한 참가자는 이렇게 썼다.

AI로 채용자동화를 하니까 동일한 스펙이라면 남성지원자에게 더 편향해 채용했다는 사례처럼

그는 사람이 지금까지 쌓아 온 데이터에 이미 편향이 있으므로 AI가 공정하리라는 낙관은 곤란하다고 했다.

인간이 여태까지 쌓아온 데이터 자체의 편향이 존재하기 때문에 AI가 그냥 공정할거란 낙관적인 믿음은 안될거같아요

사례의 출처나 시점은 대화에 적히지 않았다. 바로 뒤에 다른 참가자가 짧게 물었다.

Ai 공무원 대체보다는 동반자겠죠??

조직 안에서 벌어지는 일에 대한 걱정

앞서 사회적 판단의 변동성을 말했던 참가자는 조금 뒤 현실적인 우려를 보탰다.

다짜고짜 ai로 대체해라 굳이 그거 사람이 필요한가? 라는식으로 주도될까 걱정되네요..

같은 시간대에 다른 참가자는 인력 증원 소요를 내려면 AI로 인력 몇 명을 효율화하는 계획을 내라는 요구가 있다고 했다.

인력증원 소요를 내려면 ai를 활용한 인력 00명 효율화(?) 계획을 내라 해서

00명은 이 참가자가 자리표시로 적은 것이며, 실제 요구 수치는 나오지 않았다. 증원 소요를 내지 않았다는 이야기를 어디선가 들었다는 말도 이어졌지만 출처는 적히지 않았다. 앞서 우려를 말한 참가자는 자기 조직이 정규인사 때 AI를 잘 쓰는 직원을 배치하겠다고 밝혔다는 말도 했다.

읽는 법

대화는 대체할 수 있는가보다 무엇을 사람이 맡고 책임질 것인가로 모였다. 다만 세 갈래는 서로 다른 층위다. 공평과 형평의 구분은 가치 판단의 문제로, 국제표준의 편향 완화는 공학의 언어로, 채용 사례는 데이터의 한계로 각각 같은 불안을 말한다. 편향을 줄이는 방법이나 사람의 몫을 가르는 기준이 이 대화에서 합의된 것은 아니다. 동반자라는 표현도 질문으로 남았고, 현장에서는 증원 요청에 효율화 계획이 따라붙는다는 이야기까지 나왔다. 대체 여부보다 누가 어떤 기준으로 결정하는지가 공정성의 실제 쟁점으로 읽힌다.