루하 벤자민, 중립의 얼굴을 한 차별을 읽다

기술은 자주 중립의 얼굴을 하고 등장한다. 더 빠른 판정, 더 정확한 분류, 더 효율적인 행정, 더 개인화된 추천이라는 말은 반박하기 어려운 공공선처럼 들린다. 하지만 루하 벤자민은 바로 그 매끄러운 언어 안에서 질문을 다시 시작한다. 누가 기본 사용자로 상정되는가. 어떤 몸과 이름과 생활양식은 정상값으로 통과하고, 어떤 존재는 더 쉽게 위험 신호나 예외로 처리되는가.

벤자민의 작업이 중요한 이유는 AI 비판을 단순한 편향 수정의 문제에 가두지 않기 때문이다. 그녀에게 차별은 시스템이 가끔 잘못 작동해서 생기는 버그가 아니다. 문제 정의, 데이터 수집, 분류 항목, 정책 목표, 기업의 혁신 수사, 공공기관의 관리 욕망이 이미 사회적 위계를 품고 있을 때, 자동화는 차별을 제거하기보다 더 정교하고 더 반박하기 어려운 형식으로 재작성할 수 있다.

편향보다 먼저 물어야 할 것

오늘날 AI 윤리 담론은 흔히 데이터셋을 더 다양하게 만들고, 모델의 오류율을 줄이고, 설명 가능성을 높이는 방향으로 움직인다. 물론 이런 조치는 필요하다. 그러나 벤자민은 그보다 앞선 질문을 던진다. 왜 이 문제를 애초에 자동화된 판정의 형식으로 해결하려 하는가. 왜 돌봄, 교육, 복지, 안전, 의료, 채용 같은 사회적 관계가 점수와 위험도와 인증 절차로 번역되어야 하는가.

이 질문이 날카로운 까닭은 기술이 사회 바깥에서 들어오는 순수한 도구가 아니기 때문이다. 자동화 시스템은 이미 존재하는 제도와 예산, 편견과 정상성 규범, 편의와 두려움 위에서 설계된다. 그래서 어떤 시스템은 겉으로는 모두에게 같은 기준을 적용하는 것처럼 보이지만, 실제로는 특정 집단에게 더 많은 의심과 더 높은 진입장벽을 배분한다. 벤자민이 말하는 자동화된 차별은 바로 이 지점에서 작동한다.

그녀의 대표 개념인 New Jim Code는 이런 상황을 압축한다. 노골적인 차별 언어가 사라진 자리에서, 점수·최적화·보안·예측·개인화라는 말이 새로운 분리와 배제를 수행할 수 있다. 과거의 차별이 법과 관습의 이름으로 작동했다면, 오늘의 차별은 종종 객관적 계산과 혁신의 이름으로 작동한다. 더 위험한 것은 후자의 차별이 스스로를 차별이 아니라고 주장할 수 있다는 점이다.

미디어아트가 볼 수 있게 만드는 것

벤자민의 관점은 미디어아트에도 직접적인 기준을 제공한다. 얼굴 인식, 도시 센싱, 데이터 시각화, 생성형 이미지, 인터랙티브 설치, 공공 스크린을 다루는 작업에서 중요한 것은 단지 기술적으로 무엇이 가능해졌는지가 아니다. 더 중요한 질문은 그 가능성이 누구에게 원활한 인터페이스로 열리고, 누구에게 감시와 오류와 배제의 표면으로 나타나는가다.

미디어아트는 자동화된 차별이 보통 보이지 않는 방식으로 작동한다는 사실을 감각화할 수 있다. 시스템은 사람을 때리거나 소리치지 않는다. 대신 인식하지 못하고, 통과시키지 않고, 추천하지 않고, 위험하다고 표시하고, 낮은 신뢰도를 부여한다. 이 침묵의 판정은 행정 문서, 카메라, 센서, 데이터베이스, 앱 화면, 출입 게이트, 콜센터 스크립트 속에 흩어져 있다. 작품은 이 분산된 장치를 하나의 경험으로 묶어 관객에게 되돌려 줄 수 있다.

이때 벤자민의 이론은 기술 비판을 단순한 반기술 정서로 축소하지 않게 한다. 핵심은 AI를 쓸 것인가 말 것인가가 아니라, 어떤 사회적 상상력이 기술 안에 들어가 있는가다. 작품이 시스템의 오류만 보여 준다면 관객은 더 좋은 기술을 요구하는 데 그칠 수 있다. 그러나 작품이 그 오류를 낳은 기준과 제도와 욕망을 드러낸다면, 질문은 더 깊어진다. 우리는 더 정확한 분류를 원하는가, 아니면 덜 분류되어도 되는 사회를 원하는가.

한국의 자동화 담론에서 읽기

벤자민의 주요 사례는 미국의 인종 질서와 흑인 경험에 깊게 뿌리내려 있다. 따라서 한국 맥락으로 옮길 때는 조심스러운 번역이 필요하다. 같은 단어를 그대로 가져오는 것보다, 한국 사회에서 어떤 집단이 기본 시민의 모델에서 밀려나는지를 구체적으로 살펴야 한다. 이주민, 장애인, 비정규직, 지역 청년, 고령자, 외국어 사용자, 낮은 신용 점수를 가진 사람, 표준화된 가족·노동·교육 경로 바깥에 있는 사람들이 자동화 시스템과 만날 때 어떤 일이 벌어지는가.

한국의 AX, 스마트시티, 공공 AI 담론은 효율과 편의의 언어를 강하게 사용한다. 민원 처리를 빠르게 하고, 위험을 사전에 감지하고, 복지 대상을 더 정확히 찾고, 교육과 채용을 더 공정하게 만들겠다는 약속은 매력적이다. 그러나 벤자민식 질문을 적용하면 다른 장면이 보인다. 그 시스템은 누구의 언어를 표준으로 삼는가. 어떤 삶을 정상적 패턴으로 학습하는가. 오류가 발생했을 때 누가 설명하고 항의할 수 있는가. 편리함의 비용은 누구에게 전가되는가.

이 질문은 미디어아트 교육과 기획에서도 중요하다. AI 작품을 만들 때 데이터셋의 다양성만 확인하는 것으로 충분하지 않다. 작품이 관객을 어떻게 분류하고, 어떤 반응을 정상으로 간주하며, 누가 작품 앞에서 더 쉽게 투명 인간이 되는지를 함께 봐야 한다. 기술적 실험은 사회적 실험이기도 하다. 벤자민은 이 사실을 잊지 않게 만드는 이론가다.

남는 판단 기준

루하 벤자민을 읽는다는 것은 AI가 얼마나 똑똑한지를 묻기 전에, AI에게 맡겨진 사회적 역할이 정당한지를 묻는 일이다. 차별이 버그가 아니라 구조라면, 해법도 패치만으로 끝날 수 없다. 더 좋은 데이터와 더 공정한 모델은 필요하지만, 그것이 어떤 제도와 어떤 상상력을 위해 쓰이는지 묻지 않는다면 중립의 얼굴을 한 차별은 다시 돌아온다.

그래서 벤자민이 남기는 가장 실용적인 기준은 단순하다. 어떤 기술이 더 스마트하다고 말할수록, 그 스마트함이 누구를 더 쉽게 의심하고 누구를 더 쉽게 지우는지 물어야 한다. 그리고 미디어아트가 이 질문을 감각의 장으로 끌어낼 때, 기술 비평은 보고서의 문장을 넘어 하나의 경험이 된다.