삶은 어떻게 점수의 형태로 관리되는가

AI는 이제 판단을 대신하는 도구라는 설명만으로는 충분히 이해되지 않는다. 추천 피드가 무엇을 보게 할지 정하고, 채용 시스템이 어떤 경력을 읽기 쉬운 경력으로 만들며, 신용 평가와 도시 감시가 사람의 이동과 접근권을 점수의 언어로 재배치할 때, AI는 단순한 자동화 장치가 아니라 삶의 조건을 관리하는 환경이 된다.

이때 필요한 질문은 “이 모델이 정확한가”에서 멈추지 않는다. 더 근본적인 질문은 “어떤 삶이 계산 가능한 것으로 승인되는가”, “누가 위험하거나 유망한 존재로 분류되는가”, “우리는 어떤 인터페이스 안에서 스스로를 알고리즘이 읽기 쉬운 형태로 바꾸고 있는가”이다. 알고리즘 생명정치는 바로 이 질문들을 묶는 이름이다.

생명정치가 인터페이스로 내려올 때

푸코가 말한 생명정치는 근대 권력이 사람을 단지 처벌하거나 죽이는 권력이 아니라, 인구와 건강, 노동력과 위험을 관리하는 권력으로 바뀌었다는 진단에서 출발한다. 병원, 학교, 군대, 통계, 행정은 생명을 측정 가능한 대상으로 만들었고, 정상성과 일탈의 기준을 통해 삶을 조직했다.

알고리즘 시대의 변화는 이 관리가 사라진 것이 아니라 더 미세한 단위로 내려왔다는 데 있다. 오늘날 권력은 출생률이나 질병률 같은 집합적 지표만이 아니라, 스크롤 속도, 멈춤 시간, 위치 기록, 클릭 순서, 응답 간격, 구매 패턴, 표정과 음성의 미세한 흔적까지 다룬다. 한 사람은 더 이상 하나의 주체로만 읽히지 않는다. 그는 위험 점수, 관심사 벡터, 생산성 지표, 신뢰 등급, 이탈 가능성, 추천 가능성의 묶음으로 분할된다.

이 점에서 알고리즘 생명정치는 생명정치와 통제사회가 인터페이스 위에서 만나는 장면이다. 들뢰즈가 말한 통제사회는 폐쇄된 기관보다 연속적인 변조와 접속 권한의 관리를 강조했다. 플랫폼의 피드, 앱의 알림, 업무 도구의 대시보드, 출입 인증과 신용 평가 시스템은 모두 “금지”보다 “확률적 조정”을 통해 행동을 이끈다. 사용자는 명령받지 않았다고 느끼지만, 실제 선택지는 이미 순위와 노출, 지연과 보상, 승인과 거절의 구조 안에서 배열되어 있다.

추출, 분류, 변조, 자발적 재생산

알고리즘 생명정치의 회로는 네 단계로 이해할 수 있다. 첫째, 플랫폼과 센서는 행동 흔적을 추출한다. 위치, 검색, 시선, 신체 리듬, 업무 기록, 사회적 관계, 소비 습관은 모두 데이터 자원이 된다. 둘째, 추출된 데이터는 분류 체계 안에서 위험, 가치, 선호, 정상성, 생산성의 범주로 재조립된다. 셋째, 이 분류는 다시 추천, 가격, 승인, 경고, 우선순위, 가시성 조정의 형태로 사용자의 환경을 변조한다. 넷째, 사용자는 그 환경에 적응하며 더 많은 데이터를 생산하고, 알고리즘이 선호할 만한 행동을 미리 수행한다.

여기서 중요한 것은 강제보다 자발성이다. 사용자는 더 편리한 서비스를 얻기 위해 위치 추적을 켜고, 더 많은 노출을 얻기 위해 자신을 브랜드화하며, 더 좋은 평가를 받기 위해 플랫폼이 읽기 쉬운 형식으로 말하고 움직인다. 한병철의 심리정치가 지적하듯, 현대 권력은 자유와 성취, 효율과 자기계발의 언어를 통해 스스로를 제출하게 만든다. 데이터는 빼앗기기만 하는 것이 아니라, 살아남기 위해 자발적으로 제공된다.

그래서 알고리즘 생명정치는 감시의 문제가면서 동시에 욕망의 문제다. 사람들은 단순히 감시당하는 피해자가 아니라, 가시성과 효율, 연결과 인정의 조건 속에서 자기 자신을 측정 가능한 형태로 편집한다. 이 편집이 반복될수록 삶은 점점 더 플랫폼이 이해하는 단위로 정리되고, 분류 가능한 존재가 되는 일이 사회적 생존의 조건처럼 느껴진다.

미디어아트가 이 권력을 보이게 하는 방식

미디어아트가 이 개념과 만나는 지점은 분명하다. 알고리즘 생명정치는 대개 보이지 않는 방식으로 작동한다. 추천 모델의 기준, 데이터센터의 물질적 비용, 라벨링 노동, 감시 인프라, 분류 모델의 편향은 사용자의 화면 위에서 매끄러운 편의와 개인화로 번역된다. 미디어아트는 이 매끄러움을 중단시키고, 인터페이스 뒤편의 권력 회로를 감각 가능한 장면으로 바꿀 수 있다.

감시 카메라와 머신비전, 얼굴 인식, 데이터 시각화, 네트워크 지도, 참여형 설치, 생성형 이미지 실험은 모두 같은 질문을 다른 방식으로 던진다. 기계는 무엇을 보고 있는가. 그 시선은 누구를 정상으로, 누구를 위험으로, 누구를 잡음으로 분류하는가. 관객은 작품 앞에서 관찰자가 아니라 데이터의 일부가 될 때, 비로소 알고리즘 생명정치의 구조를 몸으로 경험하게 된다.

특히 동시대 미디어아트는 “이미지”의 의미를 다시 묻게 한다. 과거의 이미지는 대체로 인간이 보는 것을 전제했지만, 오늘날 많은 이미지는 기계가 기계를 위해 읽는 운영 이미지다. CCTV 영상, 위성 이미지, 의료 스캔, 얼굴 인식 데이터셋, 물류 추적 화면은 아름답거나 표현적인 이미지이기 전에 판단과 분류를 수행하는 이미지다. 예술은 이 운영 이미지를 다시 인간의 감각장 안으로 끌어와, 우리가 보지 못한 채 통치당하던 시각 체계를 낯설게 만든다.

더 공정한 모델보다 더 민주적인 조건

알고리즘 생명정치라는 관점은 AI 윤리 논의를 부정하지 않는다. 편향 제거, 투명성, 설명가능성, 책임성은 여전히 중요하다. 다만 그것만으로 충분하지 않다고 말한다. 어떤 시스템이 조금 더 공정한 분류기를 만드는 데 성공하더라도, 왜 그 삶의 영역이 애초에 분류와 점수화의 대상이 되어야 하는지는 별도의 정치적 질문으로 남는다.

채용 AI가 차별을 줄인다고 해도 노동자의 복잡한 삶을 고용 가능성의 점수로 환원하는 구조는 계속된다. 스마트시티가 효율을 높인다고 해도 시민의 이동과 모임을 실시간 위험 관리 대상으로 만드는 문제는 사라지지 않는다. 추천 시스템이 유해 콘텐츠를 줄인다고 해도 주의와 정동의 흐름을 사적 플랫폼이 조직한다는 사실은 여전히 중요하다.

따라서 필요한 것은 “더 좋은 AI”라는 말만이 아니라 “어떤 영역을 자동화하지 않을 것인가”, “어떤 데이터는 수집하지 않을 것인가”, “분류로 불이익을 받은 사람은 어떻게 이의를 제기할 수 있는가”, “인터페이스의 선택지는 누가 설계하고 검증하는가”라는 민주적 질문이다. 알고리즘 생명정치는 기술 반대의 구호가 아니라, 기술이 삶의 조건을 설계하는 순간 그것이 이미 정치라는 사실을 분명하게 만드는 언어다.

남는 질문

AI가 삶을 더 편리하게 만드는 것은 사실이다. 그러나 편의가 곧 정당성은 아니다. 어떤 편의는 보이지 않는 감시를 자연스럽게 만들고, 어떤 효율은 이의 제기할 수 없는 분류를 제도화하며, 어떤 개인화는 우리를 더 예측 가능한 존재로 훈련한다.

미디어아트와 미디어 이론이 할 수 있는 일은 이 자동화된 자연스러움을 잠시 멈추게 하는 것이다. 우리가 화면을 조작한다고 믿는 동안, 화면 역시 우리를 조작하고 있다. 이제 질문은 AI를 쓸 것인가 말 것인가가 아니다. 어떤 삶을 점수로 만들지 않을 것인가, 그리고 어떤 인터페이스를 민주적으로 다시 설계할 것인가가 더 어려운 질문으로 남는다.