AI는 인간을 먹고 자란다

AI를 이야기할 때 흔히 인공지능이 가져올 장밋빛 미래를 이야기하거나, 반대로 인간을 위협할 강한 인공지능의 등장을 걱정한다. 
만약 노동 문제를 다룬다고 해도 AI로 인해 어떤 직업이 사라질 것인가 정도에 초점이 맞춰지는 경우가 많다. 
하지만 마크 그레이엄, 제임스 멀둔, 캘럼 캔트가 쓴 "AI는 인간을 먹고 자란다"는 조금 다른 시선에서 AI를 바라본다. 
바로 AI 산업 속 노동자 보호 관점이다. 

인공지능이라는 화려한 기술 뒤에는 우리가 잘 보지 못하는 수많은 노동자들이 존재한다. 
AI를 학습시키기 위한 데이터세트를 만들고, 데이터에 주석을 달고, 이미지나 영상 검토에도 여전히 많은 사람의 노동이 필요하다. 
인공지능에 인간지능이 필요한 것이다^^

책에서는 이러한 구조를 'AI 추출 기계'라고 표현하며, AI 산업이 인간의 데이터와 노동을 끊임없이 추출하면서 성장하고 있다고 비판한다. 
매일 AI를 사용하고 있지만 이런 부분은 거의 생각해보지 못했다. 
AI가 만들어내는 결과만 보았지, 그 뒤에서 데이터를 만들고 정리하고 검토하는 수많은 사람의 노동이 있다는 사실까지 생각해 본 적은 없었던 것 같다. 
책에서는 이러한 문제를 해결하기 위한 실천과제도 제시한다. 
노동조합의 역할, 규제 도입, 노동자의 경영참여 등이 대표적이다. 
다만, 이 부분을 읽으면서 솔직히 '이것이 AI 산업의 문제인가?'라는 생각도 들었다.
기업과 노동자 사이의 힘의 불균형이나 노동자 보호 문제는 이미 오래전부터 존재해왔기 때문이다. 
그래서 나에게 더 인상적이었던 것은 노동문제 그 자체보다 매일 사용하던 AI를 이전과 조금 다르게 바라보게 해준 몇 가지 이야기였다. 

AI가 스스로 데이터를 만들면 인간의 데이터 작업은 필요 없어질까?

첫 번째로 흥미로웠던 것은 AI가 학습에 사용할 데이터를 스스로 만들어내면 인간의 데이터 작업이 필요 없어질 수 있지 않을까 하는 문제였다.
미래의 LLM을 이전 세대의 모델이 만들어낸 합성 데이터로 학습시키는 방식이다. 
처음 생각하면 상당히 효율적으로 보인다. 
AI가 데이터를 만들고, 그 데이터로 다시 더 발전된 AI를 학습시킨다면 인간이 직접 데이터를 만들어야 하는 수고도 줄어들 것 같았다. 
하지만 책에서는 이 경우에 '반복의 저주'에 따른 돌이킬 수 없는 결함이 발생해 LLM 모델이 붕괴될 수 있다고 설명한다. 
결국 AI가 발전한다고 해서 인간이 만들어낸 데이터와 인간의 역할이 사라지는 것은 아닐 수도 있다는 생각이 들었다. 

 AI는 정말 인간을 대체할 수 있을까?

두 번째는 'AI가 우리를 대체할 수 있을까?' 라는 질문이다. 
이미 많은 분야에서 AI는 인간보다 훨씬 빠르게 정보를 처리하고 뛰어난 결과를 보여준다.
그렇다고 해서 AI가 인간과 같은 방식으로 생각한다고 볼 수 있을까?
책을 읽으면서 흥미로웠던 표현은 AI 시스템이 우리가 '사유'라고 부를 만한 과정 없이도, 사고한 것처럼 보이는 결과를 만들어낼 수 있다는 점이었다. 
LLM은 방대한 데이터에서 학습한 패턴과 관계를 바탕으로 다음에 올 가능성이 높은 표현을 생성한다.
그 결과가 때로는 너무 자연스럽고 새로워 보여서 우리는 AI가 스스로 생각하고 창조한다고 느끼기도 한다.
나 역시 AI를 사용하다 보면 예상하지 못했던 답을 받을 때가 많다. 
하지만 그것이 정말 새로운 창의성인지, 아니면 내가 알지 못했던 수많은 기존 데이터의 관계를 새롭게 조합해서 보여주기 때문에 창의적으로 느끼는 것인지 생각해볼 필요가 있다는 생각이 들었다. 

먼 미래의 AI보다 지금의 AI 문제가 더 중요할 수도 있다. 

마지막으로 인상적이었던 것은 AI의 위험을 바라보는 관점이다.
AI 위험성에 관한 이야기를 보면 흔히 두 가지가 떠오른다. 
하나는 앞으로 범용 인공지능이나 강한 인공지능이 등장했을 때 인류에게 어떤 영향을 미칠 것인가 하는 장기적인 문제다. 
AI가 인간의 통제를 벗어날 가능성이나 군사적 의사결정에 AI가 사용될 경우 발생할 수 있는 위험에 대한 연구와 기사들도 계속 나오고 있다. 
물론 중요한 문제다. 
하지만 책을 읽으면서는 오히려 지금 우리가 사용하는 AI에 이미 존재하는 편향과 차별의 문제가 더 현실적이고 시급할 수도 있겠다는 생각이 들었다. 
AI가 항상 공정하고 객관적인 것은 아니다. 
AI가 학습하는 데이터 자체가 인간 사회에서 만들어진 것이기 때문에 그 데이터에는 사회의 편견과 불균형도 함께 들어갈 수 있다. 
따라서 AI가 제시하는 결과를 단순히 객관적이고 보편적인 진리로 받아들이기보다는, 이 결과는 어떤 데이터와 사회적 맥락을 바탕으로 만들어졌을까? 라는 질문을 한 번쯤 해볼 필요가 있다. 

AI를 조금 다르게 보게 된 책

그 외에도  LLM이 만들어지는 과정, AI를 '추출기계'에 비유한 설명, 벤처캐피탈의 역사 등 흥미로운 내용이 제법 많았다.
책의 중심 주제는 AI 산업에서 일하는 노동자들의 현실과 노동자 보호 문제다. 
하지만 나에게는 그것보다 한 걸음 더 나아가 평소 아무 생각없이 사용했던 AI가 실제로 어떤 데이터와 사람들의 노동, 그리고 산업 구조 위에서 작동하고 있는지를 생각하게 해준 책이었다. 
AI를 사용할 때 우리는 화면에 나타나는 결과만 본다. 
하지만 그 뒤에는 데이터가 있고, 그 데이터를 만든 사람이 있고, AI를 개발하고 운영하는 기업과 자본이 있다. 
"AI는 인간을 먹고 자란다"는 그 동안 잘 보지 못했던 AI의 뒷면을 한번 들여다보게 해준 책이었다. 

밑줄 긋기

이 책은 AI 추출 기계에 휘말린 일곱 명의 이야기를 따라가면서 그들이 겪는 현실을 보여준다. 
케냐의 머시는 할아버지가 돌아가시는 영상을 반복해서 검토해야 했고,
우간다의 애니타는 세계 최대 기업들이 원하는 데이터세트를 구축하는 노동자다.
런던의 리는 자신이 개발하는 기술의 윤리적 문제로 고민했고, 
아이슬란드의 에이나르는 글로벌 인프라 핵심 허브에서 일하고 있다. 
또한, AI로 복제된 자신의 목소리와 경쟁해야 하는 성우 로라, 
급여 인상을 요구하다 파업에 나선 아마존 노동자 알렉스, 
아프리카 최초의 콘텐츠 감수자 노조를 만든 케냐의 폴도 있었다. 
이들 삶의 배경은 서로 다르지만, 결국 모두 같은 착취 구조 속에 놓여 있었다. 

==
현재 큰 관심을 받고 있는 중요한 질문 중 하나는 '미래의 LLM 을 이전 버전의 모델이 생성한 합성 텍스트 데이터로 훈련시킬 수 있는가'이다.
'반복의 저주'라는 제목으로 유명한 논문에 따르면, 연구자들은 챗봇이 생성한 데이터로 훈련한 LLM에서 모델 붕괴를 야기하는 '돌이킬 수 없는 결함'을 발견했다고 밝힌다. 
모델이 스스로 생성한 데이터를 반복적으로 학습할 경우, 특정 표현이나 패턴이 계속 중첩되면서 데이터가 점점 단순화되고, 그 결과 모델의 다양성과 창의성이 저하되는 문제가 발생할 수 있다고 경고하고 있다. 

==
현재의 생성형 AI는 신뢰할 만한 기술이 아니며, 평등하고 공정한 사회를 만드는 데도 기여하지 않는다. 
오히려 AI는 기존의 고정관념을 강화하고, 편향을 내재화하며, 민감한 콘텐츠를 생성하고 환경에 악영향을 미치고, 개인정보 보호 및 데이터 보호법을 위반할 수 있다. 
이러한 위험은 AI가 개발되는 초기 단계부터 실제로 활용될 때까지, 즉 AI 가치 사슬의 모든 과정에서 나타날 수 있다. 

==
어떤 기술이든, 그것이 만들어진 환경과 완전히 분리될 수는 없다. 
AI도 마찬가지다.
AI의 발전은 여러 경제적 요인, 개발자들의 문화적 배경, 그리고 그들이 속한 사회의 가치관에 깊이 영향을 받는다.
따라서 AI가 중립적이며 편향이 없다고 가정하는 것은 매우 위험하다. 

==
이 책에서 우리가 밝혀온 것처럼, AI 시스템의 본질을 더 정확히 이해하려면 다른 접근이 필요하다.
AI는 추출 기계로 보는 것이 훨씬 더 적절하다.
아마존의 AI 시스템도 마찬가지다. 
이 시스템은 전적으로 인간 노동과 물리적 인프라에 의존한다. 
시스템의 '지능'은 수백만 명의 창고 노동자와 배송 기사들의 노동 활동에서 추출된다. 
노동자들은 과거 증기 기관에 석탄을 집어넣던 화부들처럼, 아마존의 추출 기계에 데이터를 공급하는 역할을 하고 있다. 

==
인터넷이 처음 등장했을 당시, 많은 사람들은 정보 접근이 민주화될 것이라 기대했다. 
누구나 디지털 기술을 통해 동등한 기회를 얻고, 지식을 공유하는 열린 세계가 만들어질 거라고 믿었다. 
하지만 그런 기대는 실현되지 못한 채, 지금의 현실은 또 다른 격차와 착취 구조를 드러내고 있다.
이론적으로 디지털 기술은 세상을 바꿀 잠재력을 가지고 있다. 
우리는 인터넷을 통해 정보를 자유롭게 공유하고, 지구 반태편에 있는 사람과도 즉시 연결될 수 있다.
하지만 실제로는, 디지털 혁명은 많은 이들이 기대했던 '위대한 평등'을 실현하지 못했다. 
그 이유는 글로벌 자본주의에 있다.