Economic anthropology in the era of generative artificial intelligence

Motivation

• Known: 대규모언어모델(LLM)은 방대한 데이터셋을 기반으로 인간 의사소통을 예측하며, 경제개발 기관들이 인간의 의사결정을 시뮬레이션하기 위해 특화된 LLM을 사용하고 있음.
• Gap: 기존 비판("모델은 데이터만큼만 좋다")은 AI의 귀납적 편향(inductive bias)의 근본 원인을 다루지 못함. 인간과 비인간 지능 모두 어떤 유형의 활동이 "경제적"인지 정의하는 범주화 체계가 필요한데, 이것이 결여되어 있음.
• Why: 경제 인류학자들은 인간이 가치의 다양한 존재론(ontology)을 어떻게 실현하는지, 그리고 자본주의 시장이 어떻게 이러한 다원적 존재론을 포괄하는지 기록해왔음. 이러한 통찰이 LLM의 경제에 대한 이해를 근본적으로 재구성할 수 있음.
• Approach: 두 개의 AI "쌍둥이" 모델을 구축하여 비교 분석 수행: 표준 훈련만 받은 C.A.L.L.O.N.(관례적 후기자유주의 존재론)과 경제인류학 교과서로 미세조정된 M.A.U.S.S.(사회와 그 상징에 대한 더 정확한 이해).

Achievement

두 모델의 비교 분석 결과

1. 존재론적 인식의 확대: M.A.U.S.S. 모델은 C.A.L.L.O.N.과 달리 비시장 경제의 적응력(adaptability)을 중심으로 인식하고, 사회 재생산 활동의 가치를 인정함. 반대로 C.A.L.L.O.N.은 비시장 체계의 취약성을 강조하고 사회적 창의성을 순손실로 판단함.
2. 관계적 자율성의 내재적 개념(emic concepts) 인식: M.A.U.S.S.는 관계적 자율성에 대해 사고할 준비가 더 잘 되어 있어, 서구 자유주의적 개인 대행성(personal agency)의 정치 어휘에 의존하지 않음.
3. 인류학적 지식의 실증적 영향: 구조주의, 마르크스주의, 페미니즘 문헌으로 훈련받은 모델이 기후변화와 지속가능한 발전 질문에 대해 더욱 다원적인 "경제" 개념을 인식함.

How

C.A.L.L.O.N. 및 M.A.U.S.S. 모델의 설계

• 대조군 모델(C.A.L.L.O.N.): 표준 훈련 데이터만으로 구성. 기존의 관례적 경제 용어와 시장 중심적 사고방식을 반영.
• 미세조정 모델(M.A.U.S.S.): 구조주의, 마르크스주의, 페미니즘 이론으로부터의 "교과서"를 이용한 지식 정렬(knowledge alignment) 수행. 경제를 "상징적으로 중재된 활동, 가치, 행위자의 체계"로 개념화.
• 사례 연구 활용: 트로브리안드 쿨라 교환(Kula exchange)과 발리 수로 사원(Balinese Water Temples)에 특별한 가중치 부여. 비시장 경제를 가시화하는 데 있어 인류학적 진전을 대표함.
• 프롬프트 기반 평가: 기후변화와 지속가능한 발전에 관한 질문으로 두 모델의 응답 차이 분석. "장난감 모델(toy model)"로서의 한계를 명시하면서도, 인류학적 훈련의 영향력을 입증.

Originality

• 학제적 통합의 시도: AI 모델 개발에 경제 인류학 이론을 체계적으로 적용한 최초의 실증적 시도. 기존 AI 비판은 주로 철학적/이론적 수준에 머물렀으나, 이 연구는 실제 모델 구현을 통해 구체화함.
• 존재론적 다양성의 기술화: "경제"의 존재론적 다양성을 LLM의 토큰화(tokenization)와 범주화 문제로 재정의. 인류학적 개념화를 기계학습의 기술적 문제로 번역한 창의적 시도.
• 문화-기술 이계성 분석: 인간의 시간-의식(time consciousness)과 자기-주의(self-attention)를 갖춘 신경망을 비교 분석. 로만 야콥슨의 직조 메타포를 활용하여 인간과 AI의 언어적 구조 형성 방식의 근본적 차이를 이론화함.
• 노동 착취의 비가시화 문제 제기: GenAI의 가치가 인간의 생생한 노동(living labor)에서 비롯되며, 현재까지 이것이 보상받지 못한다는 정치경제학적 비판을 제시. 기술 소외(technological alienation)의 역전을 요구함.

Limitation & Further Study

• "장난감 모델"의 한계: 저자들이 명시하듯이 모델의 "환각"(hallucination) 응답은 실제 사람들에 대한 인식론적 주장으로 취급되어서는 안 됨. 확장된 규모의 실증 평가 필요.
• 접지성(grounding) 문제의 미해결: GenAI 모델은 물질적 환경, 사회 구조, 신체 경험에 근거한 의미 해석을 근본적으로 수행할 수 없다는 점을 지적하나, 이에 대한 기술적 해결책은 제시하지 않음.
• 문화적 무의식의 불가시성: 기존 질서 하에서 말해질 수 없는 것들(폭력의 역사, 구조적 편향 등)이 온라인 담론에서 차단되어 있어 GenAI에 완전히 불가시화된다는 문제의 근본적 해결 가능성 미제시.
• 후속 연구 방향: (1) 더욱 다양한 문화적 경제 체계(아프리카, 아시아, 원주민 경제)로 훈련 확대, (2) 인간 평가자들의 문화적 다양성을 포함한 정성적 평가 프레임워크 개발, (3) GenAI의 사회적-물질적 영향에 대한 장기적 추적 연구 필요.

Evaluation

총평: 이 논문은 경제 인류학의 존재론적 다양성이 생성형 AI의 편향을 드러내고 교정할 수 있다는 창의적이고 절실한 주장을 제시하지만, 실증적 검증과 기술적 세밀함이 보강되어야 학술적 영향력을 확대할 수 있을 것으로 보인다.