Quartz 4

AGI 시대의 정치 극우화 — 민주주의와 자본주의에 미칠 충격

14 min read

AGI 시대의 정치 극우화 — 민주주의와 자본주의에 미칠 충격

1. 두 개의 거대한 물결이 동시에 밀려온다

AGI(범용 인공지능)와 정치 극우화는 각각 독립적으로 진행 중이지만, 이 둘이 동시에 도달하면 효과는 합산이 아니라 곱셈이 된다.

AGI 타임라인 — 예상보다 빠르다:

  • Anthropic 공동창업자 Jack Clark: 2028년 말까지 AI가 인간 개입 없이 자체 후계 모델을 만들 확률 60%
  • Anthropic의 공개 코드 중 80% 이상이 이미 Claude에 의해 작성됨 (Claude Code 출시 전에는 ‘낮은 한 자릿수’)
  • METR 벤치마크: AI가 인간 엔지니어 하루 이상 걸리는 작업을 완수하는 수준 도달
  • CSET 전망: AI R&D 생산성이 인간 대비 10배~1,000배 가속 가능
  • Andrej Karpathy의 Autoresearch: AI 에이전트가 1주일 내 모델 학습시간을 18% 자율 단축, 인간 전문가 성과 초과

극우화 — 이미 서구 전체를 관통한다:

  • Reform UK 지지율 ~30%, 선거 시 75% 확률로 최다 의석 전망
  • 벨파스트 사건 후 영국 극우는 사형 부활·연간 12만명 추방 공약까지 확대
  • [Viktor Orban]: 16년 집권으로 EU 내 최저 자유도, 최고 부패도 기록
  • Claremont Institute 출신 70명 이상이 트럼프 행정부 요직 차지
  • 덴마크, 스웨덴, 이탈리아, 독일(Alternative for Germany) — 극우 확산은 국경을 가리지 않음

이 두 흐름이 교차하는 지점에서, 민주주의와 자본주의의 기본 전제가 동시에 흔들린다.

2. 민주주의에 대한 충격: AI가 권위주의의 도구가 된다

예측: 극우 정권은 AGI를 민주적 통제 회피의 수단으로 활용한다

볼트 데이터가 보여주는 가장 위험한 패턴은 이미 현실이다:

  • 감시 국가화: 트럼프 행정부는 Pentagon에 AI 모델의 무제한 접근을 요구. Anthropic이 대량 감시 우려로 거부하자 보복 조치, OpenAI가 그 빈자리를 채움. Immigration and Customs Enforcement에 AI 투입 시도.
  • 안전장치 해체: 미국은 AI 안전에 대한 규제를 속도 우선으로 전환. 중국도 AI 안전 대화를 반도체 수출통제 해제 조건으로 묶어 실질적 협력 차단.
  • 정보 통제: Fox News는 TikTok에서 18-34세 시청자의 거의 절반을 확보. 우파 온라인 인플루언서가 자유주의 측보다 25% 더 많음(Pew). AI 생성 콘텐츠가 이 비대칭을 기하급수적으로 확대할 것.

구체적 시나리오:

  1. AI 감시 + 이민 단속: 극우 정권이 AGI급 안면인식·행동분석을 이민 집행에 투입하면, 행정부 단독으로 사실상의 대량 감시 체제 구축 가능. 의회 승인·사법 심사를 기술적으로 우회.

  2. 딥페이크 + 선거 조작: AGI 수준의 콘텐츠 생성 능력은 선거 기간 허위정보 비용을 제로에 가깝게 떨어뜨린다. 극우 포퓰리스트는 이를 가장 적극적으로 활용할 인센티브가 있다 — 그들의 서사 자체가 감정적 분노에 기반하기 때문.

  3. 제도 장악 + AI 자동화: 오르반 모델이 보여주듯, 극우 정권은 사법부·선관위·언론을 장악한다. AGI가 관료 기능을 자동화하면 독립 기관의 인적 버퍼가 소멸 — 정권이 제도를 통째로 AI 시스템으로 대체하는 시나리오.

위협기존 민주주의 방어선AGI가 무력화하는 방식
감시영장 제도, 프라이버시법실시간 전수 분석 → 표적 감시 불필요
허위정보팩트체크, 언론 다양성개인 맞춤 생성 → 검증 불가능한 규모
제도 장악독립 관료·법관AI 자동화 → 인적 견제 제거
시위·저항결사·집회의 자유예측 치안 → 사전 차단

3. 자본주의에 대한 충격: 부의 초집중과 노동의 종말

예측: AGI는 역사상 유례없는 부의 집중을 만들고, 극우는 그 분노를 흡수한다

부의 초집중은 이미 시작됐다:

  • Jensen Huang의 Nvidia 지분 가치: $1,750억 (7년 만에 50배)
  • Anthropic 기업가치: $1조 전망
  • 미국인 중 AI가 일반인을 더 부유하게 만들 것이라 믿는 비율: 33% 미만
  • Dario Amodei: AI가 실업률을 **10-20%**까지 밀어올릴 수 있다고 경고
  • Bill Gates: AI 시대에 “대부분의 일”에 인간이 필요 없을 것

재분배 시도는 실패할 가능성이 높다:

  • OpenAI·Anthropic 지분 3%로 공공펀드를 만들어도 미국인 1인당 연간 $20에 불과
  • AI 기업에 0.2% 연간 부과금을 매겨도 1인당 수백 달러 수준
  • Bernie Sanders의 50% 과세안은 투자 위축 리스크
  • 공공 소유는 규제자-주주 이해충돌 발생

악순환 시나리오:

AGI 도입 → 화이트칼라 일자리 대량 소멸 → 중산층 축소 → 소비 감소 + 분노 증가 → 극우 포퓰리즘 지지율 상승 → 보호주의 + 반이민 → 기술 혁신 둔화 + 사회 분열 → 민주적 견제 약화 → AGI 통제권이 소수에 집중

이것은 산업혁명과 본질적으로 다르다. 1760-1860년 영국은 기술 변화 속에서도 고용이 450만 → 1,200만으로 증가했다. 하지만 그때조차 엥겔스 정체(Engels’ Pause) — 임금이 수십 년간 정체하는 현상이 발생했고, 그 원인은 기술이 아니라 곡물 관세와 전쟁이라는 정치적 실패였다. AGI 시대의 “엥겔스 정체”가 온다면, 그것은 기술 자체보다 정치적 대응의 실패에서 비롯될 것이다.

4. 미·중 AI 패권 경쟁이 안전장치를 무너뜨린다

예측: AGI 경쟁이 안전 규제의 “바닥을 향한 경주”를 가속하고, 극우 정권이 이를 정당화한다

  • 미국과 중국이 전 세계 프런티어 컴퓨팅 파워의 **90%**를 장악
  • Anthropic의 Mythos 모델: 사이버 공격 역량이 너무 위험해 공개 불가
  • 중국 AI 연구소(DeepSeek, Baidu)는 미국 측보다 안전 장치가 상대적으로 느슨
  • 미·중 AI 안전 대화는 반도체 수출통제 분쟁으로 사실상 교착

극우 정치가 이 교착을 악화시키는 메커니즘:

  1. “안전은 약함”이라는 서사: 트럼프 행정부가 Anthropic을 압박한 것처럼, 극우 정권은 AI 안전 규제를 국가 경쟁력을 해치는 족쇄로 프레이밍한다.

  2. 군사 AI 무제한 투입: 극우의 “강한 국가” 이데올로기는 AI의 군사적 활용을 가속한다. 인간을 의사결정 루프에서 제거하는 Autonomous Weapons 도입 압력이 높아진다.

  3. 양극화가 국제 협력을 차단: AI 안전에 대한 IAEA형 검증 체제가 이론적으로는 가능하지만, 극우 정부의 반다자주의·주권 우선 성향은 모든 국제 거버넌스 시도를 좌절시킨다.

전문가들이 경고하는 AI의 “체르노빌 순간” — 대규모 경제 피해나 인명 손실을 초래하는 재앙적 사건 — 이 발생할 리스크는 기술이 아니라 거버넌스의 부재에서 온다. 그리고 극우 정치는 정확히 그 거버넌스를 해체하는 방향으로 작동한다.

5. 시나리오 매트릭스: 네 가지 미래

AGI 느림 (2035+)AGI 빠름 (2028-2030)
극우 억제 (오르반 패배 모델)최선: 점진적 적응, 복지 개혁, 국제 AI 거버넌스 가능도전적: 급속한 전환이지만 민주적 제도가 완충 역할
극우 확산 (트럼프-파라지 축)느린 침식: 제도 약화 + 불평등 심화, 그러나 기술 충격은 관리 가능최악: 통제 불능의 AGI + 민주적 견제 부재 → 권위주의적 기술 과두제

가장 가능성 높은 경로: 우측 상단 — AGI는 예상보다 빠르게 오지만(Jack Clark의 60% 확률), 극우는 헝가리 패턴처럼 일부 국가에서 선거적 견제를 받는다. 다만 미국과 영국에서 극우가 정권을 유지하면 AI 거버넌스의 글로벌 리더십 공백이 발생하여, “도전적” 시나리오가 “최악”으로 미끄러질 리스크가 상존한다.

6. 핵심 변수: 무엇이 결과를 가르는가

  1. 2028 미국 대선: AI 규제의 방향을 결정하는 단일 최대 변수. 극우가 연임하면 안전장치 해체 가속, 교체되면 규제 윈도우가 열린다.

  2. AGI의 실질 고용 충격 속도: 2025년 현재 OECD 고용률은 사상 최고, 미국 실업률 5%. AI가 이 수치를 움직이기 시작하는 시점이 정치적 반응의 성격을 결정한다.

  3. EU의 AI Act 실효성: EU는 AI 도입률(37%)에서 미국(36%)을 앞서지만, 프런티어 모델과 반도체에서 미·중에 종속. 독자적 규제 프레임워크가 글로벌 표준이 될 수 있을지.

  4. 극우 정권의 AI 활용 방식: 감시에 쓸 것인가, 경제 성장에 쓸 것인가. 오르반 모델(부패 + 정체)과 싱가포르 모델(통제 + 성장) 사이의 선택.

  5. AI 기업의 자율적 안전 투자: Anthropic이 Pentagon을 거부한 것처럼, 기업의 자발적 안전 결정이 정부 실패를 얼마나 보상할 수 있을지 — 그러나 경쟁 압력이 이를 지속적으로 침식하고 있다.

한 문장 요약: AGI는 역사상 가장 강력한 도구를 만들고, 극우화는 그 도구를 통제할 민주적 장치를 해체하고 있다 — 이 둘의 동시 진행이 만드는 최대 리스크는 기술 자체가 아니라 통제권이 소수에게 집중되는 것이다.

Graph View