[천지의 눈] 인공지능(AI)의 위험성과 위협

인공지능(AI)은 그 잠재력과 가능성 덕분에 오늘날 시대를 대표하는 대명사가 됐다. 자율주행차, 군사용 드론, 딥시크(DeepSeek), 챗GPT(ChatGPT) 등 수조 달러 규모로 급성장 중인 AI 산업은 이미 일상 속에 깊숙이 자리 잡고 있다.

일본 세이사대학교의 호소다 미와코 박사는 태국 방콕에서 열린 아시아 생명윤리 컨퍼런스에서 AI는 의료 분야에서 많은 가능성을 제시한다고 했다. 여기에는 더 빠르고 정확한 진단, AI 보조 치료, 자동화된 응급 로봇 등이 포함된다. 이는 환자에게 최상의 치료와 결과를 제공하는 데 핵심적인 역할을 한다.

포브스는 최근 기사에서 AI 기반 의료 시장이 연간 약 400억 달러 규모에 달한다고 보도했다. 같은 기사에 따르면 매일 3400만개의 이미지가 AI에 의해 생성되며 SNS 이미지의 71%가 AI 생성 이미지로 알려졌다.

AI 산업은 연평균 28%씩 성장하고 있으며 2030년까지 수익이 8천억 달러를 넘어설 것으로 전망된다.

AI는 컴퓨터, 기계, 로봇이 인간처럼 사고하게 하며 인공신경망은 데이터를 처리하는 소프트웨어처럼 작동한다. 머신러닝은 거의 불가능에 가까운 계산을 가능케 하고 도서관에서 며칠씩 걸릴 연구 질문에도 답할 수 있게 하며 음성 인식 기능을 통해 시리(Siri)처럼 일정 관리, 내비게이션, 주식 예측 등 다양한 일을 대신할 수 있게 만든다.

이처럼 AI는 마치 전지전능한 뇌처럼 작동하며 인간의 삶을 통제하고 심지어 윤리적 가치관까지 영향을 줄 수 있는 유토피아적 가능성을 보여주고 있다.

이런 유토피아적 세상은 인간 삶의 거의 모든 측면을 자동화하고 과학의 혜택을 통해 인간에게 편의를 제공한다.

미국 정부는 지난달 5천억 달러 규모의 AI 투자 계획을 발표했다. 그러나 포브스에 따르면 AI에 대한 미국인의 수용도는 32%에 불과하며 이는 인도(77%)와 중국(72%)에 비해 현저히 낮은 수준이다. 도널드 트럼프 미국 대통령이 이 같은 대규모 투자를 발표한 지 몇 주 뒤 중국 기업은 단 600만 달러 수준으로 오픈소스 대형언어모델 딥시크를 공개하며 오픈AI에 도전장을 던졌다. 이는 오픈AI가 지난 수년간 마이크로소프트의 지원을 받아 수십억 달러를 들여 개발해온 것과 대조적이다.

그러나 AI의 가능성을 믿고 싶더라도 현실은 다르다. AI는 빅테크의 자본과 권력을 바탕으로 인간 사회를 지배하는 신식민주의 도구에 불과하다는 비판이 있다.

AI 시스템은 어떤 정부가 통제할 수 있는 기술이 아니다. 민간자본으로 개발됐기에 그 소유자들은 이익을 기대하며 이를 통제한다.

전 유엔 관계자이자 현재 미국 주권국제대학(AUSN) 교수인 오사마 라즈칸은 “AI가 선을 위한 도구가 될 수 있다”고 강조한다. 그러나 문제는 의도가 아니라 기술이 초래하는 결과에 대한 책임을 빅테크가 회피하려 한다는 점이다. 이는 곧 기업의 생존과 수익성과도 직결된다.

◆누가 기술을 통제할 것인가

기술은 두 가지 차원에서 작동한다. 하나는 효율성이고 다른 하나는 인간 사회의 맥락과 필요다.

기술결정론은 인간이 단순한 도구에 불과하며 수많은 사람들의 복지와 무관한 빅테크의 이익에 종속된다고 본다. 중요한 사실은 AI가 인간의 태도와 행동을 이미 변화시키고 있다는 점이다. 이는 특정 사회적 문제를 증폭시킨다.

아시아 생명윤리협회 사무총장 대릴 메이서는 “AI는 인간의 지식을 확장시킬 수도 있지만, 반대로 식민화할 수도 있다”고 지적하며 이는 세계 질서와 공동체에 심대한 영향을 미칠 수 있다고 경고했다.

이 문제의 핵심은 AI가 만들어내는 유토피아적 미래와 디스토피아적 통제 메커니즘 사이의 긴장 속에 있다. 이는 곧 ‘누가 기술을 통제할 것인가’라는 통치 방식의 문제다. ‘게이트키퍼(문지기)를 누가 통제할 것인가에 대한 질문이 있을 수 있다.

미국에선 일론 머스크 테슬라 최고경영자(CEO)처럼 세계에서 가장 부유한 인물이 대통령의 비공식 자문역할을 하며 미래를 좌우하고 있다는 비판이 있다. 머스크의 조언에 귀를 기울이는 트럼프 대통령과 달리 많은 미국인들은 이를 우려하고 있다.

이제 엔비디아, 마이크로소프트, 애플 등이 수천억 달러를 벌어들이며 세계를 지배할지도 모른다. 필리핀 부키드논 주립대학교의 젊은 연구자 KC 알카사르는 “AI는 곧 권력과 통제의 문제”라고 지적했다.

AI의 부상은 기업에 수십억 달러의 이익을 안겨줬지만 단지 자원을 분배해 가난한 공동체의 삶을 개선하는 데에만 머물지 않는다.

기술결정론은 세계를 바꾸려는 시도 이면에 강력한 힘이 작용함을 의미한다. 이는 곧 서구 자본주의가 토착 공동체의 삶 속으로 침투하면서 소비주의와 자본 중심의 삶이 전통적 가치와 문화를 위협하게 된다는 의미다. 이는 문화적 정체성의 침식으로 이어질 수 있다. 이런 점에서 AI의 영향은 우려할 만한 일이다.

1996년 ‘정보철학’이라는 용어를 창안한 옥스퍼드대 저명한 철학자인 루치아노 플로리디의 말을 빌리자면 우리는 정보사회 시대에 살고 있다. 현대인은 인간 자율성의 종말 속에서 로봇 대행자에게 삶을 맡기는 현실에 직면하고 있다.

AI와 관련해 가장 논란이 되는 문제 중 하나는 ‘투명성’과 ‘온라인 편견’이다.

AI 기반의 의사결정은 딥러닝의 작동 원리를 일반인이 쉽게 이해할 수 없어 불투명하다. 컴퓨터 과학자만이 이러한 것들이 실제 세계에서 어떻게 작동하는지 완전히 잘 설명할 수 있다. 포브스는 “(AI의) 논리가 복잡하고 해석하기 어렵다”고 지적한다.

또한 알고리즘은 의도치 않게 편향적 정보를 확산시키거나 혐오와 차별을 강화할 수 있다.

이러한 시스템은 뉴스피드에 폭력적이고 선동적인 콘텐츠를 띄워 사회적 갈등을 조장할 수도 있다. 실제로 SNS에 적용된 복잡한 AI 시스템은 오직 수익을 위해 증오심을 확대 재생산할 수 있다.

이는 철학자 마르틴 하이데거가 말한 기술의 실제 역할이 펼쳐지는 과정의 일부다. 기술은 효율성이라는 개념에 국한될 수 없다. 이는 세상의 본질을 드러내는 행위다.

결국 AI 시대에서 다음 세대의 인간 삶의 방향은 우리 손으로 결정할 수 없는 일이 돼버렸는지도 모른다.