폰테크 당일 “진짜 목적은 비용 절감, 그 결과는 불평등”…전 유엔 특별보고관이 보는 AI

페이지 정보

작성자 이길중 작성일25-09-22 03:33 조회0회 댓글0건

본문

폰테크 당일 [주간경향] “네모난 방이 있다고 생각해봅시다. 누군가 이 방에 들어와서 사람들에게 ‘좋은 소식이 있어요’라고 외치죠. 인공지능(AI)은 실제로 우리 삶의 모든 것을 바꿀 겁니다. 하지만 문제는, 이곳(세상)이 어떻게 바뀔지에 대한 결정은 정부나 당사자들이 아닌 극히 일부의 빅테크 기업이 내릴 것이고, 민주주의는 점점 덜 중요해질 것이라는 점입니다.”
지난 9월 15일 서울 중구 국가인권위원회 사무실에서 만난 필립 알스턴 뉴욕대 로스쿨 교수는 AI 문제를 어떻게 바라보고 있는지에 관해 묻자 ‘방’에 비유해 설명했다.
그는 2004년부터 2020년까지 유엔 빈곤·비사법적 처형 특별보고관 등을 역임했으며, 빈곤 문제에 대한 국제적 논의를 인권의 영역으로 이식한 공로를 인정받고 있다. 빈곤은 단순히 경제적 곤란의 차원을 넘어 인권의 문제라는 것이다. 나아가 최근엔 AI 및 디지털 기술과 빈곤, 인권에 관한 연구를 진행하고 있다. 그는 AI를 둘러싼 오늘날의 문제 중 상당수를, 기술의 문제로만 보기보다는 인권의 시각으로 바라볼 때 좀더 근원적인 접근이 가능하다고 말한다.
우리는 통상 어떤 분야에든 AI가 도입되면 모든 과정이 ‘마법처럼’ 효율적이 되리라 생각하곤 한다. 예를 들면 노동에 AI를 도입하면 더 나은 서비스를 제공할 수 있게 되고, 학습 과정에 AI를 도입하면 더 빠르게 모든 것이 가능하다는 식이다.
하지만 알스턴 교수는 AI의 작동방식을 제대로 바라보기 위해서는 우선 ‘전제’를 면밀히 살필 필요가 있다고 말한다. 기술을 개발하고 실제로 현실에서 작동시키는 주체의 진짜 목적이 무엇이냐는 것이다 “오늘날 AI와 관련해서는 한 가지 공통 전제가 있습니다. 대체로 어떤 분야에서 AI가 도입될 때 명시적으로든, 암묵적으로든 비용 삭감의 차원에서 도입된다는 것입니다.”
특히 그는 그간 사회복지 분야에서의 AI 도입에 대해 특히 관심을 가져왔다.
“최근 수년 동안 빈곤계층을 위한 사회복지에 AI를 도입하는 것과 관련한 논쟁이 있었죠. 대표적으로는 (AI를 활용해) 복지 부정수급을 막고, ‘정말로 자격이 있는 사람들만’ 가려내 사회적 지원을 해야 한다는 것이었습니다. 실제로 이를 위해 다수의 국가는 빈곤계층의 감시와 추적, 자격 분류를 위한 강력한 도구를 사용했습니다.”
그가 2019년 총 30여개국의 사례를 취합해 제출한 유엔 특별보고서에서는 복지 수급 조건으로 당사자의 홍채 정보, DNA 등 민감 정보를 제출하도록 강제한 사례 등이 소개된 바 있다. 하지만 그는 이런 복지에서의 AI 도입이 당사자들의 삶을 오히려 악화시킬 가능성이 매우 높다고 강조하는데, 이유는 대부분 AI 도입의 가장 큰 목적이 ‘비용 삭감’이기 때문이다. 이를테면, 배달앱에 AI가 도입될 경우 배달원의 안전과 질 좋은 서비스를 위해서라기보다는 임금 및 비용 절감 차원에서 도입되는 것과 마찬가지라고 볼 수 있다. 또한 이로 인한 피해는 특히 빈곤계층, 사회적 약자에게 가혹하다.
“대부분의 신기술, 특히 AI의 경우 그 전제는 굉장히 자유주의적입니다. 게으른 사람들에게 보상을 해선 안 되고, 모든 사람이 일할 수 있도록 해야 하고, 철저히 감시해야 한다는 거죠. 오늘날 수많은 일반 노동자 역시 (알고리즘에 의해) 광범위하게 감시받고 있다는 사실을 감안한다면, 빈곤계층에 대한 감시는 AI의 도입으로 인해 이전보다 훨씬 강해질 것이라는 예상이 가능합니다.”
그는 AI로 인한 피해에 대해 아직 사람들이 제대로 인식하지 못하고 있지만, 곧 그 영향력은 일부 계층이 아닌 전반적으로 퍼져 나갈 것이라고 말한다.
“저는 많은 사람이 기술 기업의 지배력을 아직 인식하지 못하고 있다고 생각합니다. 기술이 건강, 교육, 도시계획 등 우리가 하는 거의 모든 일의 우선순위를 결정하는 등 극적인 변화가 일어날 때 비로소 그 영향을 알게 되겠죠. 가장 대표적으로는 노동의 영역일 텐데요. 우버(Uber) 등의 플랫폼 기업은 신기술을 활용해 노동권을 없애고, 협상 능력을 없애고, 이전에는 결코 받아들여지지 않았을 수준으로 임금을 낮추고, 건강보험 등의 혜택을 없앴습니다. 저는 AI로 인한 가장 큰 위협이 (언론 등에서 강조하는) 일자리 소멸보다 근무 조건의 전반적인 악화라고 생각합니다.”
알스턴 교수에 따르면, 이런 부작용 및 피해가 가시화되지 않는 것은 큰 문제를 가져온다. 사람들은 보호받지 못하고, 자신이 구체적으로 어떤 피해를 보는지조차 인지하지 못하게 되기 때문이다.
“AI 도입 결과에 대해 기술 기업도, 정부도 서로의 탓으로 미루고 제대로 책임을 지지 않습니다. 이는 정부와 기업 모두에 편리하죠. 그리고 예전엔 이런 상황에서 시민사회가 개입할 것이 기대됐지만 시스템을 이해하지 못하고 알고리즘에 접근할 수 없기 때문에 효과적으로 개입하는 것이 불가능합니다.”
유튜브, 메타, 오픈AI 등의 빅테크 기업들은 과거 자사의 알고리즘이 이용자들의 정서 불안, 극단주의 조장 등 사회적인 문제를 일으킬 때마다 ‘자신들도 알고리즘의 작동 방식을 완벽하게 파악할 수 없다’고 주장해왔지만, 알스턴 교수는 이것이 대체로 변명에 불과하다고 말한다.
“만약 제가 유튜브를 보는데, 어느 날 추천 알고리즘이 고장 나서 제게 패션, 화장품 관련 영상만 계속 추천에 뜨고 그래서 유튜브에 접속하지 않게 되고 수익에 문제가 생기면, 유튜브는 금방 문제를 해결할 겁니다. 반면 여성, 빈곤층 차별 등 기타 형태의 편견에 문제가 있다고 말하면 그들은 ‘우리는 할 수 있는 일이 없다’고 말할 것입니다. 그들이 인정하는 것보다 훨씬 더 많은 잠재적 통제력이 있다고 볼 수 있는 거죠.”
여기서 기술의 다양한 차원을 조사·파악하고 가치를 수립하는 정부의 역할이 중요해진다. 가능한 위험에 대해 제대로 평가하고 규제하는 것은 기업의 자율적인 의지에만 맡겨서는 불가능하기 때문이다.
특히 알스턴 교수는 정부가 기술과 사회를 아우르는 ‘전문성’을 키울 필요성이 있다고 강조한다. “정부는 기술적 측면뿐 아니라 그것의 사회적 영향까지 평가할 수 있는 이들을 포함하는, 다양한 전문지식을 갖춘 집단을 확보해야 합니다.”
그는 헬스케어와 챗봇을 예로 들며, 현재로서는 이런 기술이 사회와 개인에게 어떤 영향을 미치는지에 대한 보고서는 거의 존재하지 않는다고 말한다. 단지 AI 헬스케어가 의료에 들어가는 비용을 절감하고, 챗봇이 사람들의 외로움을 저비용으로 덜어줄 수 있다는 점에만 주목할 뿐이다. 이는 결과적으로 정부에게도 비용 절감이라는 효용을 주고 기업에도 이익이 되지만 사회적으로 어떤 부작용이 있을지, 과연 우리가 그런 삶을 원하는지 등에 대해서는 알 수 없다.
“지난 4월 마크 저커버그(메타 CEO)가 ‘오늘날 미국인은 평균적으로 3명 이하의 친구를 가지고 있을 뿐’이라며 AI가 점차 그 빈자리를 메울 수 있을 것이라 말한 바 있죠. 사람들은 점점 더 고립되고, 사회에 어울리지 못하며 친구를 사귀지 못하게 되지만 이런 현상이 사회적으로 어떤 영향을 가져올지 정부는 아무것도 알지 못합니다. 누구도 ‘이런 사회는 우리가 원하는 사회가 아니야’라고 말하지 않죠. 여전히 인간과의 직접 대화가 대체 불가능한 가치를 가지고 있음에도 불구하고요.”
이러한 사회적 고립 역시 모두에게 똑같이 나타나는 것이 아니라 개인의 경제적·사회적 배경과 직업에 따라 큰 차이를 보인다.
예를 들어, 그는 정부가 챗봇의 영향력에 대한 인문학·심리학 등의 연구를 지원하는 방식으로 기술의 위험성에 대해 더 잘 대비하고 예측할 수 있다고 말한다. 하지만 오늘날 대부분의 빅테크 기업은 오히려 사회적 책임과 관련된 부서를 축소하고 있으며, 정부의 AI와 관련된 지원 역시 기술진흥 및 인프라 구축에 집중돼 있다.
“우리가 AI와 관련해 모르는 것도 많지만, 그에 대한 지식을 아예 가지고 있지 않은 건 아닙니다. 다만 그 지식을 체계적으로 활용하지 못하고 있죠. 대표적으로는 ‘사생활(privacy)’ 관련된 문제가 그런데, 우리는 사생활을 커튼을 치고 생활하거나 통화를 엿듣지 못하게 하는 사소한 일 정도로 생각하지만, 훨씬 더 큰 개념입니다. 우리 삶의 근본적인 침해에 대해 제대로 표현하기 위해선 더 큰 차원의 인식이 필요하죠.”
그는 윤리가 아닌 인권 기반의 접근이 필요하다고 강조한다. 윤리는 상대적인 개념인 반면 인권은 모든 사람이 당연하게 지녀야 하는 권리라는 것이다.
“인권에는 두 가지가 있습니다. 첫째는 시민적·정치적 권리이고, 둘째는 경제·사회·문화적 권리죠. 보통 정부는 전자만을 강조할 뿐 후자는 강조하지 않습니다. 즉 교육권, 건강권, 존엄하게 대우받을 권리 등은 제외된다는 것입니다. 이는 인권에 대한 매우 빈곤한 관점입니다. 왜냐하면 인권은 자신을 진정으로 표현할 권리, 민주주의에 참여할 권리, 정부의 의사 결정에 영향을 미칠 권리 등에 대한 것이기 때문입니다.”
이처럼 인권을 최우선으로 하는 접근은 문제의 본질적인 예방과 구제에 집중한다.
“정부가 인권 존중 및 증진에 대한 강한 의지를 갖지 않는다면, 정부는 국민에게 미치는 영향을 간과하는 대신 경제와 국가 안보에 미치는 영향에만 몰두하게 될 것입니다. 따라서 인권은 명시적으로 인정돼야 하며, 더 넓은 책임과 영향을 받는 개인에 대한 구제에 초점을 맞춰야 합니다.”
하지만 현재 AI와 관련한 입법, 정책의 세계적인 추세는 규제보다는 진흥, 특히 국방·국력 차원에서의 진흥을 강조하는 것이다.
“최근 미국은 광범위한 차원의 세계적 협력 노력에서 물러났습니다. 자국의 이익만을 최우선으로 삼고 있으며, 오늘날 국방비 지출이 늘어남에 따라 그 상당수는 AI에 대한 투자로 들어갈 것입니다. 안보 중심의 접근은 외부 위협으로부터 국민을 보호하는 것으로 해석될 뿐 내부적으로 일어나는 일에 대해서는 고려하지 않습니다. 이는 그 두 가지 목표를 조화시킬 수 없다는 가정에 기반하고 있죠. 하지만 과연 그럴까요?”
너무 굶어서 명료한 사고 어려워혈당 떨어져 쓰러졌을 때도 작업건물 없는 대학 지키는 연구자들이제 전 세계 학자들이 응답해야
아메드 카말 주니나는 가자지구 알아크사대학의 응용언어학자이다. 지난달 그는 영국 신문 가디언에 ‘가자지구에서 학자로서 집중력을 잃지 않기 위한 투쟁’이라는 제목의 글을 기고했다.
“나는 굶주림 속에서 이 글을 쓰고 있습니다. 너무 굶어서 명료하게 사고하는 게 어렵고, 몸이 약해져 오랜 시간 앉아 있기도 힘듭니다.”
현재 가자지구는 이스라엘의 봉쇄로 식품, 의약품, 연료 등의 반입이 차단된 상태다. 유엔 기구와 비영리단체 등으로 구성된 기근 감시 시스템인 통합식량안보단계분류(IPC)에 따르면 이 지역은 지금 ‘최고 위험’ 단계에 있다. 50만명 이상의 인구가 재앙적 기근 상태에 있으며 이미 수백명의 아사자가 생겨났다.
“겨우 한 단락의 글을 살펴보고 있는데 위장에 경련이 일어납니다. 수분이 빠져나간 손가락은 무척 건조하고 저립니다.” 그런데도 주니나는 필사적이다. 다리가 후들거리는데도 인터넷을 이용할 수 있는 카페를 찾아 학생들과 접속하고 외부 연구자들과 소통한다. 혈당이 떨어져 쓰러졌을 때도 그는 작업을 이어갔다. “쉴 여유가 없습니다. 나는 인터뷰들을 진행하고 그것을 기록하고 학생들을 지원하고 메시지를 보내야 합니다.”
학자의 자존심 때문이 아니다. 그가 학자로서 버티는 것은 일종의 투쟁이다. 이스라엘군의 계획적 폭격으로 대학 강의실은 날아갔고 도서관은 돌무더기로 변했다. 많은 교수와 학생들이 죽었고 또 피란을 떠났다. 그는 이것을 ‘스콜라스티사이드(scholasticide)’라고 부른다. 학문하는 이들에 대한 집단학살이라는 것이다. 그는 지금 여기에 맞서는 중이다. 이스라엘이 팔레스타인의 학문하는 자들, 가르치고 배우는 자들, 말하고 쓰는 자들을 없애고자 한다면 학문하는 자, 가르치고 배우는 자, 말하고 쓰는 자로서 살아남는 것은 중요한 항거이다.
몇달 전 그는 학술지에 논문을 발표했다. 끔찍한 재난 상황, 특히 집단학살이 일어나고 있는 가자지구 같은 곳에서도 고등교육을 할 수 있는 방법에 대한 연구논문이었다. 수업도 멈추지 않았다. 왓츠앱 등을 이용해 강의를 음성파일로 남기면 학생들이 음성 답변을 남기거나 필기한 내용을 사진 찍어 전송했다. 어떤 학생들은 파일을 다운로드하기 위해 와이파이를 찾아 위험지대에 들어가기도 했다. 상황이 여의치 않아 이모티콘으로 반응만 남기는 학생들도 있었다. 그런데 이 작은 표식도 중요했다. 그것은 학생들이 살아 있다는 신호, 더 나아가 학업을 포기하지 않았다는 신호였기 때문이다.
“우리는 계속 작업해 나갈 겁니다. 영웅심 때문이 아니라 현존하기 위해서입니다. 우리의 모든 보고서, 모든 각주, 모든 강의에는 하나의 심오한 진실이 담겨 있습니다. 그것은 바로 가자지구에서 지식이 여전히 생산되고 있다는 사실입니다. 지금 같은 상황에서도, 아니 지금 같은 상황이니까 더욱 말입니다.”
이스라엘군의 집단학살이 계속되고 있는 상황에서, 아무것도 먹지 못해 머리가 어지럽고 손발이 떨리는 상태로 건물 없는 대학을 지키는 팔레스타인 학자를 보노라니 대학이란 무엇인가 하는 물음이 떠나질 않는다. 그는 이스라엘이 자행하는 집단학살이 대학과 학문에 대한 집단학살이기도 하다는 점을 보여주었다. 그가 죽음을 앞에 두고서도 학자로서 살아가는 이유는 이스라엘이 학자인 그를 절멸시키고자 하기 때문이다. 이스라엘이 의도적으로 팔레스타인에서 “미래의 의사들, 교사들, 엔지니어들, 사상가들”을 절멸시키고자 하기 때문이다.
이제 세계의 대학들, 세계의 학자들이 분명하게 응답해야 한다고 생각한다.
불행히도 미국에서 들려오는 소식은 좋지 않다. 이스라엘이 자행하는 집단학살에 항의하는 이들이 대학에서 쫓겨나고 있다. 미국 정부는 팔레스타인인들에게 연대를 표하는 모든 활동을 반유대주의로 몰아세우고 있다. 처음에 이런 조치에 강렬하게 저항했던 컬럼비아대학이 굴복했고 얼마간 버티던 하버드대학도 타협했다. 1960년대 저항 문화의 상징과도 같던 캘리포니아대학 버클리캠퍼스는 며칠 전 반유대주의 활동이 의심되는 교수와 학생, 직원들의 명단을 당국에 제출했다.
이런 식으로 미국의 대학들은 진실을 말할 자유를 포기하고 학살에 침묵하는 대신 연구비를 지켜냈다. 포성과 굶주림 속에서도 끝까지 버티고 있는 팔레스타인의 대학에 비하면 미국의 대학들은 믿기지 않을 정도로 쉽게 무너지고 있다. 연구비를 얻고서 죽어가는 대학이라니. 그러고 보니 남의 말 할 때가 아니다. 팔레스타인에서 일어난 일에 침묵하는 구경꾼으로 잘 지내고 있는 한국의 대학들은 지금 살아있기는 한 것일까.

댓글목록

등록된 댓글이 없습니다.

댓글쓰기

이름필수
비밀번호필수
비밀글사용
자동등록방지	자동등록방지 자동등록방지 숫자를 순서대로 입력하세요.
내용

센터조직

조직도
고문단
4차산업혁명특별위원회
회장/이사장
회장단
운영위원장
사무총장/위원회

폰테크 당일 “진짜 목적은 비용 절감, 그 결과는 불평등”…전 유엔 특별보고관이 보는 AI > 운영위원장

운영위원장

폰테크 당일 “진짜 목적은 비용 절감, 그 결과는 불평등”…전 유엔 특별보고관이 보는 AI

페이지 정보

관련링크

본문

댓글목록