일상 속에 온라인 플랫폼과 콘텐츠가 넘쳐나고, 인공지능이 놀라운 속도로 발전을 거듭하는 요즘, 우리의 인권은 안녕할까? 이번 학기 인권센터에서는 디지털 기술과 인권의 관계를 탐구하고, 새롭게 발생하는 여러 문제를 고찰하기 위해 열린인권강좌 ‘디지털 사회의 인권’을 마련했다. 강좌는 10월 10일(목)부터 11월 14일(목)까지 총 6회에 걸쳐 온라인(Zoom)에서 진행됐으며, 매주 80~90명의 학내 구성원 및 관심 있는 일반인이 강의와 토론에 참여했다.
제12회 열린인권강좌 포스터
디지털 플랫폼과 인공지능의 빛과 그림자
첫날 강의를 담당한 이준환 교수(언론정보학과·인공지능 협동과정)는 ‘인공지능 기술과 인권’이라는 주제로, GPT로 대표되는 언어모형의 발전을 돌아보고 상담 챗봇의 구축 과정을 소개했다. 그는 성범죄 피해자의 진술을 지원하는 챗봇을 개발하는 과제에서 피해 당사자 인터뷰, 경찰 및 상담사와의 협업을 통해 사용자의 부담을 완화하는 대화 시스템을 설계했다. 강의 끝에는 “AI는 인류에게 마치 불과 같다”라며 인공지능의 폭넓은 가능성과 장단점을 언급하고, “기술과 관련된 사회적 책무를 함께 고민해달라”라고 당부했다.
엄주희 교수(건국대학교)는 ‘인공지능 딥페이크와 인권’ 강의를 통해 표현의 자유, 신체의 자유, 개인정보 자기결정권 등의 관점에서 딥페이크의 인권 침해에 대해 자세히 설명했다. 딥페이크 콘텐츠를 자동 감지하는 기술도 개발되고 있지만, 강력한 예방과 처벌을 위한 법적 기반이 필요하다는 점이 강조됐다. 다음으로는 인권센터 선임연구원 강효원 박사가 ‘디지털 성폭력과 여성 인권’ 강의에서 불법 촬영물 유포를 비롯한 각종 온라인 성 착취를 젠더 기반 폭력으로 해석했다. “완전히 새로운 문제가 아니라, 우리 사회에 이미 존재하고 있는 성차별적 문화와 성폭력 문제가 기술을 매개로 확장된 형태”라는 것이다. 피해 영상이 단순히 ‘음란물’로 지칭되고 디지털 범죄의 형량이 낮게 책정되는 등, 문제의 심각성에 비해 인식이 부족하다고도 지적했다. 온라인 플랫폼의 책임을 묻는 수강생의 질문에 대해서는 “실효성 있는 규제와 더불어, 플랫폼을 이용하는 우리는 그 생태계를 어떻게 만들어갈지 앞으로 계속 답을 찾아나가야 할 것이다”라고 말했다.
3강(강효원 박사) 온라인 강의 캡쳐
계속 풀어가야 할 법적, 사회적 숙제들
네 번째 시간, ‘인공지능의 의사결정과 인권 문제’를 강의한 이호중 교수(서강대학교)는 채용, 행정, 교육, 사법 등 다양한 영역에서 AI 의사결정 시스템이 가져오는 위험을 다뤘다. 그는 “의사결정의 근거를 설명할 수 있는 투명성과 책무성을 갖춰야 한다”라고 강조하고, 각종 차별과 침해의 위험을 예방하기 위한 규제로 EU의 인공지능 법을 주요하게 언급했다. 이어 남승현 교수(국립외교원)의 ‘신기술과 인권: 유엔의 동향’ 발표에서는 ‘인류를 위한 AI 관리’(Governing AI for Humanity) 보고서와 ‘UN 글로벌 디지털 협약’(UN Global Digital Compact) 등의 최신 논의를 살펴봤다. 남 교수는 국제법이 국가의 의무를 규정하는 한편, 기술을 개발하고 사용하는 기업의 자발적 책임이 중요하며, 시장을 움직이는 소비자와 투자자에게도 역할이 있다고 짚었다. 모든 사람이 AI 거버넌스 형성에 직·간접적으로 관여할 수 있다는 의미다.
마지막 강의의 주제는 ‘디지털 기술과 노동권’이었다. 권현지 교수(사회학과)는 노동자에 대한 실시간 감시 및 분석을 수반하는 알고리즘 기반 인사 관리와 불안정성이나 소외를 경험하기 쉬운 플랫폼 노동의 특징을 다각적으로 설명했다. 특히 소셜미디어 등 온라인 공간에서 이용자들이 생성한 콘텐츠를 검수하고 배포하는 ‘콘텐츠 모더레이터(content moderator)’라는 직업에 주목했다. 기존의 고용시장에서 취약한 위치에 있던 사람들의 참여가 많은데, 이들은 밤낮없이 빠르고 정확한 판단을 요구받으며 유해한 콘텐츠에 지속적으로 노출되는 고통을 겪는다. 권 교수는 “여전히 노동자 개개인이 업무에 헌신할 동기를 찾아가고 있지만, 결국은 조직 차원에서 지속 가능한 미래 노동을 위해 노력해야 한다”라고 말했다.
4강(이호중 교수), 6강(권현지 교수) 강의 캡쳐
올해 열린인권강좌를 기획한 강효원 박사(인권센터)는 “기술이 다방면에서 빠르게 발전하면서 적용되고 있기 때문에 이해와 접근이 어렵게 느껴지지만, 인권 관점에서 비판적으로 사유하고 실천을 고민하는 시간이 되었으면 했다”라고 설명하고, “강좌가 다소 이론에 치중되었음에도, 수강생의 적극적인 토론으로 ‘인권의 보장을 위해 디지털 기술을 어떻게 활용할 수 있을까’라는 질문까지 논의할 수 있어서 보람을 느꼈다”라고 전했다. 이번 강좌를 수료한 연다정 교직원(AI융합교육학과)은 “평소 관심이 많았던 주제의 최신 동향과 새로운 개념을 알아보고, 실제 현장에 적용된 사례를 살펴볼 수 있어 유익했다”라며 “강좌가 원격으로 진행되어 장소에 구애받지 않고 다양한 사람들과 소통할 수 있는 것이 장점이었다”라고 소감을 남겼다.
‘인권’은 변하지 않는 가치를 이야기하면서도, 시대에 따라 풀어야 할 과제들이 새롭게 발생하고 변화하는 영역이다. 시의성 있는 화두에 대한 교육과 연구를 이어가는 본교 인권센터와 함께, 더 나은 세상을 도모하는 지혜를 쌓아보면 어떨까. 대중을 위한 공론장은 활짝 열려있다.
서울대학교 학생기자
최하영(언어학과)
harongeee@snu.ac.kr