우리가 살아가면서 주제, 분야와 상관없이 평소 불합리하다 느꼈던 것, 궁금했던 것들이 참 많을 것입니다. 하지만 개인의 입장에서 접근하기 쉽지 않은 상황들도 참 많은 것이 현실입니다. 그래서 ‘시사의창’에서는 독자 여러분들을 대신해서 본지 기자들이 현장에서 발로 뛰면서 다양한 주제들에 대해 파헤쳐보도록 하겠습니다. 또한 살아가면서 미처 알지 못했던 것들과 알아두면 좋은 필요한 정보들을 알려드리고자 합니다. 따라서 독자 여러분들의 많은 제보와 문의를 기다리겠습니다. 이번 취재는 ‘딥페이크’의 실태와 그 문제점에 대해 취재했습니다. 딥페이크 범죄에 사실상 무방비 상태였던 대한민국이 발칵 뒤집혔습니다. 인공지능 기술의 발달은 무서우리만치 하루가 다르게 발전하고 있으나 그 기술력에 따른 문제점에 대해서는 무관심했던 것은 아닌지, 우리의 무관심 속에서 더 큰 재앙이 다가오고 있을지도 모릅니다. AI의 공습에 인류는 과연 안전할까요.
©gettyimages
[시사의창 2024년 10월호=정용일 기자] 지금까지 IT 기술의 발전은 인간의 삶을 송두리째 바꿔놓을 만큼 대단했다. 불과 20여 년 전만 하더라도 “설마 그게 되겠어?”라고 위구심을 품는 것들이 현실이 되어 이제는 우리들의 삶 속에 자연스럽게 스며들었다. 또한 앞으로 얼마다 더 기술이 발전해 어떤 세상이 펼쳐질지 그 한계성을 가늠하기 힘들 정도로 IT 기술력은 빠르게 발전하고 진화하고 있다. 하지만 그 뛰어난 기술력은 ‘양날의 검’이 되어 다양한 부작용을 일으키고 있는 것도 사실이다. 그 부작용의 종류와 범위도 매우 방대하지만 요즘 사회적으로 큰 문제가 되고 있는 ‘딥페이크’ 하나만 예로 들어도 IT 기술의 진화에 따른 부작용 사례로 충분해 보인다. 그만큼 딥페이크 기술력의 진화가 미치는 영향이 크다는 것이다. 해당 기술로 인한 다양한 장점도 있지만 기술력의 악용으로 인해 부작용 역시 매우 크다.
더 자세히 말하자면 어떤 용도로 악용하느냐에 따라 그 파장은 상상을 초월하는 결과를 초래할 수 있다. 안타깝게도 그 문제(딥페이크)의 중심에서 하필 한국이 발원지로 주목받고 있다. 세계 주요 언론에서는 해당 사안과 관련해 날카로운 지적을 쏟아내고 있다.
딥페이크(CG) ©연합뉴스
딥페이크는 딥러닝과 페이크의 합성어로 인공지능 기술을 이용해 기존의 영상이나 이미지 속에 있던 얼굴을 다른 사람의 얼굴로 합성하는 기술을 뜻한다. 2017년 처음 등장한 이 기술은 전문 소프트웨어를 사용하지 않더라도 조금만 공부하면 누구나 손쉽게 딥페이크 제작물을 만들어낼 수 있으며 꽤나 정교하다.
이렇게 제작된 딥페이크 제작물이 악의적인 목적으로 허위 정보 유포나 성범죄에 사용되면서 그 피해가 걷잡을 수 없이 커지고 있다. 또한 피해당사자가 입는 수치심이나 정신적 고통 역시 상당하다. 절대 가볍게 여길 수 없는 중대범죄인 것이다.
현재 많은 국가에서 딥페이크와 관련된 법안이 준비되고는 있지만 하루가 멀다 하고 빠르게 발전하는 기술력의 속도를 따라가지 못하는 게 현실이다. 많은 국가에서 해당 사안의 중요성에 대해 인지하고 있지만 유독 한국이 그 문제의 중심에서 범죄의 타깃이 되고 있다.
보고서 “전체 피해자 53%가 한국인…상위 10명 중 8명 韓가수”
“딥페이크 성착취물 1년 새 무려 464% 급증, 피해자 99%가 여성”
외신들도 촉각…BBC, n번방·몰카 등 “디지털성범죄 흑역사” 조명
AI기술, 어떠한 용도로 악용하느냐에 따라 그 파장은 ‘상상초월’
정치·경제·사회·문화 등 모든 분야에서 적용 가능, 대책마련 시급
동급생 얼굴에 나체 합성해놓고 ‘낄낄낄’…조롱 일삼은 중학생들
‘딥페이크 성범죄’ 피해자들...정신적 충격 매우 크고 후유증 심해
인공지능(AI)의 발전이 가져온 지금의 부작용 ‘빙산의 일각일 뿐’
오랜만에 한 목소리 내는 여야, 딥페이크 엄정대응 촉구하고 나서
경찰 “딥페이크 등 디지털성범죄 전담수사 위한 인력 확충 검토”
서영교 의원 “10대라도 못된 짓 하면 반드시 강하게 처벌받아야”
이번 딥페이크 논란이 일기 훨씬 전부터 한국의 디지털 성범죄 전력은 질타를 받아 왔다. 그 대표적인 것이 바로 텔레그램 대화방에서 수많은 성 착취 영상물을 제작·유포한 ‘N번방’ 사건이다. 뿐만 아니라 탈의실·화장실 등에서의 몰카 등 디지털 성범죄와 관련한 사례는 끊이질 않고 있으며, 해외 언론들은 이렇게 한국의 디지털 성범죄에 대한 어두운 전례를 날카롭게 지적하고 있다.
이렇듯 한국에 만연한 성희롱 문화 속에서 IT 기술의 발전은 디지털 성범죄의 폭발적인 증가를 불러온 것이다. 그렇다. 한국은 자타공인 IT 강국이다. 맘만 먹으면 얼마든지 높은 기술력을 이용해 범죄를 저지를 수 있는 저력도 갖고 있다는 말이다. 사실 딥페이크 범죄는 예전부터 충분히 예견되어 왔다. 딥페이크를 통해 다양한 성범죄가 발생할 수 있을 것이라는 사실은 바보가 아닌 이상 누구나 예측 가능했다. 우리는 그러한 디지털 성범죄가 벌어질 것을 알면서 실제 벌어지기만을 기다린 것은 아닐까. 그렇게 디지털 성범죄가 발생하고, 피해사례가 알려지고 공론화되어야 정부차원에서의 강력대응이 시작된다. 항상 뻔한 스토리다. 선제적 대응이란 말이 쉽지 행동으로 옮겨지기가 참 어려운가 보다.
딥페이크(CG) ©연합뉴스
여성의 얼굴에 음란물을 합성·유포하는 ‘딥페이크 성범죄’ 확산에 따른 상황의 심각성을 인지한 당국이 집중 단속에 나선 가운데 전 세계에 유포된 딥페이크 성착취물 피해자의 절반 이상이 한국 연예인이라는 해외 보안업체의 조사 결과가 나와 주목을 받고 있다.
28일(현지시간) 미국 일간 월스트리트저널(WSJ)에 따르면 미국의 사이버보안 업체인 ‘시큐리티 히어로’는 최근 발표한 ‘2023 딥페이크 현황’ 보고서에서 한국이 딥페이크 성착취물에 가장 취약한 국가로 나타났다고 밝혔다. 보고서는 지난해 7∼8월 딥페이크 성착취물 사이트 10곳과 유튜브·비메오·데일리모션 등 동영상 공유 플랫폼의 딥페이크 채널 85개에 올라온 영상물 9만 5천820건을 분석했다. 그 결과 딥페이크 성착취물에 등장하는 개인 중 53%가 한국인으로 나타났으며, 한국인 딥페이크 피해자 대부분은 가수와 배우 등 연예인이었다.
딥페이크 피해자 중 미국인이 20%로 두 번째로 많았지만 1위인 한국과의 격차가 컸다. 이어 일본 10%, 영국 6%, 중국 3%, 인도 2%, 대만 2%, 이스라엘 1% 순이었다.
보고서는 “한국은 딥페이크 성착취물에서 가장 많이 표적이 되는 나라”라며 “딥페이크는 엔터테인먼트·정치·허위조작정보 등 다양한 목적으로 이용되지만 어떤 국가에서는 특정한 형태의 딥페이크 콘텐츠, 특히 노골적인 콘텐츠에 더 취약하다”고 꼬집었다. 바로 한국을 빗대어 지적한 것이다.
美보안업체 시큐리티히어로의 2023 딥페이크 현황 보고서 캡처
美보안업체 “한국, 딥페이크 성착취물에 가장 취약”
“딥페이크 성착취물 피해 상위 10명 중 8명 한국 가수”
보고서는 또 딥페이크 성착취물의 최다 표적이 된 개인 10명을 꼽았는데 이 중 8명이 한국인 가수였으며 표적인 된 상위권 대부분이 한국 여성 가수였다. 1∼7위와 9위가 한국 가수였고 8위는 태국 가수, 10위는 영국인 배우였다. 보고서는 사안의 민감성을 고려해 피해자의 이름은 밝히지 않았다. 가장 큰 피해를 본 한국인 가수는 딥페이크 성착취물 1천595건에 등장했으며 총조회수는 무려 561만회에 달했다. 또 다른 한국 가수는 성착취물 1천238건의 표적이 됐고 조회수는 386만 5천회에 달했다. 딥페이크 성착취물 피해자 99%는 여성이었고 94%는 연예계 종사자였다. 이번에 분석한 딥페이크 영상물의 98%가 음란물이었으며, 2022년 3천725건이던 딥페이크 성착취물이 2023년 2만 1천19건으로 464% 급증했다고 파악했다.
시큐리티 히어로는 보고서에서 “딥페이크 성착취물은 일정 그룹의 개인이 조작적이고 종종 악의적인 목적에 따른 표적이 된다는 것이 특징”이라며 “유명 인사인 경우가 많은 이들 개인은 딥페이크 창작자들의 시도를 정면에서 마주하게 된다”고 지적했다.
WSJ은 한국 정부의 딥페이크 성착취물 단속 강화 움직임과 함께 이번 보고서 내용을 전하면서 “가짜 성착취물을 생성·유포하는 텔레그램 기반 네트워크 적발은 한국이 전 세계적 문제의 진앙임을 시사한다”고 보도했다.
다른 주요 외신들도 최근 수년간 디지털 성범죄와 싸워온 한국이 딥페이크 성착취물과의 전쟁에 직면했다며 주목했다. 영국 일간 가디언은 “비밀리에 촬영된 성적 영상물인 ‘몰카’를 근절하려 오랜 기간 분투해 온 한국이 딥페이크 이미지의 물결과도 전투를 벌이고 있다”고 전했다. 영국 BBC방송도 “한국이 딥페이크 성착취물 비상사태에 직면했다”며 최근 딥페이크 성착취물 유포 현황과 윤석열 대통령이 지난 27일 국무회의에서 디지털 성범죄 근절을 주문한 것 등을 비중 있게 보도했다.
딥페이크 확산 방지 카드뉴스. 강원경찰청 제공
교육당국, 딥페이크 단속에 총력 대응 예고
서울시, 교육청·검·경과 딥페이크 공동대응
8월 28일 여성가족부 산하 한국여성인권진흥원에 따르면 올해 1월 1일부터 8월 25일까지 디지털성범죄피해자지원센터(디성센터)로부터 딥페이크 피해 지원을 요청한 781명 가운데 36.9%(288명)는 10대 이하였다. 타인의 일상 사진이나 일반 영상물을 성적 불쾌감을 유발할 수 있는 형태로 합성·편집한 것을 의미하는 ‘딥페이크’로 인해 피해 지원을 요청한 미성년자는 2022년 64명에서 2024년(8월 25일 기준) 288명으로 2년 만에 4.5배가 됐다. 같은 기간 전체 피해 지원 요청자가 212명에서 781명으로 3.7배 증가한 속도보다 더 가파르다.
디성센터 관계자는 “10대와 20대 등 저연령층에서 관련 피해가 높게 나타난 것은 이들이 다른 연령층에 비해 SNS 등을 이용한 온라인 소통과 관계 형성에 상대적으로 익숙하기 때문”이라며 “최근 딥페이크 기술이 발전하고, 생성형 인공지능(AI)이 등장함에 따라 손쉽게 불법 영상물을 제작할 수 있는 기술이 보급되면서 관련 피해도 증가하고 있다”고 분석했다. 실제로 최근 들어 딥페이크로 인한 피해가 전국 곳곳의 학교에서 급격하게 확산하면서 교육 당국과 각 지역 교육청이 강력 대응에 나섰다. 무단으로 도용된 본인의 사진이 성적 수치심을 유발할 수 있는 형태로 합성돼 유포됐다면 디성센터로 피해 상담을 접수할 수 있다. 디성센터 관계자는 “저연령대 피해자에 대한 지원을 강화하고, 국내외 관련 기관·기업과 공조를 통해 삭제 대응에 최선을 다하겠다”고 밝혔다.
교육부는 최근 전국 17개 시·도 교육청에 ‘디지털 성범죄 대응 및 예방을 위한 교육 안내 협조 요청’ 공문을 보내 학생들이 사이버 공간에서 개인정보를 노출하지 않고, 타인의 정보를 전송하지 않도록 예방 교육을 실시해 달라고 주문했다. 교육부는 “최근 불법으로 사진을 합성하는 일명 ‘딥페이크’ 사진 성범죄물이 사이버 공간의 단체 대화방에서 공유되는 사례가 있다”며 “디지털 성범죄가 발생할 경우 즉시 신고기관에 도움을 요청해 피해 확산과 2차 피해를 예방할 수 있도록 해달라”고 덧붙였다.
대전시교육청에 따르면 이날 오후 1시 30분께 대전지역 여고생 A양이 딥페이크 영상물에 본인의 얼굴이 합성돼서 유포되고 있다고 시 교육청과 대전중부경찰서에 각각 신고했다. 이는 대전지역 첫 신고 건으로 알려졌다. 경찰은 신고 건을 대전경찰청 사이버범죄수사대로 이첩해 본격적인 수사를 진행하고 적발 시 엄정하게 대응할 방침이다.
현행법상 딥페이크 성착취의 피해자가 19세 미만 아동·청소년이면 아동·청소년성보호법 제11조(아동·청소년성착취물의 제작·배포 등)가 적용돼 문제 영상을 소지·시청하면 1년 이상의 징역, 제작·배포할 경우 최소 징역 3년에서 최대 무기징역까지 선고된다.
교육당국은 당사자가 피해 사실을 제대로 인지하지 못한 경우도 많아 실제 피해 규모는 더 클 것으로 보고 있다.
일선 교육청과 학교는 학생들에게 개인정보 유출 주의를 당부하고 관련 교육도 강화할 계획이다. 경남도교육청은 이날 딥페이크 범죄를 강력하게 근절하겠다는 대책을 발표하고, 초·중·고교 등 도내 전 학교를 대상으로 디지털 성폭력을 엄정 대처하겠다는 공문을 발송했다. 서울시도 서울중앙지검, 서울경찰청, 서울시교육청과 손잡고 딥페이크(허위영상물) 성범죄 예방과 대응을 위한 ‘원스톱 지원’에 나선다. 기관별 ‘칸막이’를 넘어 예방 교육부터 피해 영상물의 신속한 삭제와 차단, 피해자의 일상회복까지 통합 지원체계를 구축하는 것이다. 시는 지난 9월 10일 시청에서 3개 기관과 이런 내용을 뼈대로 하는 ‘아동·청소년 딥페이크 공동 대응을 위한 업무협약’을 체결했다. 딥페이크 가해자와 피해자 상당수가 10대인 만큼 4자 공동협력 체계를 구성해 통합 지원한다.
방심위, 텔레그램 딥페이크 피해 신고 전용 배너 개설
尹 “딥페이크 범죄...뿌리 뽑아 달라" 당부
당정, ‘딥페이크 성범죄’ 방지대책 협의
윤석열 대통령은 8월 27일 ‘딥페이크’를 활용한 디지털 성범죄에 대해 강력히 대응하라고 지시했으며 여야 대표들도 대책 마련에 나섰다. 윤 대통령은 이날 국무회의에서 “최근 불특정 다수를 대상으로 하는 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있으며, 피해자가 미성년인 경우가 많고 가해자 역시 대부분 10대로 드러나고 있다”고 지적했다. 그러면서 “딥페이크 영상물은 ‘단순 장난’이라고 둘러대기도 하지만 익명의 보호막에 기대 기술을 악용하는 명백한 범죄 행위이며, 우리 누구나 이러한 디지털 성범죄의 피해자가 될 수 있다”고 강조했다. 이어 “관계 당국은 철저한 실태 파악과 수사를 통해 이러한 디지털 성범죄를 뿌리뽑아달라”고 당부했다.
이에 정부와 국민의힘은 8월 29일 협의회를 열어 사회 문제로 대두된 딥페이크(특정인 얼굴 등을 영상에 합성) 디지털 성범죄 방지 대책 및 피해 지원 방안을 논의했다. 협의회에는 한동훈 대표와 추경호 원내대표, 김상훈 정책위의장 등 지도부를 비롯해 유관 국회 상임위인 여성가족·과학기술정보방송통신·행정안전·법제사법위원회 소속 의원들이 참석했다. 정부에서는 경찰청과 여성가족부 등 유관 부처 관계자들이 참석했다. 한 대표는 이날 페이스북에서 딥페이크 성범죄 대책을 촉구하는 한 고등학생 편지를 공유하며 “AI를 악용하는 것도 사람이지만, 이를 예방하고 제한할 수 있는 것도 사람”이라며 “법과 제도 안에서 악용은 막을 수 있다”고 밝혔다. 한 대표는 “‘N번방 방지법’이 21대 국회에서 통과 됐지만 AI의 부작용을 막기 위한 제도, 정책의 미비는 신속히 보완돼야 한다”며 “디지털 성범죄 근절 대책을 마련하는 데 국민의힘이 앞장서겠다”고 덧붙였다.
딥페이크의 문제성이 심각한 만큼 여러 곳에서 해당 사안을 주제로 논의가 이뤄지고 있다. 국회 여성가족위원회 소속 여야 의원들은 지난 9월 4일 ‘딥페이크 성범죄 관련 현안 질의’에서 한목소리로 범정부 차원의 엄정 대응을 촉구했다. 국민의힘 서범수 의원은 “가해 학생들이 ‘내가 잘못하면 처벌받을 수 있겠구나’라는 어떤 위화감이 있어야 한다”며 “흐지부지하지 말고 딥페이크 성범죄를 척결하자는 의지로 특단의 조치를 해달라”고 주문했다. 더불어민주당 서영교 의원은 “피해자들이 경찰에서 ‘(텔레그램) 서버가 해외에 있어서 어떻게 할 수 없다’는 말을 들으면 목숨 끊는 것밖에 방법이 없다고 생각하지 않겠나”라며 “안일하게 볼 것 없다. 10대라도 못된 짓을 하면 처벌받아야 한다”라고 단호한 단속과 처벌을 촉구하면서 피해자 보호, 2차 가해 방지에 힘써달라는 당부도 이어졌다.
국회 과학기술정보방송통신위원회는 다음날인 9월 5일 오후 전체회의실에서 ‘딥페이크 성범죄영상물, 어떻게 근절할 것인가’를 주제로 긴급 정책토론회를 진행했다. 이번 토론회는 과방위 소속 여야 의원들이 공동으로 주최했다. 김명주 서울여대 정보보호학부 교수가 ‘생성형 인공지능(AI)의 양면성과 안전 규제의 필요성’을 주제로, 이소은 국립부경대 미디어커뮤니케이션학부 교수가 ‘딥페이크 성범죄영상물 현황 및 대응 전략’을 주제로 각각 발제했다. 최진응 국회입법조사처 과학방송·통신팀 입법조사관, 허욱 메타코리아 부사장, 신영규 방송통신위원회 방송통신이용자정책국 국장, 이동수 방송통신심의위원회 디지털성범죄심의국 국장, 이경화 학부모정보감시단 이사장이 토론자로 나섰다.
텔레그램 단체대화방 딥페이크 관련 대화.독자 제공 ©연합뉴스
인류에 닥칠 재앙에 비하면 ‘딥페이크’는 빙산의 일각
인공지능과의 공존, AI가 인류를 쫓고 있지는 않은지...
이처럼 사회적으로 큰 문제가 되고 있는 딥페이크는 주로 허위 정보를 퍼뜨리거나 개인의 사생활을 침해하는 데 사용될 수 있다. 선거에서 가짜뉴스 생산에 악용될 경우 그 파장은 실로 엄청나다. 실제로 딥페이크로 제작된 가짜뉴스로 인해 큰 혼선이 오는 경우도 있다. 그렇다고 딥페이크 기술이 무작정 나쁜 것만은 아니다. 올바른 용도로 활용될 경우 우리의 삶에 미치는 긍정적 효과는 상상 그 이상이다.
간단한 예로 영화나 광고, 게임 산업 등에서 보다 창의적인 콘텐츠 제작이 가능하며 그 적용 범위는 무한대에 가깝다. 고인이 된 유명 가수를 무대 위에 세운다거나 영화에 다시 출연시키는 것 역시 충분히 가능하다. 이는 해당 기술이 개발되기 전 상상도 할 수 없었던 일이었으니 딥페이크로 인해 다시 탄생한 유명인들의 모습은 실제 생존 당시의 모습과 차이점을 느끼지 못할 정도의 정교함이 혀를 내두를 정도다.
이러한 첨단기술이 악용된다면 딥페이크로 제작된 인물인지 아닌지의 진위 여부를 가려내기란 여간 힘든 일이 아니다. 이러한 딥페이크의 피해를 방지하기 위해서 일단 선제적 방어가 중요하다. 우선 개인정보 보호의 중요성을 인식해 각종 소셜미디어에 개인 사진을 과도하게 게시하는 것을 자제해야만 한다. 그렇지 않을 경우 누구라도 범죄의 표적이 될 수 있기 때문이다.
다음으로 딥페이크 감지 소프트웨어를 사용하는 것도 좋은 방법 중 하나다. 이러한 소프트웨어는 딥페이크 영상을 자동으로 분석해 진위여부를 가려주기 때문에 정부가 적극 개입해 해당 소프트웨어가 널리 사용될 수 있도록 홍보 및 권장을 해야 할 것으로 보인다. 만약 딥페이크로 인한 피해를 입었다면 법적인 대처 방법도 숙지해 놓으면 좋다.
우선 성인을 대상으로 한 딥페이크 성범죄의 법적 처벌 수위는 다음과 같다. 성폭력 처벌법 제14조의2에 따르면 딥페이크를 기술을 이용해 허위 영상물이나 합성 영상물을 제작하거나 이를 배포하는 행위를 엄격히 금지하고 있으며, 이를 위반한 경우 5년 이하의 징역 또는 3천만 원 이하의 벌금형에 처할 수 있다고 명시되어 있다. 딥페이크 음란물을 이용해 피해자를 협박하는 경우는 성폭력 처벌법 제14조의3에 따라 1년 이상의 유기징역에 처할 수 있으며, 이 법은 실제 협박이 이뤄지지 않았더라도 협박미수의 경우에도 동일한 처벌을 적용한다.
아울러 딥페이크 영상물을 SNS나 기타 인터넷 플랫폼에 유포하는 경우, 정보통신망법에 따라 추가적인 처벌이 가능하다. 해당 법은 음란물의 온라인 유포를 금지하고 있으며, 이를 위반할 경우 최대 7년 이하의 징역 또는 5천만 원 이하의 벌금형에 처할 수 있다. 한 가지 더 주의해야 할 점은 유포된 영상이 다수에게 노출될 경우, 범죄의 심각성이 높다 판단되어 가장 처벌을 받을 수 있다는 것이다.
다음으로 미성년자를 대상으로 한 딥페이크 성범죄의 법적 처벌 수위다. 미성년자를 대상으로 한 딥페이크 음란물의 제작 및 유포는 아동청소년의 성보호에 관한 법률(아청법)에 의해 엄격히 금지되어 있다. 미성년자를 대상으로 한 성적 콘텐츠를 제작 및 배포, 판매하는 행위는 매우 중대한 범죄로 간주되어 최소 5년 이상의 징역형에 처해질 수 있으며, 일반 성인을 대상으로 한 딥페이크 범죄보다 훨씬 엄격한 처벌을 규정하고 있다.
또한 딥페이크로 제작된 아동 청소년 음란물을 소지하거나 시청하는 행위 또한 아청법 제11조에 따라 처벌된다. 이 경우 1년 이상의 징역형에 처할 수 있으며, 딥페이크 영상이 실제 미성년자를 직접적으로 촬영한 것이 아니라 하더라도 아청법에 따라 법적 처벌은 동일하게 적용된다. 딥페이크 성범죄 피해자는 한국여성인권진흥원, 한국사이버성폭력대응센터, 법률사무소에서의 법률상담 등을 통해 피해를 최소화시킬 수 있다. 마지막으로 딥페이크로 의심되는 상황을 목격한다면 또 다른 피해자가 발생하지 않도록 지체 없이 경찰에 신고해야만 한다.
평화나비네트워크, 딥페이크 성범죄대응 긴급 대학생 기자회견
딥페이크는 상대의 허락 없이 개인 영상에 올리는 것은 명백한 불법행위다. 인공지능 기술의 발전이 가져온 딥페이크는 앞으로도 그 사용 목적에 따라 엄청난 부가가치를 창출할 수 있는 혁신 그 자체이지만, 그만큼 커다란 부작용을 낳을 수도 있다는 것을 명심해야만 한다.
인공지능(AI)은 이미 수십 년 전부터 뜨거운 주제였으며 최근 몇 년 동안 그 발전 속도가 가히 눈부실 만큼 빨라졌다. 그렇게 날이 갈수록 발전하는 AI의 발전 속도는 매우 인상적이다. 방대한 양의 데이터와 가용성, 더 빨리진 처리 능력과 더불어 더욱 정교해진 알고리즘 등 여러 요인으로 인한 기술의 혁신은 우리 삶의 모든 것을 바꿔놓고 있다.
그 혁신과 변화의 결정체라고도 할 수 있는 챗GPT의 등장은 말 그대로 혁명 위의 혁명이라고도 불리고 있다. 이는 인류 기술혁신의 한계가 어디까지인지를 되묻게 하는 부분이다. 우리는 이번 딥페이크 사태와 관련해 시야를 넓혀 인공지능이란 혁신적 기술 자체를 심도 있게 들여다봐야 한다. 이제 인공지능은 앞으로 인류와 공존해야만 하는, 떼어낼 수 없는 존재가 되어 버렸다. 그렇다면 과연 기술혁신이 낳은 AI는 축복일까? 아님 위협일까? 이러한 질문이 만들어지는 과정 자체도 인간이 만들었으며, 그 대답 역시 인간이 얼마든지 뒤바꿀 수도 있다.
어쩌면 지금처럼 인공지능이 딥페이크라는 기술로 악용되는 사례는 앞으로 우리의 삶에서 벌어질 또 다른 위험한 상황들에 비하면 빙산의 일각일지도 모른다. 지금까지 인류는 앞만 보며 더 화려하고 더 높은 기술력을 쫓아 달려왔지만 AI가 인류를 쫓고 있지는 않은지 우리 모두가 진지하게 고민해 보고 대응책을 마련해야 할 것이다. AI로 인한 재앙에 맞닥뜨려야만 상황의 심각성을 인지하고 부랴부랴 대응책에 대해 고심하는 바보 같은 행동을 반복하지 말자는 것이다.
어쨌든 현재 발등의 불이 된 딥페이크 기술의 기술 악용을 방지하기 위해서는 기존 법률의 개정 및 강화가 반드시 필요해 보인다. 기술의 발전 속도가 매우 빠른 만큼 그에 관련한 법률도 발맞춰 빠르게 변화해야 한다는 것이다. 이와 더불어 피해자 보호를 위한 법적 조치도 마련해야 한다. 딥페이크 성범죄를 예방하기 위한 교육 및 인식 제고도 중요하다. 딥페이크 성범죄에 대한 사회적 인식이 높아질수록 당연히 범죄 예방 효과도 증가할 것이다.
창미디어그룹 시사의창
저작권자 ⓒ 시사의창, 무단 전재 및 재배포 금지