지난 3월 뉴질랜드에서 벌어진 대량 살상의 폭력 사건이 일어난 이후 호주 정부는 소셜 미디어에서 폭력적인 콘텐트 확산에 빠르게 대처하지 못한 기업을 크게 제재하는 법안을 마련했다. 해당 기업 임원을 최대 3년 형을 살게 하거나 전체 매출의 10%를 벌금을 물게 할 수 있는 강력한 법안이다. ‘혐오적 폭력 자료 공유’ 법으로 부르는 이 법에서 지목하는 영상은 테러리스트 활동, 살인, 살인 시도, 고문, 강간 그리고 유괴 등이 대상이다.
이 법은 4월 호주 의회를 통과했다. 거대 기술 기업은 이 법안이 폭력적인 콘텐트를 제거하지 못한 기업의 누구라도 범죄자로 만들 수 있다는 이유로 크게 반발했다. 특히 구글, 페이스북, 트위터, 아마존, 버라이즌 미디어를 대변하는 호주 디지털 산업 그룹은 이 법안이 충분한 검토 없이 통과되었고, 사용자들이 만든 콘텐트로 인해 기술 기업이 벌금을 내야 하는 문제가 있다고 지적했다.
호주 정부가 이런 강력한 조치를 취하게 된 것은 당시 살해 장면이 페이스북 라이브를 통해 생중계되었으며, 그 영상이 다양한 채널을 통해 확산되었음에도, 유튜브, 페이스북, 트위터에서 이를 막기 위한 책임 있는 자세를 보이지 않았기 때문이다.
유럽 연합 역시 이러한 강력한 제재 조치에 나서고 있는데, 특히 주목하는 영역은 혐오 발언이다. 2016년에 유럽 집행위가 페이스북, 트위터, 유튜브, 마이크로소프트와 합의한 ‘행동 지침’에 따르면, ‘불법적인 혐오 발언’은 다음과 같이 정의하고 있다.

“인종, 피부색, 종교, 국적이나 민족을 기준으로 그룹 또는 특정인에 대한 폭력과 혐오를 유도하는 대중 선동”

독일 의회는 2017년 독일 법을 위반하는 혐오 발언 포스팅을 24시간 안에 제거하지 않는 기업에는 최대 5천만 유로를 벌금으로 부과할 수 있는 법 (NetzDG, 네트워크 강제 법)을 통과시켰다. 2018년 1월 1일부터 시행한 이 법에서, 벌금 대상은 200만 명 이상이 사용하는 소셜 미디어이지만, 왓츠앱과 같은 개인 메신저 서비스는 제외했다.
유럽 집행위 디지털 싱글 마켓의 부위원장을 하는 앤드러스 앤십에 따르면 이러한 규율에 따라, 이제 기업들이 문제가 있다고 판단된 콘텐트 89%를 24시간 안에 삭제하고 있으며 이는 2016년에 비해 두 배 정도 개선된 결과라고 평가한다. 이는 4개 미디어 기업과 합의한 ‘행동 지침’에 의해 그 효과가 나타나고 있다고 판단한다.

그림 1 유럽 집행위의 행동 지침이 도입된 이후 각 소셜 미디어의 유해 콘텐트 확인 비율 변화

그러나 일부 시민 단체나 언론 자유 주창자들은 ‘불법적인 혐오 발언의 정의가 모호하고 이를 민간 기업의 판단에 의해 수행하겠다는 것의 문제점을 계속 지적하고 있다. 더군다나 페이스북이 홀로코스트를 부정하는 콘텐트를 삭제하지 않겠다고 나오고 있어서 논란의 여지가 남아 있다. 페이스북은 반 유대주의는 커뮤니티 표준을 위배한 것으로 보지만 홀로코스트 부정은 심각하게 공격적이라고 보고 있지 않기 때문이다.
영국에서는 정부 주도로 연구 발행한 ‘온라인 유해 백서 (Online harm white paper)’가 공개되면서 논란이 커지고 있다. 2017년 자살한 몰리 러셀 사건과 뉴질랜드 크라이스트처치 총기 난사 사건이 이런 조사를 하게 된 계기이다. 이 백서에서는 정부가 테러리스트 활동이나 아동 성적 착취와 같은 특정한 이슈에 대해 직접적인 규제를 가할 수 있으며, 소셜 미디어 기업의 연간 투명성 보고서에서 유해 콘텐트가 얼마나 퍼졌고 그에 대해 어떤 조치를 취하고 있는 가를 공개해야 하며, 경찰과 다른 법 집행 기관이 폭력 선동이나 불법적인 무기 판매와 같은 불법적 유해물에 대해 협력해야 한다는 권고안을 담고 있다.
특히 이를 통해 새로운 법안을 준비하는데, 여기에는 불법적이지 않지만 유해한 행동을 방지하도록 노력해야 하는 기업의 책임을 언급하면서 이런 관리 의무를 다하지 않은 기업에 대해서 벌금을 부과하거나 고위 임원에 대해 사법 조치를 취하거나 사이트 전체를 블록 할 수 있다는 내용이 담길 수 있다고 보고 있다.
프랑스 역시 2018년 11월에 새로운 법을 통과시켰는데, 이는 선거 캠페인 기간 중에 페이크 뉴스를 즉각 삭제하라고 판사가 명령할 수 있는 권한을 주는 법으로, 서유럽에서 잘못된 정보를 추방하기 위한 첫 번째 공식적인 시도로 평가된다. 이를 통해 후보나 정당은 선거 3개월 전부터는 ‘허위 정보’를 중지해 달라고 판사에게 요청할 수 있게 되었다. 나아가서, 프랑스 방송 위원회는 해외 국가가 운영하거나 상당한 영향력을 텔레비전 채널에 대해서도 중단시킬 권한을 갖게 되었다. 위반한 사람은 일년 이하의 징역이나 75,000 유로의 벌금을 내야 한다.
스웨덴, 아일랜드, 체코 공화국 역시 가짜 뉴스를 억제하는 법률에 대해 관심을 보이거나 법 제정을 하고 있는 중이다. 인도는 페이크 뉴스를 퍼뜨리는 것으로 의심되는 저널리스트를 정직할 수 있는 법을 만들다 철회했고, 말레이시아는 페이크 뉴스를 퍼뜨리는 자는 전통적인 뉴스 기관, 디지털 출판사, 소셜 미디어를 망라해 6년 이하 징역이나 88,000 파운드의 벌금을 부과할 수 있는 법을 통과시켰다. 태국, 싱가폴, 필리핀 역시 법률을 만들거나 보고서를 준비 중이다.
각 나라는 ‘가짜 뉴스’라고 부르는 허위 정보나 조작된 콘텐트가 선거 등에 개입해 민주주의에 큰 위협이 될 수 있다는 우려로 이에 대한 대응책 마련에 보다 더 신경을 쓰고 있다. 그러나, 조작된 콘텐츠가 어디까지 삭제 대상이고 어디 까지가 표현의 자유인가에 대한 논란이 계속되고 있다.
‘국경 없는 기자회’는 ‘저널리즘 신뢰 이니셔티브’를 만들어 향후 엄격하고 신뢰할 수 있는 저널리즘을 위한 투명성, 신뢰 이슈에 대한 표준을 만들고 이를 통해 인증을 할 방안을 찾고 있다.
최근 미 하원 의장 낸시 펠로시의 발언 영상을 조작해 그녀가 마치 술이 취하거나 인지에 문제가 있는 것과 같은 영상이 퍼졌다. 심지어 트럼프가 이를 트윗 할 정도였다. 이 영상이 말을 더듬는 것처럼 조작된 것이 알려지자, 펠로시는 주요 소셜 미디어에 이의 삭제를 요청했고, 유튜브는 바로 삭제했으나, 페이스북은 이를 거부했다. 더군다나, 페이스북의 사실 검증을 하는 제 3 기관에 의해 ‘허위’로 확인되었으나 페이스북은 확산만 막으려고 노력할 뿐 이의 삭제를 하지 않았다.
이에 대한 반발로 두 명의 예술가와 이스라엘의 광고 스타트업인 캐니 AI (Canny AI)가 저커버그가 등장하는 조작 영상을 인스타그램에 올렸다. 그러나 이는 명확히 조작된 것임을 분명히 보여, 어떤 악의적인 것이 아니라 풍자의 성질이 강함을 알 수 있다.
이런 영상은 앞으로 다가오는 각종 중요한 선거에서 조작된 영상이 매우 중대한 변수가 될 수 있음을 보여주고 있다. 미 의회 정보 위원회는 소위 ‘딥페이크’라고 부르는 인공지능 활용 기술로 만드는 거짓 영상이 2020년 대통령 선거에 어떤 위협이 될 수 있는 가를 검토하기로 했다.
이미 정치인을 내세운 영상이 얼마든지 조작될 수 있음을 보여준 여러 사례를 과거 KISA 리포트에서도 밝힌 바가 있다. 펠로시 영상은 딥페이크 수준의 기술도 아닌 아주 단순한 조작임에도 크게 문제가 된 것처럼, 더욱 더 정교하고 쉽게 판단할 수 없는 수준의 영상과 음성 조작 기술이 나타나고 있기 때문에 앞으로도 이 문제는 정치, 사회, 언론, 사법 기관 간의 중요한 이슈가 될 것이고, 선거를 앞두고 있는 국내 상황에서도 매우 민감한 이슈가 될 것이다.
각국의 상황이나 사회에서 용납하지 못하는 수준의 혐오 발언이나 폭력 유도, 허위 정보와 거짓 뉴스를 어느 기준으로 금지하거나 소셜 미디어에서 추방할 것인가 하는 문제는 앞으로 인터넷 전체의 신뢰 문제 차원에서 매우 중요하게 논의해야 하는 이슈이며, 건강한 민주주의를 위해서 기준과 합의를 이루어 내야 하는 과제이다.

참고자료

CNBC, “Australia plans tougher social media laws for companies which fail to thwart violent content quickly,” Mar 29, 2019

The Guardian, “Australia passes social media law penalizing platforms for violent content,” Apr 4, 2019

Deutsche Welle, “EU hails social media crackdown on hate speech,” Apr 2, 2019

Deutsche Welle, “Users #StandWithHateSpeech to debate EU agreement,” Jan 6, 2016

Vox, “The controversy over Mark Zuckerber’s comments on Holocaust denial, explained,” Jul 20, 2018

UK Government, “Online Harms White Paper,” Apr 8, 2019

The Guardian, “Internet crackdown raises fears for free speech in Britain,” Apr 8, 2019

Euronews, “France passes controversial ‘fake news’ law,” Nov 22, 2018

Reporters Without Borders, “RSF and its partners unveil the Journalism Trust Initiative to combat Disinformation,” Apr 3, 2018

New York Times, “Distorted Videos of Nancy Pelosi Spread on Facebook and Twitter, Helped by Trump,” May 24, 2019

New York Times, “A Fake Zuckerberg Video Challenges Facebook’s Rules,” June 11, 2019

CNN, “Congress to investigate deepfakes as doctored Pelosi video causes stir,” Jun 4, 2019

한상기, “인공지능의 악용, 딥페이크의 문제,” KISA Report, 2018년 8월