보라빛 소를 만나기 위한 도약

소셜 미디어의 사회적 책임 부담을 인정한 페이스북과 저커버그.pdf

[ 요 약 ]

[ 본 문 ]

◾ 페이스북은 연례 개발자 컨퍼런스인 ‘Facebook F8'에서 최근 자사에 쏟아지는 사회적 질타에 대한 대응으로 가짜뉴스 대책 및 새로운 개인정보보호 방안을 발표하였음

▸ 마크 저커버그는 2016년 미국 대통령 선거에서 페이스북의 대응이 불충분하여 러시아에 의해 가짜뉴스가 확산하고 이것이 선거 결과에 크게 영향을 미쳤다는 점을 인정하였음

▸ 그리고 향후 재발방지를 위해 페이스북의 선거 악용 대책, 가짜뉴스 대책, 개인정보보호 대책 등 플랫폼의 보안성을 강화하기 위한 기본 지침을 발표하였음

▸ 페이스북이 이번에 발표한 대책은 인공지능(AI)과 기계학습 및 컴퓨터 비전 등 기술을 이용해 가짜뉴스가 확산되는 것을 사전에 차단하겠다는 것과 이용자가 페이스북에 저장되어 있는 자신의 데이터를 삭제할 수 있도록 한다는 것이 골자임

▸ 강력한 정보 유통 파워를 보유하고 있는 포털 및 SNS 플랫폼이 선거 및 정치적 여론 형성에 직간접적으로 영향을 미치는 현상은 미국뿐 아니라 전세계적으로 심각한 사회 문제로 대두되고 있음

▸ 페이스북의 이번 발표는 플랫폼 사업자가 자신들의 실책으로 선거 결과에 영향을 미치게 되었음을 공식 인정했다는 점에서 주목할 만하며, 미국 및 전세계의 여타 플랫폼 사업자들의 향후 대응 마련에도 준거점이 될 것으로 보임

▸ 그러나 저커버그가 ‘사용자 보호를 위해 더 많은 일을 해야 하지만, 서비스 개발도 계속해야 한다’고 말하며 사용자 개인정보를 활용한 새로운 데이팅 서비스도 발표하였기 때문에, 대책의 진정성을 의심하며 탐욕을 비난하는 목소리도 높아지고 있음

<자료> Akron Beacon Journal

[그림 1] 2018 페이스북 F8의 핵심 테마

◾ 페이스북이 발표한 데이터 프라이버시 보호 방안의 핵심은 사용자가 자신의 데이터를 삭제할 수 있도록 하는 ‘클리어 히스토리(Clear History)' 정책임

▸ 페이스북은 현재 ‘좋아요’ 버튼이 게재된 웹사이트나 ‘페이스북 픽셀(Facebook Pixel)’이라 부르는 소프트웨어 모듈을 포함하는 스마트폰 앱에서 페이스북 사용자의 행동 이력을 수집하고, 이 데이터를 활용한 ‘타깃 광고’를 광고주에게 제공하고 있음

▸ 지난 4월 10~11일에 개최된 미 의회의 페이스북 청문회에서는 행동 이력 정보가 사용자의 개인정보임에도 불구하고 사용자가 그 내용을 확인하거나 삭제할 수 없다는 점이 문제로 지적된 바 있음

▸ 당시 민주당의 제리 맥너니 하원의원은 페이스북이 제공하는 사용자 데이터의 일괄 다운로드 기능에 대해 정작 사용자 본인은 웹페이지 열람 이력을 다운로드 할 수 없다고 지적하였음

▸ 페이스북이 추적하고 있는 사용자의 웹페이지 열람 이력의 소유권이 사용자에게 없다는 사실을 문제 삼은 것인데, 이번에 발표된 ‘클리어 히스토리’ 정책은 상황을 이런 지적에 대응하기 위한 것으로 볼 수 있음

▸ 클리어 히스토리 정책에 따라 앞으로 페이스북 사용자들은 웹사이트 방문 기록과 앱 사용 내역을 삭제할 수 있게 되는데, 페이스북으로서는 타게팅 광고에 이용할 수 있는 데이터가 줄어드는 것을 감수하며 개인정보보호를 우선시하는 모습을 보인 것임

◾ 그러나 페이스북의 이 정책에 냉소적 반응도 적지 않은데, 저커버그가 사용자의 개인정보를 보다 탐욕스럽게 활용하는 새로운 데이팅 서비스 출시 계획을 함께 발표했기 때문

▸ 저커버그는 새로운 데이팅 서비스를 2018년 내에 내놓겠다고 발표했는데, 이를 위해 참여 이벤트와 관심사의 공통성 등을 바탕으로 만남을 희망하는 사용자끼리 만날 수 있게 소개해 주는 알고리즘을 현재 개발 중이라고 함

▸ 사용자들이 이 새로운 데이트 서비스 이용을 시작하면 기존 페이스북 프로필과 별도로 ‘만남’을 위한 프로필을 작성하게 되는데, 페이스북은 데이트 서비스에 참여하는 사용자들에게만 이 프로필을 공개할 수 있게 한다는 방침임

<자료> CNBC

[그림 2] 페이스북의 새로운 데이팅 앱

▸ 일각에서는 개인정보보호를 강화하겠다는 정책을 발표하는 자리에서 더 많은 정보를 담게 될 새로운 개인 프로필 작성을 유도하는 서비스를 굳이 공개할 필요가 있었느냐고 비난하며 개인정보보호에 대한 페이스북의 진정성을 의심하고 있음

◾ 가짜뉴스 유포 및 선거 악용 방지를 위한 대책의 핵심은 AI와 기계학습, 컴퓨터 비전 등의 기술을 활용해 가짜뉴스 유포 계정을 조기에 삭제해 확산을 최소화한다는 것임

▸ 페이스북에 따르면 AI를 활용한 대책은 이미 시행되고 있으며, 프랑스 대통령 선거, 독일 연방 의회 선거, 미국 앨라배마주 상원 보선에서 AI 도구를 사용해 수십 만 개의 가짜 계정(Fake Account)을 제거했다고 함

▸ 또한 지난 미국 대선 과정의 추적 조사를 통해 부정 계정을 더듬어 가면서 러시아가 관여한 것으로 밝혀지면 이 계정들을 폐쇄했다고 발표하였음

▸ 올해 미국에서는 중간 선거가 있고, 그 밖에 멕시코, 브라질, 인도, 파키스탄 등에서 중요한 선거가 예정되어 있는데, 저커버그는 이번 F8에서 이들 선거 과정에 페이스북이 악용되지 않기 위해 만전의 조치를 다할 것임을 선언하였음

◾ 페이스북은 저커버그의 기조연설에 이어 부적절한 게시물을 삭제하기 위한 구체적 대책을 발표했는데, 이를 위해 ‘갠(GAN)’이라는 AI 기술을 개발하고 있다고 함

▸ 부적절한 콘텐츠는 범위가 넓기 때문에 이를 감지하는 기법도 다른데, 부적절한 콘텐츠의 대표 격이라 할 수 있는 누드 사진이나 폭력적 장면은 컴퓨터 비전(Computer Vision) 기술을 이용해 감지한다고 함

▸ 또한 AI 기술의 진화에 의해 컴퓨터 비전의 성능이 향상되면서 부적절한 콘텐츠들을 높은 정밀도로 판정해 낼 수 있어 시스템이 거의 전자동으로 제거하지만, 판정이 어려운 경우에 대해서는 전임 직원이 대응하고 있음

▸ 한편 AI를 이용한 콘텐츠 판정에서 가장 난이도가 높은 것이 증오 발언의 감지인데, 증오 발언이란 인종이나 종교 또는 성적 취향 등에 대해 비방하는 행위를 의미함

▸ 폭력적 차별 발언은 종종 메신저를 통해 이루어지기 때문에 AI는 텍스트의 내용을 이해할 필요가 있는데, 기사의 내용이 상대를 비방하고 있는지 아니면 다른 것을 의도하고 있는지, 그 컨텍스트에 대한 이해가 필수적임

▸ 예를 들어, “I 'm going to beat you!”라는 메시지를 받을 경우 이것이 자신을 비방하고 있는지 여부의 판단은 전적으로 문맥에 따라야 함

▸ “너를 두들겨 패주겠어”라는 의미로 해석된다면 위협을 가하는 것이지만, “너를 이겨주겠어”라는 뜻으로 사용했다면 서로 이기기 위해 분발하자는 긍정적 의미를 담고 있기 때문임(그림 3에서“Look at that pig!"와 같은 말도 마찬가지임)

<자료> Facebook

[그림 3] 차별 발언 감지에 필요한 컨텍스트 이해

▸ 이런 경우는 사람도 쉽게 판단하기 어렵기 때문에 AI에게는 가장 어려운 분야로 지금의 기술로는 올바른 판정을 할 수 없는데, 따라서 기술 개선을 위해서는 알고리즘을 교육하기 위해 증오 연설의 사례를 모으는 것이 매우 중요한 과제가 되고 있음

▸ 따라서 페이스북은 한 AI가 증오 연설을 자동으로 생성하면 다른 AI가 증오 연설 여부를 감지하게 하는 소위 ‘생성적 대립쌍 신경망(Generative Adversarial Network, GAN)' 개발을 목표로 하고 있다고 함

▸ ‘갠(GAN)'은 두 개의 신경망을 두고 가령 한쪽에는 위조지폐범의 역할을, 다른 한쪽에는 감식반의 역할을 부여해, 상호 경쟁하는 과정에서 신경망을 고도화하는 기술임

◾ 미국 대선에서 문제가 된 가짜뉴스에 대해서는 중점 대응 과제로 보고 대책을 마련 중인데, AI로 직접 감지는 어려우므로 부정 계정 폐쇄에 초점을 두고 있다고 함

▸ 현재 AI가 가짜뉴스를 직접 감지하는 기술은 확립되어 있지 않기 때문에 가짜뉴스를 유포하는 부정 계정을 찾아내 폐쇄함으로써 정보 확산을 방지하겠다는 것임

▸ 부정 계정은 가짜뉴스뿐 아니라 스팸이나 악성 광고를 발신하는 목적으로도 사용되고 있고 사기 피해가 잇따르고 있기 때문에 페이스북은 적극적 대책을 추진하고 있음

<자료> Facebook

[그림 4] 가짜뉴스 대응방안을 발표하는 저커버그

▸ 부정 계정은 특이한 작동을 보이므로 우선 AI로 이 패턴을 감지하는데, 가령 스팸을 전송하는 악성 계정은 기사를 높은 빈도로 반복 게시하는 등 특이한 모습을 보이기 때문에 여, 이런 신호를 기계학습 기법으로 감지하게 됨

▸ 소셜 미디어는 또한 과격파 조직의 광고탑으로 사용되어 심각한 사회 문제가 되고 있기도 한데, 페이스북은 AI를 도입해 IS(이슬람 국가)나 알카에다 등을 선전하는 콘텐츠와 계정을 확인하고 이를 제거하고 있음

▸ AI는 이미 삭제한 사진이나 비디오와 비교하는 방식을 통해 과격파 조직이 게시하는 콘텐츠를 감지하며, 텍스트도 마찬가지로 이미 삭제된 텍스트를 학습하여 문자 기반의 신호를 파악함으로써 테러를 조장하는 텍스트를 이해한다고 함

▸ AI가 테러 관련 내용을 감지하는 동시에 전담 직원이나 전문가도 수동으로 이러한 작업을 실행하는데, 페이스북에 따르면 2018년 1분기에만 IS와 알카에다 관련 콘텐츠 190 만 건을 삭제하는 등 소기의 성과를 거두고 있음

◾ 페이스북은 AI 등 최신 기술과 전담 대응팀 운영 등 최선을 다하고 있지만, 자신들의 노력만으로 모든 문제 해결은 불가능하다며 이용자들의 협조도 적극 당부하고 있음

▸ 페이스북이 AI, 기계학습, 컴퓨터 비전 기술 등을 사용하고 있지만 가짜뉴스와 부적절 콘텐츠를 완벽히 차단할 수 있는 것은 아니기 때문에, 이용자들의 피드백이 대응 방안이 성공을 거두는 데 관건이 될 것으로 보고 있음

▸ 페이스북은 부적절한 콘텐츠가 발견된다면 신고해 줄 것을 이용자들에게 호소하고 있으며, 동시에 페이스북 내에 전담 직원을 2만 명으로 증원하고 수동으로 부적절한 콘텐츠의 적발하려는 노력을 더욱 강화한다는 방침임

◾ 플랫폼들은 그동안 자신들이 얻는 이익에 비해 사회적 책임을 지지 않으려 한다는 비난을 받아 왔는데, 이번 페이스북의 대응 방안으로 변화가 생길지 관심이 모이고 있음

▸ 지난 미국 대선에서도 저커버그는 오바마 행정부로부터 페이스북을 이용한 정보 조작이 이루어지고 있다는 경고를 받았지만 그 대책은 강구하지 않았음

▸ 그러면서 근거로 든 것은 페이스북은 뉴스 전달 기업이 아니라 ‘게시판’이기 때문에 자의적으로 특정 기사를 삭제하는 것은 타당하지 않다는 자체 법률 해석이었음

▸ 페이스북의 이러한 대응에 대해서는 사람들의 뉴스 소비 패턴이 SNS 중심으로 이루어지고 있는 현실을 정작 SNS 플랫폼 스스로가 부정하는 꼴이라며, 사회적 책임을 외면하는 것이라거나 저커버그가 방조를 통해 트럼프를 돕는 것이라는 비판이 있어 왔음

▸ 페이스북의 입장에 변화를 가져온 것은 케임브리지 애널리티카에 의해 8,300만 명 이상의 개인정보가 유출된 사건으로, 이용자들의 정치적 성향을 분석한 후 가짜뉴스가 통할만 한, 멘탈이 약한 사람들을 골라 가짜뉴스를 적극 유포했다는 사실이 드러났기 때문임

▸ 페이스북의 시스템 특성을 이용해 가짜뉴스를 통한 정치 운동을 한 것이 드러난 집단이 발각된 상황에서, 자신들은 게시판일 뿐이라며 아무런 정책을 취하지 않는다는 입장을 고수하기는 어려워진 것임

<자료> Daniel Bradley

[그림 5] 소셜 미디어들의 사회적 책임(CSR)

▸ 페이스북의 이번 발표는 스스로 정체성을 무엇으로 규정하든지와 상관없이 잘못된 기사는 게재하지 않도록 감시하는 것이 플랫폼의 책임이라는 지침을 세운 것이며, 계속해서 여론이 조작되는 것을 방지하겠다고 약속한 것이라는 점에서 의의가 있음

▸ 플랫폼들은 비즈니스를 위해서는 자신들의 영향력을 극대화하기 위해 골몰하지만, 사회적 책임을 떠안고 규제를 따라야 하는 상황에서는 자신들의 영향력을 부정하는 경향이 있었는데, 이런 이중적 태도가 불식될 수 있을 것인지에 대해 관심이 모이고 있음