보라빛 소를 만나기 위한 도약

소셜 미디어의 사회적 책임 부담을 인정한 페이스북과 저커버그.pdf

[ 요 약 ]

[ 본 문 ]

◾ 페이스북은 연례 개발자 컨퍼런스인 ‘Facebook F8'에서 최근 자사에 쏟아지는 사회적 질타에 대한 대응으로 가짜뉴스 대책 및 새로운 개인정보보호 방안을 발표하였음

▸ 마크 저커버그는 2016년 미국 대통령 선거에서 페이스북의 대응이 불충분하여 러시아에 의해 가짜뉴스가 확산하고 이것이 선거 결과에 크게 영향을 미쳤다는 점을 인정하였음

▸ 그리고 향후 재발방지를 위해 페이스북의 선거 악용 대책, 가짜뉴스 대책, 개인정보보호 대책 등 플랫폼의 보안성을 강화하기 위한 기본 지침을 발표하였음

▸ 페이스북이 이번에 발표한 대책은 인공지능(AI)과 기계학습 및 컴퓨터 비전 등 기술을 이용해 가짜뉴스가 확산되는 것을 사전에 차단하겠다는 것과 이용자가 페이스북에 저장되어 있는 자신의 데이터를 삭제할 수 있도록 한다는 것이 골자임

▸ 강력한 정보 유통 파워를 보유하고 있는 포털 및 SNS 플랫폼이 선거 및 정치적 여론 형성에 직간접적으로 영향을 미치는 현상은 미국뿐 아니라 전세계적으로 심각한 사회 문제로 대두되고 있음

▸ 페이스북의 이번 발표는 플랫폼 사업자가 자신들의 실책으로 선거 결과에 영향을 미치게 되었음을 공식 인정했다는 점에서 주목할 만하며, 미국 및 전세계의 여타 플랫폼 사업자들의 향후 대응 마련에도 준거점이 될 것으로 보임

▸ 그러나 저커버그가 ‘사용자 보호를 위해 더 많은 일을 해야 하지만, 서비스 개발도 계속해야 한다’고 말하며 사용자 개인정보를 활용한 새로운 데이팅 서비스도 발표하였기 때문에, 대책의 진정성을 의심하며 탐욕을 비난하는 목소리도 높아지고 있음

<자료> Akron Beacon Journal

[그림 1] 2018 페이스북 F8의 핵심 테마

◾ 페이스북이 발표한 데이터 프라이버시 보호 방안의 핵심은 사용자가 자신의 데이터를 삭제할 수 있도록 하는 ‘클리어 히스토리(Clear History)' 정책임

▸ 페이스북은 현재 ‘좋아요’ 버튼이 게재된 웹사이트나 ‘페이스북 픽셀(Facebook Pixel)’이라 부르는 소프트웨어 모듈을 포함하는 스마트폰 앱에서 페이스북 사용자의 행동 이력을 수집하고, 이 데이터를 활용한 ‘타깃 광고’를 광고주에게 제공하고 있음

▸ 지난 4월 10~11일에 개최된 미 의회의 페이스북 청문회에서는 행동 이력 정보가 사용자의 개인정보임에도 불구하고 사용자가 그 내용을 확인하거나 삭제할 수 없다는 점이 문제로 지적된 바 있음

▸ 당시 민주당의 제리 맥너니 하원의원은 페이스북이 제공하는 사용자 데이터의 일괄 다운로드 기능에 대해 정작 사용자 본인은 웹페이지 열람 이력을 다운로드 할 수 없다고 지적하였음

▸ 페이스북이 추적하고 있는 사용자의 웹페이지 열람 이력의 소유권이 사용자에게 없다는 사실을 문제 삼은 것인데, 이번에 발표된 ‘클리어 히스토리’ 정책은 상황을 이런 지적에 대응하기 위한 것으로 볼 수 있음

▸ 클리어 히스토리 정책에 따라 앞으로 페이스북 사용자들은 웹사이트 방문 기록과 앱 사용 내역을 삭제할 수 있게 되는데, 페이스북으로서는 타게팅 광고에 이용할 수 있는 데이터가 줄어드는 것을 감수하며 개인정보보호를 우선시하는 모습을 보인 것임

◾ 그러나 페이스북의 이 정책에 냉소적 반응도 적지 않은데, 저커버그가 사용자의 개인정보를 보다 탐욕스럽게 활용하는 새로운 데이팅 서비스 출시 계획을 함께 발표했기 때문

▸ 저커버그는 새로운 데이팅 서비스를 2018년 내에 내놓겠다고 발표했는데, 이를 위해 참여 이벤트와 관심사의 공통성 등을 바탕으로 만남을 희망하는 사용자끼리 만날 수 있게 소개해 주는 알고리즘을 현재 개발 중이라고 함

▸ 사용자들이 이 새로운 데이트 서비스 이용을 시작하면 기존 페이스북 프로필과 별도로 ‘만남’을 위한 프로필을 작성하게 되는데, 페이스북은 데이트 서비스에 참여하는 사용자들에게만 이 프로필을 공개할 수 있게 한다는 방침임

<자료> CNBC

[그림 2] 페이스북의 새로운 데이팅 앱

▸ 일각에서는 개인정보보호를 강화하겠다는 정책을 발표하는 자리에서 더 많은 정보를 담게 될 새로운 개인 프로필 작성을 유도하는 서비스를 굳이 공개할 필요가 있었느냐고 비난하며 개인정보보호에 대한 페이스북의 진정성을 의심하고 있음

◾ 가짜뉴스 유포 및 선거 악용 방지를 위한 대책의 핵심은 AI와 기계학습, 컴퓨터 비전 등의 기술을 활용해 가짜뉴스 유포 계정을 조기에 삭제해 확산을 최소화한다는 것임

▸ 페이스북에 따르면 AI를 활용한 대책은 이미 시행되고 있으며, 프랑스 대통령 선거, 독일 연방 의회 선거, 미국 앨라배마주 상원 보선에서 AI 도구를 사용해 수십 만 개의 가짜 계정(Fake Account)을 제거했다고 함

▸ 또한 지난 미국 대선 과정의 추적 조사를 통해 부정 계정을 더듬어 가면서 러시아가 관여한 것으로 밝혀지면 이 계정들을 폐쇄했다고 발표하였음

▸ 올해 미국에서는 중간 선거가 있고, 그 밖에 멕시코, 브라질, 인도, 파키스탄 등에서 중요한 선거가 예정되어 있는데, 저커버그는 이번 F8에서 이들 선거 과정에 페이스북이 악용되지 않기 위해 만전의 조치를 다할 것임을 선언하였음

◾ 페이스북은 저커버그의 기조연설에 이어 부적절한 게시물을 삭제하기 위한 구체적 대책을 발표했는데, 이를 위해 ‘갠(GAN)’이라는 AI 기술을 개발하고 있다고 함

▸ 부적절한 콘텐츠는 범위가 넓기 때문에 이를 감지하는 기법도 다른데, 부적절한 콘텐츠의 대표 격이라 할 수 있는 누드 사진이나 폭력적 장면은 컴퓨터 비전(Computer Vision) 기술을 이용해 감지한다고 함

▸ 또한 AI 기술의 진화에 의해 컴퓨터 비전의 성능이 향상되면서 부적절한 콘텐츠들을 높은 정밀도로 판정해 낼 수 있어 시스템이 거의 전자동으로 제거하지만, 판정이 어려운 경우에 대해서는 전임 직원이 대응하고 있음

▸ 한편 AI를 이용한 콘텐츠 판정에서 가장 난이도가 높은 것이 증오 발언의 감지인데, 증오 발언이란 인종이나 종교 또는 성적 취향 등에 대해 비방하는 행위를 의미함

▸ 폭력적 차별 발언은 종종 메신저를 통해 이루어지기 때문에 AI는 텍스트의 내용을 이해할 필요가 있는데, 기사의 내용이 상대를 비방하고 있는지 아니면 다른 것을 의도하고 있는지, 그 컨텍스트에 대한 이해가 필수적임

▸ 예를 들어, “I 'm going to beat you!”라는 메시지를 받을 경우 이것이 자신을 비방하고 있는지 여부의 판단은 전적으로 문맥에 따라야 함

▸ “너를 두들겨 패주겠어”라는 의미로 해석된다면 위협을 가하는 것이지만, “너를 이겨주겠어”라는 뜻으로 사용했다면 서로 이기기 위해 분발하자는 긍정적 의미를 담고 있기 때문임(그림 3에서“Look at that pig!"와 같은 말도 마찬가지임)

<자료> Facebook

[그림 3] 차별 발언 감지에 필요한 컨텍스트 이해

▸ 이런 경우는 사람도 쉽게 판단하기 어렵기 때문에 AI에게는 가장 어려운 분야로 지금의 기술로는 올바른 판정을 할 수 없는데, 따라서 기술 개선을 위해서는 알고리즘을 교육하기 위해 증오 연설의 사례를 모으는 것이 매우 중요한 과제가 되고 있음

▸ 따라서 페이스북은 한 AI가 증오 연설을 자동으로 생성하면 다른 AI가 증오 연설 여부를 감지하게 하는 소위 ‘생성적 대립쌍 신경망(Generative Adversarial Network, GAN)' 개발을 목표로 하고 있다고 함

▸ ‘갠(GAN)'은 두 개의 신경망을 두고 가령 한쪽에는 위조지폐범의 역할을, 다른 한쪽에는 감식반의 역할을 부여해, 상호 경쟁하는 과정에서 신경망을 고도화하는 기술임

◾ 미국 대선에서 문제가 된 가짜뉴스에 대해서는 중점 대응 과제로 보고 대책을 마련 중인데, AI로 직접 감지는 어려우므로 부정 계정 폐쇄에 초점을 두고 있다고 함

▸ 현재 AI가 가짜뉴스를 직접 감지하는 기술은 확립되어 있지 않기 때문에 가짜뉴스를 유포하는 부정 계정을 찾아내 폐쇄함으로써 정보 확산을 방지하겠다는 것임

▸ 부정 계정은 가짜뉴스뿐 아니라 스팸이나 악성 광고를 발신하는 목적으로도 사용되고 있고 사기 피해가 잇따르고 있기 때문에 페이스북은 적극적 대책을 추진하고 있음

<자료> Facebook

[그림 4] 가짜뉴스 대응방안을 발표하는 저커버그

▸ 부정 계정은 특이한 작동을 보이므로 우선 AI로 이 패턴을 감지하는데, 가령 스팸을 전송하는 악성 계정은 기사를 높은 빈도로 반복 게시하는 등 특이한 모습을 보이기 때문에 여, 이런 신호를 기계학습 기법으로 감지하게 됨

▸ 소셜 미디어는 또한 과격파 조직의 광고탑으로 사용되어 심각한 사회 문제가 되고 있기도 한데, 페이스북은 AI를 도입해 IS(이슬람 국가)나 알카에다 등을 선전하는 콘텐츠와 계정을 확인하고 이를 제거하고 있음

▸ AI는 이미 삭제한 사진이나 비디오와 비교하는 방식을 통해 과격파 조직이 게시하는 콘텐츠를 감지하며, 텍스트도 마찬가지로 이미 삭제된 텍스트를 학습하여 문자 기반의 신호를 파악함으로써 테러를 조장하는 텍스트를 이해한다고 함

▸ AI가 테러 관련 내용을 감지하는 동시에 전담 직원이나 전문가도 수동으로 이러한 작업을 실행하는데, 페이스북에 따르면 2018년 1분기에만 IS와 알카에다 관련 콘텐츠 190 만 건을 삭제하는 등 소기의 성과를 거두고 있음

◾ 페이스북은 AI 등 최신 기술과 전담 대응팀 운영 등 최선을 다하고 있지만, 자신들의 노력만으로 모든 문제 해결은 불가능하다며 이용자들의 협조도 적극 당부하고 있음

▸ 페이스북이 AI, 기계학습, 컴퓨터 비전 기술 등을 사용하고 있지만 가짜뉴스와 부적절 콘텐츠를 완벽히 차단할 수 있는 것은 아니기 때문에, 이용자들의 피드백이 대응 방안이 성공을 거두는 데 관건이 될 것으로 보고 있음

▸ 페이스북은 부적절한 콘텐츠가 발견된다면 신고해 줄 것을 이용자들에게 호소하고 있으며, 동시에 페이스북 내에 전담 직원을 2만 명으로 증원하고 수동으로 부적절한 콘텐츠의 적발하려는 노력을 더욱 강화한다는 방침임

◾ 플랫폼들은 그동안 자신들이 얻는 이익에 비해 사회적 책임을 지지 않으려 한다는 비난을 받아 왔는데, 이번 페이스북의 대응 방안으로 변화가 생길지 관심이 모이고 있음

▸ 지난 미국 대선에서도 저커버그는 오바마 행정부로부터 페이스북을 이용한 정보 조작이 이루어지고 있다는 경고를 받았지만 그 대책은 강구하지 않았음

▸ 그러면서 근거로 든 것은 페이스북은 뉴스 전달 기업이 아니라 ‘게시판’이기 때문에 자의적으로 특정 기사를 삭제하는 것은 타당하지 않다는 자체 법률 해석이었음

▸ 페이스북의 이러한 대응에 대해서는 사람들의 뉴스 소비 패턴이 SNS 중심으로 이루어지고 있는 현실을 정작 SNS 플랫폼 스스로가 부정하는 꼴이라며, 사회적 책임을 외면하는 것이라거나 저커버그가 방조를 통해 트럼프를 돕는 것이라는 비판이 있어 왔음

▸ 페이스북의 입장에 변화를 가져온 것은 케임브리지 애널리티카에 의해 8,300만 명 이상의 개인정보가 유출된 사건으로, 이용자들의 정치적 성향을 분석한 후 가짜뉴스가 통할만 한, 멘탈이 약한 사람들을 골라 가짜뉴스를 적극 유포했다는 사실이 드러났기 때문임

▸ 페이스북의 시스템 특성을 이용해 가짜뉴스를 통한 정치 운동을 한 것이 드러난 집단이 발각된 상황에서, 자신들은 게시판일 뿐이라며 아무런 정책을 취하지 않는다는 입장을 고수하기는 어려워진 것임

<자료> Daniel Bradley

[그림 5] 소셜 미디어들의 사회적 책임(CSR)

▸ 페이스북의 이번 발표는 스스로 정체성을 무엇으로 규정하든지와 상관없이 잘못된 기사는 게재하지 않도록 감시하는 것이 플랫폼의 책임이라는 지침을 세운 것이며, 계속해서 여론이 조작되는 것을 방지하겠다고 약속한 것이라는 점에서 의의가 있음

▸ 플랫폼들은 비즈니스를 위해서는 자신들의 영향력을 극대화하기 위해 골몰하지만, 사회적 책임을 떠안고 규제를 따라야 하는 상황에서는 자신들의 영향력을 부정하는 경향이 있었는데, 이런 이중적 태도가 불식될 수 있을 것인지에 대해 관심이 모이고 있음

무인 점포 아마존 Go의 상품 구입 여부 인식 방법.pdf

ž 2018년 1월부터 문을 연 아마존의 무인 점포 ‘아마존 Go’는 높은 편의성으로 호평을 받고 있는데, 구체적 작동 방식에 대해서는 아마존이 아직 공개하지 않고 있음

Ø 아마존 Go를 이용하려면 전용 앱이 필요하며, 매장에 들어갈 때 앱을 실행하고 표시된 QR 코드를 리더기에 비추면 게이트의 바가 열리게 됨

Ø 매장에 들어서면 사고 싶은 상품을 손으로 집어 바구니나 가방에 넣으면 되는데, 상품 개수가 손에 들고 있을 수도 있는데, 아마존 Go의 인공지능(AI)은 고객이 상품을 손으로 집어 든 시점에서 구매를 했다고 판정함

Ø 만일 마음이 바뀌어 고객이 제품을 선반에 되돌려 놓으면 AI는 이를 반품한 것으로 인식하며, 내려 놓은 시점에서 상품이 구매 목록에서 제거됨

Ø 계산대에 점원이 없기 때문에 쇼핑이 끝난 고객은 그대로 가게를 걸어 나오면 되며(Just Walk Out), 계산대의 AI가 고객이 구매한 아이템을 최종 파악해 전용 앱에 결제를 청구하고, 영수증이 앱에 표시되기 때문에 고객은 자신이 구입한 상품을 확인할 수 있음

Ø AI가 어떤 방법으로 구매 여부를 판정하는지에 대해 아마존은 자세히 공개하지 않고 있는데, ‘컴퓨터 비전(Computer Vision, 영상 분석)’과 딥러닝 알고리즘, ‘센서 퓨전(Sensor Fusion, 서로 다른 여러 종류의 센서를 통합)’ 기술 등을 이용한다는 언급에 머물고 있음

ž 무인 계산대가 운영되려면 우선 고객과 고객이 집어 든 제품을 식별하는 기능이 필요한데, ‘컴퓨터 비전’과 ‘센서 퓨전’ 기술은 이 부분에서 사용되는 것으로 보임

Ø 매장 입구 게이트의 리더기에 앱의 QR 코드를 갖다 대면 시스템은 이용자를 파악할 수 있고, 그 다음엔 천장에 설치되어 있는 카메라가 이용자를 인식해 위치를 파악할 것인데, 이를 위해서는 고객 정보와 카메라가 파악한 정보를 연결해 주는 키 값이 필요함

Ø 매장 안에서 고객이 이동할 때마다 천장에 설치된 카메라가 그 움직임을 추적하는데, AI가 이용자의 얼굴 인증을 실시하는 것은 아니므로, 고객의 모습에서 특징량을 파악하고 이를 키 값으로 사용해 고객을 추적하는 것으로 보임

Ø 천장에는 수많은 카메라가 설치되어 있으며 카메라는 상자 안에 탑재되어 있는데, 이 상자 안의 프로세서는 카메라가 포착한 이미지에 대한 기초적인 AI 분석을 수행할 것임

Ø 카메라는 사람의 형태를 인지하고 이용자를 식별 및 추적하며, 손을 뻗는 등 고객이 보이는 동작의 의미를 파악하는 기능을 수행하는데, 만일 고객이 다른 장소로 이동하면 다른 카메라가 이어 받아 계속 추적할 것임

Ø 천정의 카메라는 또한 선반의 상품을 인식하고 고객이 집어 든 상품의 이름을 식별하는 기능도 수행할 텐데, 상품 진열대에도 상품 식별을 위한 별도의 카메라가 설치되어 있음

Ø 겉으로 보이진 않지만 진열대에는 카메라와 저울이 탑재되어 있다고 하는데, 카메라는 소비자가 선택한 상품을 인식하며, 저울은 선반의 무게를 측정하여 무게가 줄어들면 상품이 구매된 것으로 인식하는 것으로 보임

Ø 이에 대해서는 무게 감소 여부로 파악하는 것이 아니라, 시스템에 각 상품의 무게를 입력해 놓음으로써 줄어든 무게에 따라 구매된 상품명을 식별하는 것이라 보는 의견도 있음

ž 컴퓨터 비전과 센서 퓨전을 통해 수집한 일련의 데이터는 서버로 전송되며, 최종적으로 딥러닝 알고리즘이 누가 얼마만큼의 상품이 구매되었는지 추정하는 것으로 보임

Ø 사람들의 쇼핑 패턴이 동일하다면 시스템이 누가 어떤 상품을 구매했는지 판단하기 용이할 것이나, 매장에서 쇼핑을 할 때는 다양한 상황이 발생하기 때문에, 시스템은 딥러닝의 방식으로 다양한 상황을 학습해 나갈 필요가 있음

Ø 가령 고객이 제품을 바구니에 넣었다가 이동하는 도중에 마음이 바뀔 때, 그것을 원래 자리에 갖다 놓기 보다는 아무 선반에나 올려 놓는 경우가 많음

Ø 또한 고객이 상품을 가방이나 바구니에 넣는 것이 아니라 동반한 아이에게 들고 가게 하는 경우도 있을 것이며, 들고 있던 상품을 다른 고객에게 전달하는 경우도 있을 것임

Ø 아마존 Go 앱에 따르면 현재 상품을 다른 사람에게 전달하는 행위는 금지되어 있는데, 알고리즘이 이러한 돌발 사태를 파악하고 적절하게 과금 청구할 수 있도록 딥러닝을 통해 훈련시킬 필요가 있을 것임

ž 이렇게 보면 딥러닝 알고리즘을 교육시켜 고객을 인식하는 정확도를 높이고 소비자 행동의 의미를 학습시키는 과정이 아마존 Go의 성패를 좌우한다고 할 수 있음

Ø 딥러닝 알고리즘 교육을 위한 데이터 수집을 위해 아마존은 아마존 Go 오픈에 앞서 아마존닷컴 직원들을 대상으로 테스트를 실시했다고 함

Ø 아마존 Go는 2016년 12월에 그 계획이 발표되었고 원래 2017년 초에 오픈을 목표로 했으나 실제로는 약 1년 후인 올해 1월로 크게 늦어졌는데, 그 이유가 정확히 공개되지 않았지만 매장이 북적일 때 AI가 매출을 정확히 판정할 수 없기 때문이었다는 말이 있음

Ø 아마존은 카메라의 대수를 늘려 판정 정확도를 향상시키는 방식을 택했는데, 바닥 면적 1,800 평방피트(약 50평)의 아마존 Go 매장에 100대 정도의 카메라를 설치해 고객의 움직임을 빠짐없이 모니터 하는 구조로 만든 것임

Ø 아마존 Go의 인식 정확도가 관심을 모았지만 오픈한 지 수 주일이 지났지만 특별히 큰 문제는 보고되지 않았으며, 판정 정확도는 실용화가 가능한 수준인 것으로 보임

Ø 한편 어떤 기자는 매장 측의 허락을 얻어 상품을 ‘도둑질’했지만 매장을 나올 때 앱으로 청구가 되었다는 보도가 있었으며, 아마존 Go가 매장의 도난 방지에도 도움도 줄 수 있다는 평가를 낳기도 하였음

ž 아마존은 아직 아마존 Go의 확장 계획에 대해 침묵을 지키고 있는데, 오픈한 매장의 구색을 보면 편의점 형태의 매장으로 보이며, 매장 개설 비용이 이슈가 될 것으로 예상됨

Ø 문을 연 아마존 Go 매장은 식료품이나 일용품을 중심으로 구색을 갖추고 있으며, 매장을 찾은 고객들이 소수의 상품만 구매하는 패턴이 눈에 두드러짐

Ø 아마존 Go가 사무실이 밀집한 거리의 편의점으로 운영될 것이라는 말도 나돌고 있는데, 시간에 쫓기는 직장인들이 점심시간에 아마존 Go에서 샌드위치와 음료를 손에 들고 뛰어 나오는 모습을 유스 케이스(Use Case)로 상정하고 있다고 함

Ø 실제 아마존 Go에는 계산원은 없지만 샐러드와 샌드위치 등 신선식품 조리와 자재 조달을 맡는 직원이 배치되어 있으며, 계산을 하기 위해 줄을 설 필요가 없기 때문에 직장인들의 점심 시간이 조금 더 늘려주는 효과를 제공하게 될 수도 있음

Ø 아마존은 추가로 아마존 Go 매장을 얼마나 늘릴 지에 대해 구체적 계획을 발표하지 않고 있는데, 이에 대해서는 수백 대의 카메라와 AI 시스템을 설치해야 하는 등 구축 비용이 만만치 않기 때문에 매장 늘리기가 쉽지 않을 것이라는 지적이 설득력을 얻고 있음