보라빛 소를 만나기 위한 도약

※ 아래 글은 정보통신기술진흥센터(IITP)가 발간하는 주간기술동향 1803호(2017. 7. 5 발행)에 기고한 원고입니다.

▶ IITP에서 PDF 포맷으로 퍼블리싱한 파일을 첨부합니다. 가독성이 좋으니 참고하시기 바랍니다.

AI 이용해 테러 대응 정책 강화에 나서는 페이스북과 구글.pdf

ž 페이스북은 인공지능(AI)을 이용하여 SNS 서비스 내에서 유포되는 테러 관련 콘텐츠를 제거하기 위한 대책을 강화해 나가겠다고 발표

Ø 페이스북은 테러리스트와 극단주의자들의 선전 유포의 장이 되고 있다는 비난을 종종 받아왔는데, 지금도 테러 조직이 게시한 내용과 테러 행위를 지지하는 내용의 콘텐츠를 신속하게 조사해 제거해오고 있지만 최근 들어 AI를 활용한 대응 방안도 시작했다고 강조한 것

Ø 구체적으로 살펴 보면, 페이스북에서 과거에 삭제된 적이 있는 테러 조직이 올린 사진과 동영상을 AI에 학습시킨 후, 누군가 그런 이미지를 올리려고 하면 AI가 저지하게 한다고 함

Ø 또한 ISIS와 알 카에다 등 테러 조직을 옹호하는 글을 식별하는 데 AI를 사용하여 텍스트 기반의 신호를 개발하였고, 시험적으로 알고리즘을 구현한 상태라고 함

Ø 이와 함께 지금까지 테러와 관련되어 비활성화 시킨 다수의 계정과 친구로 연결되어 있거나 혹은 공통된 속성을 가지고 있는 계정을 검출함으로써, 테러를 옹호하는 계정이 반복적으로 생성되는 것을 방지할 계획이라고 밝혔음

Ø 페이스북은 현재 ISIS와 알 카에다 및 관련 조직에 관한 내용을 중심으로 최신 기술을 적용하고 있지만 다른 테러 집단에 대해서도 순차적으로 대응책을 넓혀 갈 예정이라고 함

Ø 또한 AI와 알고리즘만으로는 제거해야 할 테러 관련 내용을 모두 식별하여 판단하는 것은 어렵기 때문에 사용자들의 신고를 바탕으로 조사하는 감시 요원도 늘릴 계획인데, 현재 4,500명의 인원에 더해 새롭게 3천 명을 추가 고용해 감시 체계를 강화한다는 계획임

ž 구글 역시 동영상 공유 사이트 유튜브에서 테러 관련 콘텐츠를 완전 소멸하기 위한 4 가지 전략을 발표하고, 유해 콘텐츠 제거에 새로운 기술을 도입할 것이라 밝힘

Ø 구글은 지난 몇 년 동안 유튜브 정책에 위반하는 콘텐츠를 식별해 제거하려는 노력을 해왔으나 불행히도 새로운 대책이 필요한 지경에 이르렀다는 점을 인정할 수밖에 없다며, 새로운 기술을 도입한 유해 콘텐츠 제거를 시도하겠다고 설명

Ø 새로운 방법이란 이미지 분석 모델의 도입을 말하는데, 지난 6개월 동안 삭제된 내용의 50%는 분석 모델이 이미 감지했다고 하며, 향후 콘텐츠 분류의 정확도를 높이기 위한 기계학습 연구에 더 많은 엔지니어링 자원을 투입할 것이라고 함

Ø 기술의 활용과 함께 전문가도 강화하는데, 문제가 있는 특정 콘텐츠에 대해 써드파티 기관과 협력하는 프로그램인 ‘트러스티드 플래거(Trusted Flagger)’에 새로 50개의 NGO를 추가하였음

Ø 또한 명확하게 유튜브의 정책에 위배되지는 않는 동영상에 대해서도 보다 엄격한 조치를 할 방침인데, 가령 선동적인 종교 관련 및 인종 우월주의적 동영상에는 경고를 표시하고 광고 게재나 댓글 달기를 할 수 없게 하며 추천 목록에 포함시키지 않아 찾기 어렵게 한다는 계획

Ø 한편, 알파벳 산하 기업인 직소(Jigsaw)의 ‘리디렉트 메소드(Redirect Method)’ 기술을 유럽 전역에 광범위하게 도입할 것인데, 리디렉트 메소드는 타깃형 광고 기술을 사용하여 ISIS에 공감하는 사용자에게 ISIS 참여를 단념하게 만드는 반테러 동영상이 전달되도록 하는 데 이용됨