보라빛 소를 만나기 위한 도약

※ 아래 글은 정보통신기술진흥센터(IITP)가 발간하는 주간기술동향 1779호(2017. 1. 18 발행)에 기고한 원고입니다. 

▶ IITP에서 PDF 포맷으로 퍼블리싱한 파일을 첨부합니다. 가독성이 좋으니 참고하시기 바랍니다.

화웨이, R&D 투자 세계 1위 기업이 목표.pdf

◈ 중국 화웨이(Huawei)는 이달 초 미국 라스베이거스에서 열린 'CES 2017' 기조 연설에서 B2C 사업부문에 대한 자신들의 노력과 미국 시장 공략을 위한 전략을 발표

• 화웨이의 소비자 비즈니스 그룹 리차드 유 CEO는 자신들의 전세계 인구 3분의 1일 연결하고 있다며, 단지 화웨이가 통신 서비스의 백오피스를 주로 지원하고 있기 때문에 많은 사람들은 화웨이임을 모른 채 화웨이를 이용해 오고 있다고 설명

• 화웨이의 스마트폰 출하대수는 2014년 7,500만 대, 2015년 1억 800만 대에 이어 2016년에 1억 3,900만 대를 기록했다고 하는데, 수치로만 보면 화웨이는 소비자 사업부문에 참여한 지 얼마 안되었음에도 세계 3대 스마트폰 브랜드로 올라선 것임

• 브랜드도 점차 성장하고 있는데, 5년 전만 해도 화웨이를 아는 사람은 거의 없었지만 화웨이가 독자 브랜드를 사용하기 시작하면서, 2016년 BRANDZ의 조사에서는 세계 톱 100 브랜드 중 50위, Interbrand의 조사에서는 72위를 차지하였음

• 리차드 유 CEO는 이런 성과를 바탕으로 자신들의 스마트폰 시장 점유율이 계속 증가하고 있다며, 향후 2년 내에 톱2 자리를 노리겠다고 선언

◈ 이를 위해 화웨이는 R&D에 지속적으로 투자할 방침이며, 향후 2~3년 내에 세계 제1의 R&D 투자 기업이 될 것을 목표로 한다고 천명

• 발표에 따르면 화웨이는 지난 10년간 R&D 부문에 총 380억 달러를 투자하였으며, 2016년에는 애플이나 시스코 보다 많은 92억 달러를 투자했는데 이는 전세계 기업들 중 R&D 투자 금액 기준으로 9위에 해당

• 화웨이는 ‘HUAWEI P9’ 모델의 카메라를 공동 개발한 라이카와 함께 라이카 창업자의 이름을 딴 ‘Max Berek Innovation Lab’을 독일에 설립했다고 소개

• 앞으로도 R&D 투자는 대폭 늘려나갈 방침인데, 구체적인 실행계획으로 미국에 UX 디자인 센터 설치, 프랑스에 미학 센터, 독일에 5G 연구소, 영국 케임브리지 대학과 사진 기술 공동 연구, 맨체스터 대학과 배터리 기술 공동 연구 진행 등을 꼽았음

◈ 이러한 연구개발 끝에 화웨이가 마주하게 된 것은 ‘지능형 세계’였다고 하며, 화웨이는 스마트폰에 인공지능(AI)을 더한 ‘지능형 폰(Intelligent Phone)’의 실현을 향후 목표로 제시

• 화웨이는 향후 5~10년 내에 지능형 세계가 도래할 것이며, 이 세계에서는 모든 것이 인터넷에 접속되는 센서를 탑재하고 이 센서 네트워크를 AI가 지원함으로써 디지털과 물리적 세계가 융합하게 된다고 설명

• 지금까지는 뇌파와 시각, 청각, 촉각 등 물리적인 세계는 디지털과 다른 것이었지만, AI와 센서가 있으면 두 세계를 연결할 수 있다는 비전을 제시

<자료> International Business Times

[그림 3] 화웨이의 인공지능 기반 디바이스

◈ 기조 연설을 통해 화웨이는 ‘HUAWEI Mate 9’ 모델을 미국 시장에 출시한다고 발표했는데, 화웨이가 플래그쉽 스마트폰을 미국에서 출시하는 것은 이번이 처음이라고 함

• Mate 9은 메모리가 4GB, 스토리지 64GB를 제공하며, 자체 급속충전 기술인 SuperCharge를 지원하는데, 30분 만에 하루 사용할 정도의 충전이 가능해 충전 속도로 아이폰7에 비해 4배 가량 빠르다고 주장

• 듀얼 SIM을 지원해, 주파수 대역이 다른 2개의 통신사를 이용하거나 해외 여행시 현지 SIM 카드를 넣어 저렴하게 통신 할 수 있는 것도 장점으로 설명

• 판매가 시작된 Mate 9은 599.99 달러로 아이폰 7 32GB 모델보다 50달러 가량 낮음

        [화웨이 Mate 9 소개 동영상 보기]

◈ 라인업 중, ‘Mate 9 Porsche’ 모델과 ‘Mate 9 Pro’ 모델은 구글의 가상현실(VR) 기술인 ‘데이드림(Daydream)’을 지원한다고 하는데, 이에 대해서는 구글 임원이 직접 등단하여 설명

• 구글측 설명에 따르면, 데이드림 기술은 하드웨어와 긴밀한 협력이 필수적인데, 화웨이의 시스템온칩(SoC)인 Kirin 칩셋에 데이드림을 최적화함으로써, 콘텐츠와 애플리케이션, 게임에 진정으로 몰입감 있게 VR로 체험 할 수 있게 되었다고 함

• 구글은 이미 데이드림용 헤드셋으로 ‘데이드림 뷰(Daydream View)’를 판매하고 있지만, Mate 9에 최적화된 새로운 모델도 발표하였음

• 또한 구글의 증강현실(AR) 플랫폼인 ‘탱고(Tango)’ 지원 디바이스를 화웨이와 개발 중이라고 밝히며, 조만간 발표될 수 있을 것임을 시사

◈ 화웨이의 Mate 9은 이번 CES 2017에서 가장 화제를 모은 아마존의 인공지능 음성제어 기술 ‘알렉사(Alexa)’도 지원하는데, 이에 대해서는 아마존 임원이 직접 등단하여 설명

• 화웨이의 Mate 9 모델은 알렉사를 지원하는 최초의 스마트폰이 되는 것인데, 이를 위해 화웨이는 2017년 1분기 중에 업데이트를 실시할 계획이라고 함

• 아마존 알렉사 사업부문 부사장은 알렉사를 통해 클라우드 서비스에 음성으로 접근할 수 있게 된다며, 화웨이와 긴밀한 연계를 통해 Mate 9에 탑재가 가능했다고 설명

• 아마존은 알렉사의 음성 명령으로 호출 할 수 있는 기능을 ‘스킬(skills)’이라 부르고 있는데, 이미 7,000개가 넘는 스킬이 개발되어 등록되었다고 함

• 시연을 통해 Mate 9에 음성으로 말을 걸어 쇼핑을 즐기거나 우버에 배차를 요청하는 것 것 보여주었는데, 이번 CES 2017에 다수의 알렉사 지원 기기가 선보였지만, Mate 9은 스마트폰에서 알렉사를 사용하는 차별화된 경험을 제공하였음

※ 아래 글은 정보통신기술진흥센터(IITP)가 발간하는 주간기술동향 1778호(2016. 12. 28 발행)에 기고한 원고입니다. 

▶ IITP에서 PDF 포맷으로 퍼블리싱한 파일을 첨부합니다. 가독성이 좋으니 참고하시기 바랍니다.

상용화 시작된 음식배달로봇 배달직종 소멸 위기.pdf

◈ 실리콘밸리에서는 최근 ‘긱 이코노미(Gig Economy)’ 트렌드에 힘입어 음식 배달이 훨씬 쉬워졌으나, 배달 로봇의 등장으로 사람의 배달 서비스는 조만간 사라질 위기

• 긱 이코노미란 그때그때 임시직을 섭외해 일을 맡기는 경제 형태를 말하는데, 가령 자신이 일을 할 수 있는 시간과 위치정보를 등록해 놓으면, 내 주변의 일손이 필요한 곳에서 등록된 시간에 맡길 일이 있을 경우 의뢰하는 것을 말함

• 1920년대 미국 재즈공연장 주변에서 연주자가 필요할 때마다 즉석에서 섭외해 단기 공연을 진행했던 ‘긱(gig)’이란 부른 데서 유래

• 긱 이코노미에 대해서는 새로운 일자리를 창출해 실업률을 낮추는 데 도움이 된다는 견해와 비정규직·임시직을 늘려 고용의 질을 떨어뜨린다는 우려가 동시에 제기되고 있지만, 일종의 공유경제 현상으로 받아들여지며 점차 확산되고 있는 추세

• 실리콘밸리의 환경과 맞물리며 급부상한 긱 이코노미 스타트업 중 대표적인 곳은 레스토랑 음식배달 서비스 업체인 캐비어(Caviar)임

• 실리콘밸리에 돈 잘 버는 사람들이 급증하며 웬만한 레스토랑은 예약 없이 방문이 어려울 지경이 되었는데, 이런 상황을 노려 레스토랑의 음식이나 반조리 상태의 재료를 배달하는 캐비어와 같은 서비스들이 다수 등장

• 캐비어와 같은 배달 서비스들은 음식 배달원들을 정식으로 고용하는 것이 아니라 등록된 인력 풀 중에서 그때그때 시간이 가능한 사람들에게 배분하고 있으며, 택배원들은 도보, 자전거, 자동차 등 자신이 등록해 놓은 방식으로 음식을 배달하게 됨

• 그러나 이런 긱 이코노미도 종말을 맞이할 순간이 멀지 않은 듯 한데, 배달 로봇의 상용화가 조만간 이루어질 것으로 보이기 때문

◈ 로봇 업계는 지금 ‘​라스트 마일 배달’에 높은 관심을 쏟고 있는데, 작은 로봇에 라스트 마일을 맡김으로써 비용과 효율의 문제를 해결하려는 시도들이 나오고 있음

• ‘라스트 마일(last mile)’은 원래 통신사업의 용어인데, 백본 인프라에서 가정까지 도달하는 과정 중 맨 마지막 구간에서 고품질과 저비용을 양립시키는 것은 매우 어려움

• 택배업계도 마찬가지인데, 지금처럼 배달 트럭이 집집마다 도는 방법은 비효율적이라는 것을 알고 있지만 이를 마땅히 대신할 방법이 없었음

• 그러다가 라스트 마일 배달을 작은 로봇으로 해결하려는 시도들이 나오기 시작했는데, 영국의 ‘스타쉽 테크놀로지(Starship Technologies)’는 이미 실리콘밸리에서 배달 로봇의 테스트 주행을 실시하였고 최근 런던에서 처음으로 정식 식사 배달을 시작

• 스타쉽 테크놀로지의 로봇은 소형 캐리어를 옆으로 눕힌 정도의 크기로 하단에 6개의 바퀴가 있으며, 상단은 뚜껑이 있고, 배달될 음식과 소형 가방 등을 넣을 수 있음

• 카메라와 센서를 탑재하고 있으며 자율 주행으로 목적지까지 가는데, 용도를 물류나 배달의 라스트 마일에 초점을 맞춘 것이 특징임

• 햄버거와 피자, 중국 음식 등은 물론, 온라인 쇼핑에서 주문한 잡화 등도 곧 배달 로봇이 가져다 주는 시대가 도래할 지 모르는 상황이 되고 있음

<자료> Starship Technologies.

[동영상] 스타쉽 테크놀로지의 음식 배달 자율주행 로봇

◈ 스타쉽 테크놀로지의 로봇은 자율주행 기술과 사람의 원격 조종을 조합하여 운용되는데, 드론을 이용한 배달 보다 실용화 시기가 좀 더 빠를 것으로 전망되고 있음

• 스타쉽 테크놀로지는 스카이프(Skype)의 공동 창업자이기도 한 아티 헤인라와 야누스 프리스가 창업했으며, 본사는 런던이지만 개발팀은 에스토니아의 탈린에 있음

• 2014년 설립 이후 지금까지 여러 대의 프로토타입을 개발했고 65대의 로봇이 16개국 58개 도시에서 달리고 있으며 주행거리는 총 1만 3,930 마일이라고 함

• 이미 자율운전 차량들이 거리를 달리고 있으니 이런 작은 로봇이 마을을 스스로 돌아다니는 것은 간단하다고 말할 수 있지만 소형 로봇은 나름대로의 어려움이 있음

• 고속도로를 달리는 자율주행차와 달리 배달 로봇은 사람이 걷는 길로 다니며 교차로나 횡단보도 등을 만나야 하고, 무엇보다 자율운전 차량 수준의 기술을 탑재하려고 하면 비용이 엄청나게 높아져 버리는 문제가 있음

• 그래서 스타쉽 테크놀로지는 길을 건너야 하는 어려운 곳은 인간이 원격으로 조작하고, 그 이외의 부분은 로봇의 자율주행에 맡기는 식으로 분담을 하고 있음

• 로봇과 인간이 각각 자신의 역할을 담당하는 셈으로, 생각하기에 따라서는 배달 일은 사라지게 하지만, 원격 조종과 같은 다른 일을 만들어내는 로봇이라 볼 수도 있음

• 내비게이션에는 GPS를 이용하지 않고 미리 로봇에 특정 지역의 지도를 학습시킨 다음 로봇의 카메라가 포착한 주변의 모습과 비교해 위치를 파악하는 방식을 사용하는데, 이 방식이 GPS보다 안정성이나 신뢰성 모두 높다고 함

• 디스패치의 로봇 역시 인공지능 자율주행 로봇을 표방하고 있는데, 바퀴는 4개이며, 스타쉽 테크놀로지의 로봇에 비해 크기가 좀 더 큰 편임

• 아마존닷컴의 드론을 이용한 택배가 많은 주목을 받고 있지만, 공중 배달보다 지상을 달리는 자율주행 택배 로봇의 실용화와 보급 속도가 더 빠를 것으로 예상

• 택배 로봇의 모습에 재미있어 하는 사람이 많지만 보급이 확산되어 실제로 택배 직종의 일자리가 줄게 된다면, 아마 택배 로봇들에 대한 우발적 혹은 계획적 공격을 어떻게 방어할 것인지가 로봇 업체들의 최우선 과제가 될 지도 모름

※ 아래 글은 정보통신기술진흥센터(IITP)가 발간하는 주간기술동향 1778호(2016. 12. 28 발행)에 기고한 원고입니다. 

▶ IITP에서 PDF 포맷으로 퍼블리싱한 파일을 첨부합니다. 가독성이 좋으니 참고하시기 바랍니다.

풀이과정을 알 수 없는 인공지능에 대한 신뢰성.pdf

[ 요 약 ]

◈ 인공지능(AI) 활용 시도가 다양하게 전개되면서, 사람들은 점차 ‘인공지능(AI)을 과연 신뢰해야 하는가’라는 문제에 직면하고 있음

• 딥러닝(Deep Learning) 기법을 응용한 다양한 인공지능 시스템 활용 사례가 속속 소개되며 기대감이 커지고 있으나, 동시에 AI의 문제점도 명확해지고 있음

• AI는 통계학적 수법을 통해 입력된 데이터로부터 어떤 특징의 양을 정밀하게 감지하며 의사결정을 내리는데, 사람들을 곤혹스럽게 하는 점은 AI가 왜 그런 의사결정을 내렸는지에 대해 설명해 주지 않기 때문임

• 가령 자율운전 차량은 인간보다 훨씬 안전하게 주행할 수 있다는 것이 실험을 통해 입증되고 있지만 그 운전 기술의 요체는 AI 개발자들도 모르며 오직 AI만 알고 있기에, 사람들은 ‘안전할 거 같긴 한데 믿을 수 있을까’라는 애매한 감정을 갖게 됨

• 구글 딥마인드는 바둑 인공지능 알파고를 개발하며 바둑의 규칙조차 입력하지 않았지만, 대결에서 패한 인간 최고수로부터 바둑을 이해하는 새로운 관점을 얻게 되었다는 찬사를 이끌어 냈는데, 이런 사실에 사람들은 기대감과 불안감을 동시에 느끼는 것

• 사정이 이렇다 보니 사람들이 느끼는 불안감 속에는, 사람이 AI를 이해하지 못하는 것이 아닌지, AI가 사람을 능가하는 것은 아닌가 하는 존재론적 의심도 배어 있음

◈ AI에 내포된 이런 본질적 문제는 다양한 형태로 드러나고 있는데, 중국계 AI 연구자들이 최근 발표한 얼굴 특징으로 범죄자를 식별하는 기술은 큰 논란을 낳고 있음

• 상하이교통대학(Shanghai Jiao Tong University)은 지난 11월 13일 ‘얼굴 이미지를 이용한 범죄연관성에 관한 자동화된 추론(Automated Inference on Criminality using Face Images)’이라는 논문을 공개

• 공개된 지 얼마 안되어 아직 피어 리뷰(동료 전문가 평가, peer review)도 끝나지 않았지만, 논문에 따르면 알고리즘은 89%의 정확도로 범죄자를 식별한다고 하는데, 즉 얼굴 사진을 알고리즘에 입력하면 그 사람이 범죄자인지 여부를 거의 알 수 있다는 것

• 이 연구에는 딥러닝 등 얼굴인식 AI 기술이 사용되었으며, 알고리즘을 훈련시키기 위해 남성 1,856명의 얼굴사진을 사용했고 그 중 730명이 범죄자였다고 함

• 논문은 범죄자의 얼굴에 세 가지 특성이 있다고 언급하고 있는데, 윗입술의 선이 보통 사람에 비해 급격히 내려가고(그림1 오른쪽 이미지 속의 p), 두 눈의 간격이 좁으며(d), 코와 양 입가 사이에서 만들어지는 각도가 좁다(θ)는 점을 들고 있음

• 이 논문은 현재 논란의 와중에 있는데, 인물의 행동에서 범죄자를 식별하는 방법은 이미 감시 카메라 등으로 사용되고 있지만, 얼굴의 특징으로 범죄자를 가려낸다는 AI를 믿을 수 있는가 하는 의문이 제기되고 있는 것

• AI는 학습 데이터를 바탕으로 통계 처리를 하는 것이지, 얼굴의 모양과 범죄자를 연결시키는 논리가 아닌데, 만일 AI가 범죄 수사에 사용된다면 일반 시민들이 이유를 알지 못한 채 용의 선상에 오르게 될 지도 모른다는 우려가 나오고 있음

◈ 딥러닝이 사회문제가 될 수 있는 불씨는 도처에 도사리고 있는데, 세계 최첨단 AI 기술력을 보유한 구글 역시 AI와 관련해 인종차별 이슈로 문제점을 지적받고 있음

• 구글의 유튜브는 청각 장애인을 위해 동영상 속의 음성을 자막으로 표시하는 기능이 있는데, 구글은 이 기능에 AI를 사용하고 있음

• 미국국립과학재단(National Science Foundation)의 레이첼 태트먼(Rachael Tatman) 연구원은 유튜브의 캡션 기능에서 동영상 속 화자가 남성일 경우와 여성일 경우 캡션의 정확도가 다르지 않은가에 대해 조사를 실시하였음

• 그 결과 유튜브는 남성의 목소리를 여성의 목소리보다 정확하게 인식하는 것으로 나타났는데, 남성일 경우 인식 정확도는 60%이지만, 여성의 목소리일 경우 정확도는 47%로 내려가 음성인식에서 여성이 차별을 받고 있는 것으로 나타남

• 이 차이가 발생하는지에 대해 시스템을 자세히 검증할 필요가 있는데, 태트먼은 AI 훈련에 사용된 음성 데이터 샘플이 성별로 균등하지 않고 남성에 치우쳤기 때문인 것으로 추측

• AI의 성능은 훈련 자료의 품질에 민감하게 좌우되는데, AI의 여성 차별과 인종 차별 문제가 표면화됨에 따라, 훈련 데이터의 공정성 여부가 추궁 당하고 있음

◈ 사람의 생명과 직결되는 의료 분야에서도 인공지능에 의한 판단과 결정을 어떻게 해석하고 검증할 것인지에 대한 논의가 시작되고 있음

• 딥러닝 기법은 최근 유방암 검사의 판정에서 성과를 올리고 있는데, 검체의 의료 이미지(CT 촬영사진, x-레이 사진 등)를 딥러닝 네트워크에 입력하면 AI는 암이 발병한 조직을 정확하게 검출해 냄

• 현재 AI의 유방암 진단 정확도가 인간을 웃돌기 때문에, 많은 병원에서 정밀한 치료를 위해 이 시스템의 도입을 시작하고 있음

• 그러나 동시에, 건강해 보이는 조직을 AI가 암 발병 가능성이 높다고 판정한 경우, 의사와 환자가 어떻게 대응해야 할 지가 논란이 되고 있는데, AI 판정만 믿고 몸을 여는 수술을 해야 하는지 어려운 판단을 내려야 하는 압박을 받게 됨

• 물론 유전자 검사에서도 동일한 문제가 발생하고 있으며, 유방암 발병을 촉진하는 유전자 변이인 ‘BRCA’가 검출될 경우 수술을 해야 하는지 여부가 논란이 되고 있음

• 여배우 안젤리나 졸리는 ‘BRCA1’ 변이 유전자를 보유하고 있으며 유방암 발생 확률이 87%라는 말을 듣고 아직 암이 발병하지 않았음에도 유방 절제술을 받은 바 있음

• 그러나 AI에 의한 검진의 경우는 이와 다른데, AI는 변이 유전자 보유라는 확실한 근거를 토대로 발병 확률을 제시하는 것이 아니며, 통계적 방법으로 유방암 여부를 판단할 뿐 그 조직에서 왜 암이 발병하는 지는 설명하지 않기 때문

• 이런 이유로 인공지능은 종종 ‘인공 무능’으로 조롱받는 것이며, 과학적 근거가 없는 결정을 어떻게 해석해야 할 지에 대해 의학적 검증 노력이 시작되고 있음

◈ 은행이나 핀테크 스타트업들도 최근 대출 심사에서 딥러닝을 사용하기 시작했는데, 심사 결과에 대해서는 대체로 만족도가 높지만 현행 법과 배치되는 문제가 발생하고 있음

• AI 대출 심사의 장점은 신청자의 데이터를 알고리즘에 입력하면 즉시 위험도를 평가할 수 있고 높은 정확도로 단시간에 대출 심사가 할 수 있다는 것

• 한편, 미국 대부분의 주 정부는 은행이 대출 심사를 통과하지 못한 사람에게 그 이유를 설명하도록 의무화 하고 있는데, 딥러닝은 그 과정이 깜깜이여서 은행은 탈락한 신청자에게 이유를 충분한 설명하지 못하게 됨

• 게다가 대출 심사 기준을 바꿀 때마다 알고리즘을 재교육하는데, 소프트웨어의 로직을 변경하는 것이 아니라 대량의 데이터를 읽어 들여 딥러닝의 변수를 다시 설정하게 하기 때문에 금융업계에서 AI 도입을 두고 찬반 논란이 일고 있음

◈ AI의 작동 알고리즘을 정확히 알지 못할 경우, 경험적으로 알게 된 AI 알고리즘의 맹점을 활용한 공격에 인증 시스템이 오작동 할 위험이 있음을 증명하는 실험도 있음

• 카네기 멜론 대학의 마무드 샤리프 교수 등은 안경으로 얼굴 인증 시스템이 오작동하도록 만들 수 있다는 내용을 담은 논문 ‘최신 얼굴 인식 기술에 대한 실제적이고 눈에 띄지 않는 공격(Accessorize to a Crime: Real and Stealthy Attacks on State-of-the-Art Face Recognition)’을 발표하였음

• 실험에 의하면 안경테의 폭이 약간 넓은 안경을 쓰면 시스템이 얼굴을 인식할 수 없게 되며, 따라서 방범 카메라의 감시 시스템을 빠져 나갈 수 있는 여지가 생김

• 또한 안경테의 색 패턴을 변경하면 얼굴 인식 시스템이 다른 인물로 오인하는 것으로 나타났는데, 현란한 색의 종이로 만든 안경테를 걸치면 심지어 남성을 여성으로 잘못 인식하는 경우도 있었다고 함

• 얼굴 인식 시스템이 딥러닝 기법으로 얼굴의 특징을 파악한다고 하는데, 이 사례를 보면 눈매의 이미지를 판정에 사용하는 것으로 추정해 볼 수 있음

• 그러나 AI가 실제로 어떤 논리로 얼굴 인증을 하고 있는지는 아직 수수께끼이며, 이것이 규명되지 않는 한 얼굴 인증 시스템을 손쉽게 빠져 나가는 범죄자의 트릭을 막을 방법이 없음

◈ AI의 작동 메커니즘이 알려지지 않는 이유는, AI의 기초를 이루는 신경망이 인간의 뇌를 본떴기 때문인데, 인간 뇌의 정보 저장 방식이 아직 밝혀지지 않았기 때문

• AI의 신경망(Neural Network)으로 이미지를 판정할 때는 사진과 태그를 네트워크에 입력한 후 출력이 제대로 사진의 내용을 판정할 수 있도록 훈련시키는 과정을 거침

• 훈련 과정에서는 네트워크의 각층 사이의 연결 강도(Weight)를 조정하는데, 이러한 교육 과정은 인간의 뇌가 학습 할 때 뉴런의 연결 강도를 조정하는 움직임과 유사한 것으로 알려져 있음

• 학습에서 얻은 연결 강도는 각 뉴런(그림 4의 흰색 동그라미 부분)에 저장되는데, 따라서 신경망을 훈련시키는 메커니즘의 특징은 프로그램과 데이터를 한 곳에 모아 저장하지 않고 학습 데이터를 네트워크에 분산하여 저장할 수 있다는 것임

• 인간의 뇌도 동일한 방식으로 작동하는데, 가령 뇌가 전화번호를 기억할 때, 첫 번째 숫자는 다수의 시냅스에 흩어져 저장되며, 두 번째 숫자도 마찬가지로 흩어져 저장되지만 첫 번째 숫자와 가까운 위치에 저장되는 것으로 알려져 있음

• 문제는 뇌의 이런 저장 메커니즘이 아직 정확히 밝혀지지 않았고, 따라서 뇌의 구조를 본 뜬 신경망의 정보 저장 메커니즘의 규명이 진행되지 못하고 있다는 점

• 딥러닝의 문제점은 응축하자면 지식이 네트워크 상에 눌어붙어 있다는 점에서 기인하는데, 즉 지식이 수천만 개에 이르는 뉴런에 흩어져 저장되기 때문에 시스템을 개발한 인간이 아니라 네트워크가 지식을 습득한다는 데 문제의 본질이 있음

◈ AI만이 알고 있는 답을 규명하기 위해 1990년대 초부터 연구자들이 AI의 블랙박스를 열려는 시도를 해왔는데, 규명의 과정이 곧 AI에 대한 의구심이 높아지는 과정이었음

• 카네기 멜론 대학은 1990년대부터 자동운전 기술의 기초 연구를 진행하고 있었는데, 당시 연구원 딘 포모루는 카메라에 포착된 영상으로 자동운전 알고리즘을 교육시켰음

• 몇 분간 알고리즘을 교육한 후 차량을 자동 주행시키는 시험을 반복했는데, 시험은 잘 진행되었지만 다리에 접근할 때 자동차는 도로에서 벗어나는 움직임을 보였고, 그러나 알고리즘이 블랙박스여서 그 원인을 알 수 없었음

• 소프트웨어를 디버깅하는 방법으로는 로직을 수정할 수 없기 때문에 포모루는 도로 도로주행 시험을 반복하며, 다양한 상황에서 자동운전을 반복하며 경험적으로 문제점을 밝혀낼 수밖에 없었음

• 그에 따르면 자동차는 갓길 바깥에 나있는 잔디 부분을 기준으로 주행 도로를 판정하고 있는 것으로 파악되며, 다리에 가까워지면 잔디 부분이 없어져 차로 판단 기준을 잃게 되므로 정상적인 주행을 할 수 없게 된 것임

• 이런 결론에 이르게 되자 포모루는 자동운전 기술을 AI로 구현한 자동차가 과연 제대로 작동할 것인지 확신할 수 없게 되었다고 함

◈ 현재에도 이와 동일한 문제에 직면하고 있는데, 무인 자율운전 차량들이 도로를 달리고 있는 지금, 사람이 AI 기술을 신뢰해야 할 지의 문제가 최대 이슈가 되고 있음

• AI의 운전 로직을 모르기 가운데, 어떻게든 안전 기준을 만들려다 보니 시행착오가 계속되고 있는데, 그 중 하나는 정해진 거리를 무사고로 주행 가능하다면 안전한 것으로 간주한다는 생각임

• 싱크탱크 랜드 코프(Rand Corp)는 인간이 자동차를 1억 마일 운전할 때 사망 사고는 1.09 회 발생하는데, 자율운전 차량이 인간만큼 안전하다는 것을 증명하기 위해서는 2.75억 마일을 무사고로 달릴 필요가 있다는 기준안을 제시한 바 있음

• 인간 수준의 안전성을 입증하기 위해서는 대규모 주행 시험이 필요하다는 말인데, 이는 자율운전 자동차의 안전 기준을 설정하는 작업이 난항을 겪고 있음을 잘 보여줌

◈ 그러나 자율주행 차량의 도입과 확산을 위해서는 결국 AI의 작동 메커니즘 규명이 반드시 전제되어야 할 것이므로, 이 문제를 기술적으로 해명하려는 움직임도 시작되었음

• 엔비디아(Nvidia)는 딥러닝을 이용한 자율운전 기술을 개발하고 있는데, 이 시스템의 명칭은 ‘데이브-2(DAVE-2)’이며 신경망으로 구성되어 있음

• 인간이 알고리즘에 주행 규칙을 가르치는 것이 아니라, 시스템이 신경망에서 이미지를 처리하여 안전한 경로를 파악하는데, 가령 곡선 도로의 이미지를 읽으면서 거기에서 운전할 때 알아야 할 필요가 있는 도로의 특징을 파악함

• 엔비디아는 AI가 어떤 기준으로 결정하고 있는지에 관한 연구를 함께 진행하고 있는데, 지금까지 블랙박스였던 AI의 핵심을 규명하는 시도임

• 연구의 결과, 엔비디아는 카메라가 포착한 사진과 이미지 인식 신경망(CNN)이 이것을 읽고 거기에서 추출한 특징을 비교해서 보여주며, AI가 도로를 어떻게 이해하고 있는지를 설명하고 있음

• 신경망이 보여 주는 굽은 도로의 특징을 보면, 특징량은 곡선이 대부분으로 CNN이 도로의 경계 부분을 기준으로 운전하고 있음을 알 수 있는데, 이런 방법을 통해 AI가 습득한 운전 기술의 요체를 사람이 시각적으로 이해할 수 있다는 설명

◈ 2016년이 인공지능의 가능성을 열어젖힌 원년이라면, 2017년은 AI의 블랙박스를 열어 그 작동 논리를 규명함으로써 AI 확산의 기폭제를 마련하는 해가 될 것으로 예상

• 자율운전 자동차를 포함 자율적 인공지능 시스템은 심층강화학습(Deep Reinforcement Learning)이라는 기법을 사용하여 알고리즘이 시행착오를 반복하여 정책을 학습하도록 하고 있음

• 심층강화학습 기법은 알파고에도 사용되고 있으며, 보다 지능적인 AI 개발의 핵심 기법이 될 것으로 보이는데, 현재 심층강화학습의 요체도 블랙박스이지만, 앞으로 이에 대한 규명 작업도 적극 진행될 것으로 예상됨

• 무언가 새롭고 획기적인 것인 등장했을 때, 그것의 요체와 작동 방식을 정확히 모른다면 사람들의 대응 방식은 무조건적인 거부 혹은 반대로 종교와 유사한 무조건적 추종과 같은 극단적 양상을 띨 위험이 있음

• 인공지능이 사회적 합의 위에 다양한 가치를 위해 활용되려면, 그 메커니즘에 대한 정확한 이해가 수반되어야 할 것이며, AI가 인간의 뇌를 본 뜬 것인 만큼, AI를 알아가는 과정은 곧 우리 인간이 스스로에 대해 더 많이 알게 되는 과정이 될 수 있을 것임