AI 시대, 우리가 진짜 준비해야 할 것 [SDF다이어리 Ep.41]

2021. 2. 16.

안녕하세요. '지금 놓치지 말아야 할 화두'와 '새로운 관점'을 공유하는 SDF 다이어리입니다.

코로나19가 일상을 멈추고, 아무도 예상하지 못한 방향으로 세상을 바꾸어 놓는 사이에도 진격의 발전으로 우리 삶을 변화시키고 있는 존재가 있습니다.

바로 AI, 인공지능 기술입니다. 아직 그 활용 범위와 영향을 가늠할 수 없기에 늘 막연한 두려움과 기대감이 공존하는 영역이기도 합니다. 오늘 SDF 다이어리에서는 SDF팀이 카이스트 전산학부 김주호 교수와 나눈 대담을 통해 ‘이미 다가온 미래’, AI 시대를 어떻게 바라보고 준비해야 할지 통찰을 나누고자 합니다.

카이스트 전산학부의 김주호 교수는 사람과 기술을 함께 고민하는 인간-컴퓨터 상호작용(HCI)을 연구하는 학자로 집단지성, 데이터 마이닝, 인공지능 등의 기법을 활용하고 설계하며 사람과 기계가 윈-윈하며 공존할 방법을 모색하고 있습니다.

2019년 SDF에서 ‘생각의 차이와 착각을 넘어: 대립에서 화합으로’라는 연구주제로 공감과 소통을 위한 기술 플랫폼 (별별생각)을 개발, 온라인에서 두드러지게 보이는 '의견 양극화' 현상을 심층 분석해, 편견을 강화하는 SNS 알고리즘의 위험성을 경고하고 '건전한 알고리즘을 요구할 권리’가 있음을 환기한 바 있습니다.

▶ (SDF2019 김주호 교수 ‘공감과 소통을 위한 기술’)

AI(인공지능)는 이미 제조, 의료, 금융 등 우리 사회 각 분야에서 다양하게 활용되고 있습니다.

“인공지능 기술이 이제 단순히 와우 팩터(wow factor)를 넘어 실제 제품 서비스, 우리 피부에 와 닿는 무엇인가로 오기 위한 언덕을 넘는 단계로 보인다”고 진단한 김주호 교수는 앞으로 AI의 ‘설명 가능성’, ‘투명성’이 큰 화두가 될 것으로 내다봤습니다. 빅데이터와 복잡한 알고리즘에 기반해 사용자의 일상에 영향을 미치는 의사결정, 추천, 예측을 내놓는 머신러닝 기술에서 그 결과의 근거와 과정의 타당성을 제공하지 못하는 ‘블랙박스’ 현상이 일부 벌어지면서 ‘편향성’에 대한 논란이 끊이지 않고 있기 때문입니다. 김주호 교수는 이를 최근 인공지능 기술의 트렌트와 연관해 설명합니다.

인공지능! “설명을 부탁해”

‘설명 가능한 AI’ XAI (Explainable AI) 중요성 대두

김주호 교수 💬

“최근의 인공지능 기술 트렌드는 데이터를 거의 양과 규모로 승부하는, 지금 사실 딥러닝의 기술이 조금 그런 분위기가 있거든요. 규모의 경제로 좀 가고 있는 추세인데요. 기술적으로 새로운 패러다임이 완전히 등장하지 않는 이상은 그 기술적인 추세를 당장 뒤집기는 어려울 것 같습니다. 사실 ‘양’을 쏟아 부어서 잘된다고 하면 뭔가 멋있어 보이지는 않지만, 한편으로는 굉장히 잘 되는 측면이 있죠. 그렇다 보니 일단 데이터가 더 어마어마하게 필요하고, 그 안에서 ‘편향성’에 대한 고려를 충분히 해서 데이터를 잘 모으는 것이 더 중요해지는 것 같습니다.

그런 것들을 해결하기 위한 여러 가지 시도들이 있습니다. 최근에 유럽에는 GDPR(개인정보보호규정)에서 점점 그런 규제들이 추가되고 있더라고요. ‘설명 가능성’이 담보가 돼야 한다. 예를 들면 누가 카드 신청을 했는데 ‘거절당했다’고 하면 그 알고리즘이 어떤 기준으로 판단해서 (거절)했는지를 설명해 줘야 할 의무가 있고, 그런 규정들이 점점 생기는 것 같아요. 기업에서 회계감사를 하듯이 ‘알고리즘과 데이터에 대한 감사를 하겠다’라는 움직임도 점점 나오고 있고요. ‘투명하게 보겠다’라는 것이죠. AI가 너무 복잡하고 많은 데이터를 활용하다 보니까 자기가 판단을 내려도 ‘왜’에 대한 설명을 할 수가 없기 때문에 제대로, 중요한 의사결정에 쓰이는 알고리즘들이 과연 편향성으로부터 자유로운지 이런 것들을 이제 제3자가 어떤 정부 기관이나 에이전시 같은 데서 감사를 하겠다는 얘기도 나옵니다.

특히 미국 같은 경우는 실제로 법원에서도 재소자의 구속 여부를 결정하는 인공지능이 활용되고 있고, 정부의 자원 같은 것들을 배분하는 예를 들면 무료급식 대상자를 선정한다든가, 생활보호대상자를 선정하는 그런 것들도 다 AI로 하고 있고요. 그런 것들이 점점 중요한 결정들이 이렇게 AI로 많이 넘어가는 상황에서, 투명성과 설명 가능성이 굉장히 큰 화두가 될 것으로 봅니다.”

세계적인 베스트셀러 ‘대량살상 수학무기’의 저자, 캐시 오닐 박사(데이터 과학자) 역시 SDF2018에서 “데이터 알고리즘이 기존의 사회적 편견과 선입견을 강화해 우리 삶에 영향을 끼칠 수 있다”고 강력히 경고한 바 있습니다. 빅데이터를 기반으로 한 알고리즘 모형의 한계가 민주주의를 위협하고, 나아가 우리 인류를 위협하는 ‘대량살상 수학무기’가 될 수 있다는 것입니다. 알고리즘이 많은 것을 판단하는 상황이라면 이 알고리즘이 어떻게 작동하는지, 또 공정한지, 어떤 데이터에 기반한 것인지 우리는 알아야 하고 그 권리를 주장해야 한다는 것이죠. 그는 대중들이 생각하는 것처럼 알고리즘은 전혀 객관적이지도 않으며, 흔히 생각하는 과학적 도구, 진실이 아니라고 강조 합니다.

▶ (캐시 오닐, SDF2018 빅데이터 시대를 되묻다)

일상화 되는 인공지능, 사람과 AI의 관계는?

“AI를 보는 관점의 전환 필요”

꽤 오래전부터 예고됐던 인공지능발 일자리 지형 변화도 팬데믹과 맞물려 가속화되고 있습니다. (SDF다이어리 Ep.32 어떤 직업이 살아남을까? 참조) AI라는 기술이 우리 일상에 더 깊이 스며들 미래, 인간이 느낄 무력감에 대한 우려도 나오는데요. 김주호 교수는 AI와 인간의 관계에 ‘담론’을 바꿀 것을 제안합니다.

김주호 교수 💬

“제일 좀 걱정되는 것 중의 하나가 언론의 영향이 있을 수 있고 대중의 막연한 두려움 때문일 수도 있는데 ‘AI가 사람을 대체 할 것이다’ 혹은 AI와 사람이 대결구도로 가서 ‘누가 누구를 이길 것이다’ 아니면 ‘어떤 영역에서는 이미 이겼고 계속 더 이겨나갈 것이다’ 이런 식의 이야기가 계속 흘러가는 게 저는 좀 위험한 부분이 있다고 생각합니다.

이게 누가 누구를 이기는 문제가 아니라 사실은 이 AI라는 굉장히 가능성이 높고 잘 될 수 있는 도구를 우리가 어떻게 사용해서 더 새로운 산업을 만들고 새로운 가치를 제공할 것인가가 중요한데, 그런 얘기들 보다 AI의 성능 자체, 사람보다 ‘잘한다, 못한다’ 이런 쪽에 너무 담론이 치우쳐 있어서 그런 것들이 좀 제대로 잡히지 않으면 AI가 점점 더 (확장) 적용이 되는 상황에서도 결국에는 좀 악영향이 많이 있지 않을까..

그런 측면에서 보면 저는 자동차가 생각나더라고요. 옛날 백 몇 십 년 전에 자동차가 처음 나왔을 때 말을 타고 다니고 인력거를 타고 다니고 하다가 너무나 빠르고 너무나 멋진 이 기계가 나와서, 누가 봐도 ‘와, 이런 게 정말 이제 퍼지면 완전히 다른 세상이 되겠구나’라고 생각을 했을 텐데, 사람보다 자동차가 빠르니까 사람의 존재 가치를 의심스럽게 생각을 했다기보다는 처음에 당연히 저항도 있고, 어려움도 있었지만 결국에는 자동차라는 굉장한 도구를 활용해서 새로운 산업들이 엄청나게 생기고 파급효과가 굉장히 커서 산업이 다음 단계로 넘어가는 어떤 중요한 역할을 한 것이죠.

우리의 생각 자체가 자꾸 AI와 대결 식으로 생각하다 보니까 AI한테 밀리면 어떡하지? 나를 대체하면 어떡하지? 약간 그런 적대적인 감정도 갖게 될 수 있고, 그러다 보니까 좀 (AI라는 도구를) 생산적으로 활용할 수 있는 이야기들 보다 걱정이나 우려 이런 것들이 너무 앞서게 되는 그런 측면이 있는 것 같아요. ”

“AI 교육, 데이터‧개인정보‧윤리적 이슈 배우는 것이 더 중요”

“작년에 제일 많이 들었던 질문 중 하나는, 그래서 ‘AI 교육’은 어떻게 해야 하는가? 입니다. ‘초등학교 때부터 학생들한테 딥러닝을 가르쳐야 하는가?’ AI도 처음 배우는 과정은 비슷하거든요. 딥러닝 기초 배우고, 수식도 좀 나오고 하는데요, 그런데 나에게 필요한 AI는 이론적인 것이 아닐 수 있잖아요. 물론 이론적 배경을 알면 좋지만, 솔직히 이야기하면 AI에 이론적인 면에 기여할 가능성이 있는 사람은 그렇게 많지는 않은데 왜 다들 ‘AI를 배운다’라고 하면 원리, 이론적인 것을 배우고 있는가? 오히려 저는 ‘이루다’ 사례 같은 데서 보는 데이터 사용의 이슈, 개인정보 보호의 이슈, 윤리적 이슈, 그런 것들이 어떻게 보면 더 중요할 수 있고 혹은 우리 도메인에 AI를 어떻게 접목할지에 대한 부분에서 새로운 교육 콘텐츠들을 만들어내고 가르치고, 혹은 AI를 활용해서 어떻게 하면 더 내가 하던 일을 잘 할 수 있을까? AI 교육과 관련해 이런 것들을 생각해야 하는 것이 아닌가?라는 생각을 합니다.

지금은 다들 AI를, 나를 넘어설 수도 있는 무서운 존재로 보기 때문에 ‘AI의 원리를 까보자!’ 라는 식의 교육만 있는 상황인 것 같아요. 그게 AI를 대결구도로 인지하기 때문에 오는 단점 중의 하나라고 생각하고, 그래서 이제 AI의 교육 측면에서도 그런 환기가 필요하지 않을까? 하는 생각이 들었습니다”

SDF 마흔한 번째 다이어리에서는 이미 펼쳐진 AI 시대를 어떻게, 다른 관점으로 바라보고 살아갈 수 있을지 이야기해 보았습니다. 기계‧기술의 발전의 역사를 따라 인간의 삶의 형태는 크게 변화해 왔습니다. 그리고 우리는 지금 변화의 한복판에 서 있습니다. 기술을 활용해 긍정적인 미래를 열어갈 수 있는 방법을 SDF는 더 깊이 고민하고 같이 찾아가겠습니다.

SDF는 지금 다양한 영역에서 일어나고 있는 변화와 새로운 목소리에 관심을 갖고 2021년의 주제를 찾고 있습니다. 여러분은 최근 주변에 일어나고 있는 일들 중 어떤 이슈에 가장 관심을 가지고 계신가요? 또 앞으로 가장 주목해서 봐야 할 문제들은 무엇이라고 생각하시나요? 여러분의 소중한 의견으로 더 나은 SDF를 만들어가겠습니다. 답 메일을 기다립니다. 🙏🙏🙏

SDF DIARY 를 만드는 사람들

😁류란 기자 : 입사 12년차 SBS 보도본부 기자. 주로 법조팀과 사건팀, 영화 담당 기자로 근무했습니다. 기술의 발전과 그로 인한 사람들의 생활상의 변화에 관심이 많습니다.

😀이정애 기자 : 26년차 취재기자로 사회부, 경제부, 국제부, 미래부 등을 거쳤습니다. ‘뉴스추적’이라는 시사고발프로그램을 맡으면서 사안의 본질을 들여다보는 것에 관심을 갖게 됐습니다. 최근 10여년 서울디지털포럼과 미래한국리포트 등을 만들어 왔으며 2018년부터는 ‘SBS D포럼’을 총괄 기획하고 있습니다.

😉이종훈 기자 : 내년이면 입사 20년을 맞는 중견 기자. 인간을 둘러싼 모든 것들, 그리고 저널리즘에 관심이 많습니다. 통찰력 있는 따뜻한 시선으로 세상 구석구석을 들여다보고 많은 분들과 함께 이야기 나누고 싶습니다.

😊임세종 촬영감독 : 현재 SDF 팀의 촬영 감독을 맡고 있습니다. 사람들과 협업을 중요시하는 프리랜서로 다양한 활동을 하고 있습니다.

😝최예진 작가 : 13년째 방송작가로 일하고 있습니다. 시사, 뉴스, 선거 방송 등 다양한 프로그램들을 경험했고 2018년부터 D포럼을 기획‧구성하고 있습니다. 지식 포럼을 조금 더 대중 친화적으로, '가까이 와닿는' 포럼으로 만들고 싶습니다.

😄최진영 아트디렉터 : SDF 모션그래픽 디자인을 담당하고 있습니다. SDF에서 제작된 영상이 시각적 효과에 의해 왜곡되어 보이지 않게 항상 신중히 작업해 나가겠습니다.