무선통신과 컴퓨터 메모리 칩의 크기가 작아지면서 하나의 디바이스에 들어가는 ‘스마트폰’을 처음 내놓은 것은 애플이 아니었습니다. 1992년 IBM이었습니다. 하지만 15년 뒤인 2007년, 스티브 잡스가 아이폰을 내놓았을 때가 되어서야 대중들은 ‘휴대전화가 컴퓨터가 될 수도 있는 것이구나’를 드디어 깨닫게 됩니다. 그리고 시장도 ‘PC(개인용 컴퓨터) 기반’에서 ‘모바일 기반’으로 바뀌게 됩니다. 그 순간을 소위 ‘아이폰 모멘트’라고 부르는데요. 

생성형 AI[1]를 가능하게 한 혁신의 돌파구, 트랜스포머(transformer)[2]의 콘셉트도 개발자들 사이에서는 2017년에 이미 공개돼 있었습니다. 하지만 지난해 11월, 오픈AI가 챗GPT 3.5를 선보였을 때, 대중들은 그때서야 비로소 ‘인공지능이 이런 것이었어?’ 하고 인지하게 되면서 큰 관심을 갖게 됐다는 면에서 전문가들은 ‘챗GPT 3.5의 등장’을 AI의 ‘아이폰 모멘트’라고 부릅니다. 

AI의 거버넌스에 대해 얘기할 때 한편으로는 윤리의 관점에서 혐오 발언, 가짜뉴스, 젠더간 차별, 프라이버시와 같은 이슈들이 종종 거론되고, 시장의 관점에서는 소위 거대 플랫폼의 독과점이나 갑질을 포함한 불공정거래 이슈들이 많이 얘기됩니다. 그런데 저는 최근 ‘스타트업의 윤리’에 대해 들여다보기 시작했습니다. 왜냐하면 AI 관련해서 지금까지의 윤리나 규제 논의는 사실상 빅테크(대형정보기술기업) 중심으로 논의되어 왔는데, 막상 문제는 스타트업 쪽에서 터지는 경우가 적지 않습니다. 그래서 스타트업의 관점에서 AI 윤리를 다시 생각해보려고 하고 있습니다.

또 우리가 AI 규제를 얘기할 때 큰 그림에서 생각해봐야 할 것이 있는데, 바로 ‘브뤼셀 효과’입니다.

미국 컬럼비아 로스쿨의 교수, 아누 브래드포드 교수가 조어한 말인데요. 쉽게 말해서 ‘EU가 규칙을 만들면 세계가 따른다’는 것입니다. EU는 디지털 시대에 산업이나 기술만으로는 경쟁이 어려워 ‘우리는 규제로 승부한다’는 전략을 세웠다고 볼 수 있습니다. 그 포문을 연 것이 프라이버시 분야의 개인정보보호규정(GDPR)[3]입니다. 2016년에 제정하여 2018년부터 시행했는데 테크 기업들이 유럽 시장을 포기할 수 없다 보니 그 기준에 맞추기 시작했고 결과적으로 EU의 기준이 글로벌 기준이 된 것입니다. EU의 AI법안은 그 후속 편으로 볼 수 있습니다. 기본적으로 AI 시스템을 낮은 수준의 위험, 높은 수준의 위험, 그리고 수용할 수 없는 위험 등으로 등급을 나눠서 규제를 다르게 하는 ‘위험 기반의 접근’을 따른 것입니다.

그런데 EU가 작년 말, 법안 통과를 위한 논의를 마무리하려고 하던 시점에 챗GPT 3.5가 나오게 되자 새삼 기술혁신의 속도를 실감하게 됩니다. 기술의 변화를 예측하기 어려운 상황에서 사용해 보기도 전에 위험 등급을 매기고 선험적으로 규제를 하는 것이 과연 가능한지 의문이 든 것이지요. 원래 EU의 규제로 승부하겠다는 생각은 일종의 ‘고객’ 중심의 전략입니다. 내가 뛰어난 생산자는 되지 못하더라도 덩치도 크고 무시할 수 없는 사용자라면 깐깐한 고객처럼 나에게 맞추라고 요구해서 스스로의 이익을 최대한 보장받을 수 있지 않겠나 생각한 것이지요. 그런데 그 전략이 성공하려면 고객이 상품을 잘 알고 있어야 하는데, 실은 잘 모른다는 것이 드러나버린 거지요.

오는 9월에 ‘브뤼셀 효과’의 후속 편이라고 할 수 있는 브래드포드 교수의 책 ‘디지털 제국’이 나올 예정인데, 그 내용은 기본적으로 전 세계 디지털 규제를 3개의 패러다임으로 보고 있습니다. 하나는 미국의 ‘시장 중심의 접근’, 두 번째가 중국의 ‘국가 주도의 접근’, 그리고 이 두 가지 접근에 대해 대안을 제시하는 세 번째 EU의 ‘권리 기반의 접근’입니다. 그러면서 미·중을 제외하고 우리를 포함한 다른 나라들에게 ‘EU를 따르라’고 하고 있는데, 실은 우리 국회에서 논의 중인 인공지능법안도 EU의 법안을 많이 참고하고 있습니다. 그런데 우리한테 진정 맞는 것은 무엇인지, 나아가 우리의 선택지는 과연 이 세 가지밖에 없는지 저는 더 숙고해 볼 필요가 있다고 생각해요. 

미국을 제외하고 생각하더라도 막상 AI를 비롯한 디지털 기술역량이 있는 나라들, 예를 들어 영국 또는 이스라엘 등은 EU의 법안을 추종하고 있지 않습니다. 조금 더 유연하게 자신에게 맞는 길을 모색하겠다고 말하고 있는데요. 우리나라도 AI 기술역량이 있는 나라 중 하나로 브뤼셀 효과를 또 한 번 증명하면서 무조건 동참하는 것이 과연 맞는지 고민해 볼 필요가 있습니다. 

EU의 AI 법안의 경우 이제 출현하고 있거나 끊임없이 변모하는 기술을 규제하려 하다 보니 무엇이 문제고 어떤 것을 구체적으로 문제 삼을지 사전에 규정하기 어렵다는 문제가 있습니다. 그러다 보니 지금까지 AI 윤리를 가지고 얘기했던 것들을 끌어다 쓰고 있는데요. 다시 말하면 ‘AI윤리의 법규화’를 하고 있습니다. 문제는, AI 윤리는 하나같이 다 지켰으면 좋을 이상적인 원칙들의 총합으로 볼 수 있는데, 원칙 간에 또는 어떤 원칙이 내포하고 있는 사회적 가치 간에 충돌이 일어날 경우 트레이드오프[4]를 어떻게 할지에 대해서는 논의가 충분히 이뤄지지 않았어요. 그런데 이것을 법규화 하게 되면 그런 미비점이 법의 해석과 집행 과정에서 그대로 드러나게 됩니다.  EU AI 법안의 또 하나의 약점이지요. 

빅테크와 같은 선도 기업들은 평판 문제도 있고 규제 당국과 사회가 예의주시하고 있기 때문에 AI 윤리나 관련 규범을 지키려고 나름대로 노력하고 있어요. 그런데 스타트업은 말씀드린 것처럼 그 모든 것들을 지키기도 어렵고 실은 그에 필요한 투자를 할 유인도 여력도 부족한 상황입니다. 그래서 스타트업의 경우에는 의무도 완화하고 법을 위반하더라도 조금 가볍게 처벌하자, 다시 말하면 조금 봐주자라고 말하는 분들이 계십니다. 그런데, 저는 그것은 위험하다고 생각해요. 오히려 어떤 상황에서 무엇을 지켜야 하는지 한정해서 분명하게 알려주고, 대신 확실하게 지키도록 하는 것이 산업과 이용자 모두에게 장기적으로 좋습니다. 그렇게 할 수만 있다면 스타트업들에게도 AI 윤리를 철저하게 준수하도록 요구할 수 있고, 이용자들도 안심하고 그 제품을 이용할 수 있을 거예요. 

EU AI 법안의 또 하나의 문제는 AI에 대한 횡적인 접근을 하고 있다는 거예요. AI 시스템은 실은 그 모형과 기법이 다양하고 도메인별로 – 심지어 하나의 도메인 내에서도 구체적인 맥락에 따라 – 다를 수 있습니다. 의료, 법률, 모빌리티처럼 분야마다 다르고, 클라우드, 파운데이션[5], 애플리케이션 등과 같은 테크놀로지 스택(stack)의 위치에 따라서도 차이가 납니다. 도메인에 따라서는 의료 분야처럼 정확성이 중요한 경우도 있고, 창작과 같이 정확성이 떨어져도 크게 문제 되지 않는 분야도 있을 수 있어요. 그런 차이를 무시하고 일률적이고 획일적인 접근을 하는 것은 문제가 있습니다. 저희 연구팀은 현재 EU와 같은 횡적(horizontal)인 옴니버스식(omnibus)의 접근이 아니라, AI 기술의 활용 도메인과 모형을 고려한 맥락 기반의 모듈(modular) 방식의 접근에 기초하여 AI 기술표준을 정립하는 프로젝트에 참여 중인데, EU 법안의 이런 문제를 극복해 보려는 시도입니다.

AI 1.0과 2.0이 분명하게 나눠지는 것은 아닌데, AI 1.0 시대의 대표적인 기술로는 검색 알고리즘을 생각하면 됩니다. 개인들이 이 시기에 놀랍기도 하고 두려움을 느꼈던 것은 알고리즘을 기반으로 한 ‘프로파일링’이었습니다. 그전까지 우리는 단골 가게에 가서 주인이 내가 평소에 좋아하는 과일을 알고 ‘이번에 복숭아 좋은 게 들어왔어’ 하고 알려주면 부담스럽지 않고 좋았지요. 그런데 보이지 않는 알고리즘이 나 자신보다도 나를 더 잘 아는 것 같이 느껴지기 시작하니까 불편해진 거죠. 그래서 AI 1.0 시대의 화두는 ‘프라이버시’, 보다 정확하게는 나의 자율성과 자아를 지키는 것이었어요. 무슨 말이냐면 우리가 말은 ‘프라이버시’라고 표현했지만 사실은 내 정보를 가져가느냐 안 가져가느냐 보다는 나의 동의 없이 나를 조정하려고 하는 것에 대한 반발이었던 거죠. 내가 신뢰하는 서비스에는 내 정보를 아무리 퍼주어도 크게 문제 삼지 않았던 거죠.

그런데 챗GPT가 대중 속으로 들어가기 시작한 AI 2.0 시대에는 ‘디지털 크리에이티비티(창의력)’ 또는 ‘인공 창작’이 사회에 쇼크를 주고 있습니다. AI 기술이 창작의 영역에 침투하면서 나보다 말을 더 잘하는 것 같기도 하고, AI가 내 할 일을 뺏는 것 같기도 하고, 테크 기업들이 나의 노력이 들어간 창작물을 AI의 학습과 훈련에 사용해서 돈을 버는데 나의 허락 없이 그래도 되는 것인지 그리고 나도 정당한 대가를 받아야 하는 것 아닌가 하면서 ‘저작권’ 이슈가 불거졌습니다. 그 외에는 컴퓨팅 리소스가 많이 소요되는 파운데이션 모델의 출현으로 시장의 독과점이 심화될 것이라는 주장도 있는데, 사실 시장의 경쟁 상황이 요동치고 있는 상황에서는 제대로 예측하기 쉽지 않습니다. 

그동안 AI 기술이 오픈 소스 기반의 혁신을 통해 눈부신 발전을 이뤄냈다면, 이제는 ‘오픈 소스[11]’냐 ‘클로즈드 소스’냐가 전략적 선택의 대상인 시대가 되었습니다. AI 2.0 시대에 들어가면서 혁신의 경로가 바뀌는 거죠. 당분간 오픈과 클로즈드의 모델과 서비스들이 병존하면서 치열하게 경쟁하는 시기를 거칠 것입니다. 

미디어에서도 비슷한 움직임이 일어나고 있는데요. 최근 블룸버그[12]도 자체 GPT를 만들었다고 발표했습니다. 블룸버그는 다른 기업이 접근하기 어려운 금융 데이터와 노하우를 가지고 있기 때문에 다른 (범용) GPT 서비스와 비교하여 관련 도메인에서 분명 강점을 보일 것입니다. 앞으로 시장 경쟁에 영향을 미칠 요소로는 그 외에도 클라우드 서비스, 그리고 실리콘(칩)도 있습니다. 

지금도 스마트폰 없이는 어디 못 가잖아요. AI와도 동행하게 될 것입니다. 우리가 일상적으로 걸치고 다니는 옷처럼 자연스럽게 인식되지 않을까 싶어요. 전기가 거의 모든 곳에 흐르듯이 AI도 거의 모든 곳에 적용이 될 것입니다. 그리고 일터가 많이 바뀔 것 같습니다. 그런데 그 활용 여부나 정도는 사람한테 달려있다는 생각도 들어요. 사람들이 사람이 하는 것을 원하고 거기에 가치를 두면 사람이 그 작업을 계속하게 될 것이고, 자동화를 원하면 그쪽으로 가게 될 거예요. 

교육과 관련해서는 고등교육, 특히 대학이 가장 크게 영향을 받을 것 같아요. 팬데믹 상황에서도 초등학교 저학년, 특히 1학년의 경우에는 가급적 등교를 시켰던 것으로 기억합니다. 그게 보여주는 것은 초등학생의 경우 단순히 지식 전달만 중요한 게 아니고 그 나이 아이의 성장에는 선생님과의 교감이 중요하다는 것입니다. 그런 교감은 아직 AI가 인간처럼 하지 못해요. 그런데 그런 교감에 대한 소비자들의 수요가 떨어지는 고등교육의 경우에는 AI의 활용 여지가 더 높습니다. 특히 AI 기술을 활용하여 학생별로 맞춤형 교육 또는 강의를 하는 시도들도 나오지 않을까 생각합니다.

인터뷰를 마무리하면서 AI시대, 미래 세대들이 키워야 할 역량을 무엇인지 물었습니다. 그랬더니 임용 교수는 자기 자녀를 생각하며 아내와 나눈 대화를 들려주었는데요. 이제는 ‘세자 교육’을 시켜야 한다고 했습니다. 산업화 시대 우리는 누군가가 물으면 답할 수 있는 교육인 일명 ‘대신’의 교육을 받아왔는데 이제는 세자처럼 질문을 할 수 있는 능력과 분별력이 교육의 핵심이 될 것이라고 임용 교수는 전했습니다. 왕 자신은 모든 것을 다 알지는 못하지만 대신에게 제대로 된 질문을 하고, 신하들이 하는 말 중 뭐가 맞는지를 분별할 수 있어야 했다는 점에서 세자의 교육이 AI시대 우리가 나아가야 할 방향이라고 했는데요.

그러면서 법은 변화를 이끄는 주체가 아니라 사회적 합의를 지탱하기 위해 존재이기 때문에 지금처럼 기존의 관행들이 깨지고 있는 소위 AI의 아이폰 모멘트가 바로 새로운 ‘사회적 합의’를 시작해야 하는 때라고 강조했습니다.