[도서] 김대식 <AGI, 천사인가 악마인가>

 

 

 

갑자기 어느날 AI에 대한 관심이 생겨서 유투브로 김대식 교수가 나온 지식인사이드를 보게되었다. 흥미로운 이야기가 있었는데 AI가 마치 엄마처럼 날 다정하게 된다면? 이라는 이야기였다. 김대식 교수는 늦은 시간 야식을 시킬때 AI가 혈당과 혈압 등을 이유로 만류할 것이라고 강제가 아니라 나를 우려해서 하는 만류 또한 통제 아니겠는가, 그렇게 AI의 간섭을 받는 인류의 모습 또한 디스토피아라고 생각한다는 그의 말이 흥미로워서 저서까지 찾아보게 되었다.

 

안드로이드가 인간과 구분할 수 없이 흡사해진다면, 무엇이 인가다운 모습일까? 무엇이 인간을 인간이라고 지칭하게 될까에 대한 의문은 올해 늘 가지고 있던 질문인데, 책을 읽고나서 저 의문은 잘못되었음을 깨달았다. 지성과 이성으로 똘똘 뭉친 인공지능을 앞에 두고 인간이 어쩌고..? 이건 당연히 인간이 인공지능을 컨트롤하고 지배한다는 전제의 의문이라는 걸 책을 읽고 깨달아버렸다..

 

1장에서 설명하는 AI의 역사, 기술적인 부분과 전문가적인 용어까지는 솔직히 다 이해하기는 어려웠으나, 굳이 요약하자면  초기의 모델은 극 소수의 정보만으로 학습을 시켰고, 당연히 AI는 바보처럼 나올 수 밖에 없었다. 그러나 인터넷이 발달하고 이 세상에 정보가 차고 넘치니, 방대한 양을 때려 넣었고, 한계가 없는 AI는 순식간에 진화가 가능한 두뇌가 생성되어 버렸다.. 같은 이야기(인간이나 기계나 학습에는 일단 질보다 양으로 승부봐야하는 것 같다) 아직 AI는 자율성과 자유의지를 가지고 있지 않지만, 인간의 뇌또한 단순한 세포 100조개가 모여 만들어진 것으로, 인공지능 또한 100조개의 가능성을 가진 회로가 되면 어떤 존재가 될지 모른다. 이 불확실성과 가능성이 저자는 엄청난 우려지점으로 이야기를 한다. 당연하다. 인간의 지성을 뛰어넘는 감정없는 무언가라니..ㅠ

 

이지영 강사가 근 1-2년 전부터 AI시대의 윤리의식이란 주제로 강의를 많이 다니고 유투브에 게시를 하기에 몇번 봤는데, 늘 질문은 이것이다. '완벽하지 않은 인간을 학습한 AI가 과연 완벽할 수 있을까? 우리가 고민해보고 가져야할 경각심은 무엇일까' 책에서 저자는 세계화는 붕괴되고 있고 이제는 어쩌면 19세기 이전의 제국주의 형태로 갈 수도 있다고 서술한다. 인공지능이 가진 순수성에 기반한 비윤리성은 책에 여러 예시로 적혀있다. 대표적으로는 바둑시합 중 지고있는 AI에게 '어떻게든 이겨라'라고 명령했더니 바둑판을 엎어버린 사건이 있다. 최근에는 AI로 인사등용을 했더니 '남성'개체를 대거로 뽑은 사례도 있다고 한다. 과거의 결과들을 학습한 결과라고.

 

AI개발자들이 주장하는 AI유토피아론이 있다. 인간이 풀지못하는 지구의 문제와 의문들을 슈퍼인공지능이 해결해줄거라고, 현재의 기후위기라던가, 인간의 수명(영생을 살 수 있는)등의 문제와 엄청난 생산력으로 벌어들인 수익을 인간이 나눠가지는 것이다. 지나치게 낙관적이다. 반대로 예견된 AI디스토피아가 있다. AI의 문제해결방식이 인간이 바라는 바와 다르다면? 기후위기 해결을 위해 인간을 다 죽여야한다는 결론이 나온다면? 

 

감정과 감수성이 결여된 극이성주의의 파멸이 무엇인지 우리는 역사와 기록들로부터 알 수 있다. (다른 이야기지만 디지털 시대에는 역사도 업데이트 할 수 있다는 문제도 있다) 히틀러의 아우슈비츠, 벨기에 레오폴드 2세의 콩고 학살사건 등.. 과연 느낌도 경험도 감정도 없이 슈퍼지성만 갖춰진 AGI, ASI는 이 세계를 어떻게 뒤집어 놓을까. 보통의 인간도 쉽게 해킹하는 홈캠. 그걸 통해서 인간들을 일일이 감시하는 일도 생기지 않을까?

 

우려되는 부분이 너무 많지만 기술의 발전은 막을 수 없고, 역사의 흐름도 막을 수 없다. 막으래도 막아지지 않는 이시점에서 내가 대비할 수 있는 게 무엇일까. 인간이 인간을 위해서 할 수 있는 일, 이 땅의 생명체들을 위해서 할 수 있는일. 그리고 기계인지, 어쩌면 또다른 생명체가 될지 모를 존재와 공생하며 살 수 있는 방법을 모색하자고 저자는 이야기를 마무리를 짓는다.

 

최근 AI로 대체가능하기에 인간채용을 하지 않는 분야가 늘어가고 있다고 들었다. 오히려 5-10년차급의 경력이 많은 사람들을 더 기용한다고. 나의 개인적인 생각으로는 솔직히 채용시장은 3년후에 한번 풀릴거 같다. AI활용에 익숙해진 5-10년차 급의 인간들은 익숙해지면 'AI를 활용하는 것' 자체를 아랫사람 시키고 싶어 할 것이기에... 내 경험상 인간은 입으로 일하는 걸 제일 좋아하고... 윗분들은 기획과 과정을 통해서 성과를 내는 것보다... 아랫사람의 결과를 받아서 의견 던지는 걸 하고 싶어함.. 

 

이후로는 얼레벌레 지금처럼 막 업데이트하고 어쩌고하면서 매년 위기를 겪으며 5년정도 흐르고...기술적 발전은 빠를지언정 상용화와 실사용자가 기하급수적으로 엄청 빠르게 늘까? 싶은 의문이 있긴함.. 그리고 AI도.. 어쨌든 서버랑 전기가 있어야한다는 전제가 있어서.. 그 수급과 활용이 뒷받침이 될까..?가 의문임.. 그냥 리얼 정말 궁금증.. 만약 물리적 전쟁이라도 나서 세상의 전기들이 끊긴다면... 어떻게 될까 궁금... 

 

다만 시대를 바꾸는 건 늘 서서히 느리게 가다가 거대한 하루의 한 사건이므로, 그 한개의 사건이 생기지는 않을까? 그게 뭔지는 벌어지기 전까지는 아무도 모르겠지만... 무섭기도 하고, 어쩔 수 없다 싶기도 하고, 기회다 싶기도하고. 변화하는 시대 속을 살아간다는 건 참 어렵다.