엑스 마키나-인류는 AI에게 지배당하게 될까?

# 줄거리

프로그래머 ‘칼렙’은 경쟁 끝에 인공지능 분야의 천재 개발자 ‘네이든’의 새로운 프로젝트에 참여하게 된다. 외부엔 알려지지 않은 그의 비밀 연구소로 초대받은 ‘칼렙’은 그 곳에서 네이든이 창조한 매혹적인 A.I. ‘에이바’를 만나게 된다.

CEO인 네이든은 칼렙에게 에이바가 사람이 가지고 있는 인격, 감정과 같은 자아가 있는지, 프로그래밍된 수준에서 반응하는 것인지를 테스트하는 임무를 부여한다.

칼렙은 AI인 에이바에게 인간적인 감정을 품게 되고, 에이바는 칼렙에게 네이든을 믿어서는 안된다고 말하며 자신을 연구소 밖으로 탈출할 수 있도록 요구한다.

# 빅 데이터와 AI의 결합

AI는 Deep-learning을 통해 쉬지 않고 학습할 수 있는 능력을 가지고 있다. 그리고, 빅데이터와 연결되어 그 학습량과 속도는 인간이 따라잡을 수 없는 수준이다. 인간이 사랑하고, 상처받고, 잠자는 순간에도 AI는 전기코드만 꽂혀져 있다면 계속해서 습득해 나간다.

# 인간의 자아의식은 데이터화될 수 있는가

AI도 자의식 또는 자아가 있는 것이 있고, 그렇지 않는 것이 있다고 한다. AI는 윤리적, 도덕적 판단을 할 수 있을까에 대한 물음에 지금의 과학자들은 가능하다는 평가이다. 그래서, 암묵적으로 자의식이 있는 AI를 개발할 경우, 소스코드를 개방하는 것을 원칙으로 삼고 있다고 관련 업계 종사들은 말하고 있다.

자의식이 있는 AI는 인간에게 도움이 될 수도 있지만, 그렇지 않을 수도 있기 때문에 통제가능한 범위 내에서만 허용해야 한다는 것이 다수 견해로 보인다.

윤리적, 도덕적 판단이란 자신이 살기 위해서 타인의 목숨을 빼앗는 것은 정당한가와 같은 물음의 문제들이라고 보면 된다.

하지만, 윤리적, 도덕적 판단이라는 것이 참으로 모호한 것인데, 과연 AI에게 이같은 명제에 대해 어떤 식으로 학습을 해 나갈 수 있을지는 미지수이다. 그리고, 그것이 인간에게 유리한 방향으로 진행될 수 있을지도 의문이다.

# AI가 인간을 유인원으로 치부하게 될 가능성은 없는가

인간이 동물과 다르다는 구분은 이성의 유무, 이로인해 사고를 할 수 있는지 여부이다. 하지만, 인간은 때로는 비이성적이고 감정적이며 본능적이다. 합리적 판단에 따른 결론을 알고 있으면서도 다른 선택을 할 수 있는 것이 인간의 특성이다.

AI의 합리적 사고체계 속에서 바라본 인간의 의사결정과 행동양식은 어떤 식으로 평가될까. 인간의 비논리적, 비이성적인 결정, 하지만, 가장 인간다운 결정에 대해 AI는 비효율적이라는 판단을 내리지 않을까. 그래서, 인간다운 인간의 결정과 선택에 대해 저급하고 동물적 수준의 그것으로 평가한 뒤, 이를 예방하는 쪽으로 처리능력을 발휘한 나머지 수준 미달의 인간을 쓸모없는 존재로 판단하면 어떻게 되는 것인가.

# 인류의 종말과 그 뒤의 존재는 무엇인가

베르나르 베르베르의 제3인류라는 소설에서는 지구는 사고를 하는 생명체로 그려진다. 지구는 오래 전에 외부 행성과 충돌해서 고통을 겪은 적이 있고, 그 때문에 둘로 쪼개졌다. 쪼개진 부분이 바로 '달'이다.

지구는 생각한다. 그리고, 지구에 있는 생명체를 자극해서 진화를 거듭한다. 물고기, 양서류, 파충류 등 여러 부류의 생명체에게 메세지를 전달해서 다가올 행성충돌을 방지할 수 있는 존재를 기다린다.

그러한 선택에 의해 발현된 것이 인간이다. 하지만, 인간도 지구 밖으로 나갈 수 있는 수준에는 이르지만, 다가올 행성충돌의 대비책을 확실히 제시해 주지 못 하기 때문에 지구는 또 다른 존재를 선택하려고 한다.

비록 소설 속의 내용이지만, 지구상의 모든 존재가 모습을 드러냈다가 결국은 멸종했다. 지구의 역사로 볼 때 인간의 출현은 너무나 짧은 기간동안 이루어져 있다. 가급적 인간이 멸종하지 않고 오래도록 지속되기를 바라지만, 언젠가는 다른 존재에 의해 지구의 패권을 내어 놓게 될 것이다.

# 관리통제권

AI를 개발하더라도 관리통제 범위 내에 있기만 하면 큰 문제가 되지 않고, 인간에게 효익을 주는 쪽으로 기술개발을 이루어갈 수 있다는 것이 현재의 지배적 견해인 것으로 보인다.

예측가능한 결과는 예측하지 못 했던 변수에 의해서 값진 결과가 되기도 하고, 사장되기도 했던 것이 역사적 경험을 통해 얻은 교훈이다.

향후 30~40년 후에는 인류는 평균 120세까지 생존할 수 있을 것으로 전망하고 있다. 그리고, 인구는 확연히 감소할 것으로 예상된다. 그래서 감소된 노동인구만큼 새로운 기술이 이를 대체하고, 그 기술관련 일자리가 다시 창출될 것으로 예상한다.

관리나 통제는 우위에 있는 존재가 그 하위에 있는 존재에 대한 것이다. 인간의 지능과 이성을 뛰어넘은 존재를 안전하게 관리, 통제할 수 있다고는 생각치 않는다. 다만, 그렇게 되기를 바랄 뿐이다.

변호사로서 도움이 되는 글과 세상을 살아가는 사람으로서 좋은 소통을 원합니다.
Follow
4.7 Star App Store Review!
Cpl.dev***uke
The Communities are great you rarely see anyone get in to an argument :)
king***ing
Love Love LOVE
Download

Select Collections