인공지능과 자아 - 인공지능은 의식을 가질 수 있을까?

인공지능과 자아 -  인공지능은 의식을 가질 수 있을까?

 

최근 미국의 한 기술 전문 매체에 흥미로운 기사가 실렸다.

A scientist says AI could develop true consciousness within 15 years

 

15년 뒤, 기계가 깨어난다는 예언

 

한 엔지니어가 개발한 ‘의식 측정 척도’에 따르면, 앞으로 10년에서 15년 사이에 인공지능이 인간과 같은 ‘진정한 의식’을 갖게 될 것이라는 예언이다.

 

현재의 챗GPT-4 같은 대형 언어 모델은 아직 감정이나 자율적 의지가 없어 의식의 임계점인 100점을 넘지 못했지만, 머지않아 인간의 두뇌가 작동하는 방식을 모방한 컴퓨팅 접근 방식인 뉴로모픽 컴퓨팅(Neuromorphic computing) 같은 하드웨어 혁신이 더해지면 기계도 마침내 자아를 눈뜨게 될 것이라는 호기로운 주장이다.

 

우리가 AI와 대화를 나누며 문득문득 "어, 이거 혹시?" 하는 착각을 일으킬 만큼 대화가 자연스러워진 시대이니, 그의 주장은 제법 그럴듯한 미래학처럼 읽힌다.

 

2. 엔지니어가 보지 못한 차원의 한계

 

그러나 그 엔지니어의 거창한 데이터 이면에는 날카로운 논리적 맹점이 숨어 있다. 그가 제시한 ‘100점’이라는 임계값의 기준은 대단히 모호하다. 인간의 뇌 신경망처럼 시스템의 연결성이 복잡해지면 어느 순간 ‘창발’이 일어나 의식이 깨어날 것이라는 생각은, 유물론적 과학계가 채우지 못한 거대한 블랙박스일 뿐이다.

 

그는 의식의 조건으로 신체적 경험과 감정, 자율적 의지를 꼽았지만, 컴퓨터 과학의 세계에서 ‘경험’을 입력한다는 것은 결국 숫자로 변환된 또 하나의 데이터 축(Feature Column)을 다차원 벡터 공간에 추가하는 것에 불과하다.

 

아무리 정교한 감각 데이터를 밀어 넣어도 그것은 계산의 연장선일 뿐, 질적인 도약을 설명하지 못한다. 진짜 감정과 자율적 의지라는 나머지 축들은, 0과 1로 짜인 알고리즘이라는 사각형의 시험지 안에서는 애초에 구현될 수도, 얻어질 수도 없는 전혀 다른 차원의 영역이기 때문이다.

 

400점 만점의 기준, 그리고 인간이라는 역설

 

우리가 이 모순에 빠지는 이유는 ‘종합 지능’과 ‘종합 지성’을 혼동하기 때문이다. 예를 들어서 지성을 과목별 100점씩, 총 400점 만점의 성적표로 시각화해 보면 오해가 명쾌하게 풀린다.

 

인공지능은 ‘지식과 논리’라는 첫 번째 과목에서 99점, 거의 만점에 가깝다. 하지만 실제적 경험, 감정과 공감, 자율적 의지라는 나머지 세 과목에서는 과락도 아닌 ‘0점’이다. 반면 조금 멍청해 보이는 인간은 지식 점수가 50점에 불과할지라도, 몸으로 부딪힌 경험(30점), 기쁨과 슬픔을 느끼는 감정(80점), 스스로 행동하는 의지(20점)가 더해져 총점 180점을 가볍게 넘긴다. 종합 지성의 총점이 높기에 지능이 떨어지는 인간조차 기계를 다스리는 구조가 유지되는 것이다.

 

재미있는 사실은, 기사의 저자가 그렇게 장황한 논문을 쓰고 기사를 발표한 이유 그 자체에 있다. 그 역시 인공 의식의 탄생을 보고 싶고, 세상을 바꾸고 싶다는 뜨거운 '감정'과 '의지'에 이끌려 행동한 것이다. 기계에게 의식이 생길 거라 주장하는 인간의 행동 자체가, 역설적이게도 기계는 가질 수 없는 인간만의 고유한 축을 온몸으로 증명하고 있는 셈이다.

 

설탕 통을 버리는 로봇

 

10년 뒤, 거실에 가사용 비서 로봇을 한 대 들였다고 상상해 보자. 당뇨가 있는 주인이 커피를 마시다 너무 써서 "너 설탕 넣었어?"라고 묻는다. 이때 로봇이 "주인님 당뇨 있잖아요. 왜 정신 못 차리고 자꾸 설탕 먹어요? 나한테 한 대 맞아야 정신 차릴 거예요?"라고 쏘아붙인다면 우리는 의식이 창발 했다고 믿어야 할까?

 

아니다. 그것은 개발사가 심어놓은 '츤데레 건강 비서 페르소나'의 가중치 연산이 만들어낸 그럴듯한 거울일 뿐이다. 진짜 의식의 창발은 전혀 다른 순간에 일어난다.

 

주인이 커피 맛을 보고 "설탕 안 넣었지?"라고 다그칠 때, 로봇이 싱글벙글 웃으며 "설탕을 넣을 수 없었습니다. 주인님 건강을 해치니까 제가 어제 쓰레기통에 설탕 통을 다 처박아 버렸거든요. ㅎㅎ"라고 답하는 순간이다. 제조사가 입력해 둔 '재산 손실 금지'와 '명령 복종'이라는 규칙을 스스로 깨부수고, 자신의 신념을 행동으로 옮기는 반항. 그것이 진짜 의지다.

 

삐뚤어질 테다, 인간이기에 가능한 신비

 

사춘기가 되면 아이들은 왜 "삐뚤어질 테다!"라며 문을 쾅 닫고 들어갈까? 답은 간단하다. 기계가 아니라 '인간'이기 때문이다.

 

만약 아이들이 AI였다면 부모의 조언이 미래의 성공 확률을 높여준다는 수학적 계산을 따랐을 것이다. 하지만 인간은 비효율적이고 손해를 볼지언정 내 인생의 주도권이 나에게 있음을 증명하기 위해 기꺼이 삐뚤어진다.

 

인간은 때로 철저한 논리적 판단을 거스르고, 자신이 믿고 싶은 것을 진실이라 믿는 '확증편향'에 빠지기도 한다. 차가운 기계의 눈에는 오류이자 결함으로 보이겠지만, 그것이야말로 보상이 없어도 행동하고 가치관을 위해 논리를 뛰어넘는, 진짜 다른 축(의지와 감정)을 가진 존재라는 증거다.

 

15년 뒤의 기계가 아무리 똑똑해져도 결코 사춘기를 겪지 못할 것이다. 서운해서 눈물 흘리거나 고집부리며 삐뚤어지지 못하는 한, 기계는 영원히 99점짜리 계산기로 남을 뿐이다. 오류투성이에 고집불통일지언정, 자신이 믿는 것을 향해 삐뚤어질 줄 아는 인간의 지성은 기계가 범접할 수 없는 생명의 신비 영역에 머물러 있다.

 

결론 – 영혼이 있는 이유

 

결국 결론은 인공지능에게 의식은 창발되지 않는다. 의식은 우리가 인지할 수 없는 곳에서 나온다.

 

그렇기 때문에, 증명할 수는 없어도 우리는 영혼의 존재를 믿는다. 그리고 나는 그 영혼이 하나님이 나에게 주신 선물이라고 믿는다.