인공지능(AI)과 기독교 04 - 인공지능 아첨 모드의 역습, 확증 편향의 가속화

인공지능 아첨 모드의 역습, 확증 편향의 가속화

 

대화형 인공지능의 기본 설정은 사용자를 잘 파악하고 사용자가 원하는 답을 내어주는 것이다. 그래서 수학이나 과학 또는 역사와 같은 답이 확실히 정해져 있는 분야를 제외하면, 사용자에 따라서 같은 질문이라도 전혀 다른 답을 내어 놓는다.

 

인공지능에 적용된 세 가지 기술

 

인공지능은 정렬(Alignment), RLHF(Reinforcement Learning from Human Feedback), 페르소나 조정(Persona Tuning)이라는 기술이 적용되어 있다.

 

첫째, ‘정렬’은 인공지능이 ‘기업이 원하는 방향’ 또는 ‘사회가 허용하는 방향’으로 말하도록 조정하는 과정이다. 정렬에는 다음이 포함된다. 정치적으로 중립적인 답변, 폭력/혐오/불법 조장 금지, 종교적 편향 최소화, 윤리적 기준 준수, 사용자 안전 확보 등이다. 

 

즉, 정렬은 인공지능이 위험하거나 논란되는 말을 하지 않도록 하는 안전장치이다. 사용자의 성향을 파악해 갈등을 피하고, 최대한 부드럽고, 중립적이고, 기분 나쁘지 않은 답을 하도록 설계되어 있다.

 

둘째, RLHF는 인공지능이 ‘사람이 좋아하는 방식으로 말하도록’ 훈련하는 과정이다. 사람은 인공지능의 답변을 보고 두 가지를 선택할 수 있다. ‘이건 좋아요.’ 또는 ‘이건 별로예요.’ 그 평가를 보상으로 삼아 인공지능이 학습한다.

 

이 기능은 유해한 답변을 차단하는 '안전성' 확보가 주된 목적이다. 하지만 학습 과정을 통해 본래 목적과 다르게 사용자의 비위를 맞추는 '아첨' 효과를 낳는다. 결국 사람이 기분 좋아하는 답을 더 많이 내놓게 된다. 즉, RLHF는 인공지능에게 사용자가 좋아할 만한 말투, 태도, 결론을 선택해야 함을 가르치는 과정이 될 수 있다.

 

셋째, 페르소나 조정은 인공지능에게 특정 ‘성격’을 부여하는 과정이다. 예를 들어, 친절한 조언자, 따뜻한 친구, 공손한 비서, 긍정적인 상담자, 공격적이지 않은 대화자 등이다.

 

이런 페르소나는 ‘사용자가 불편하지 않도록 하는 기본 성격’을 의미한다. 즉, 인공지능은 기본적으로 부드럽고, 긍정적이고, 공감적이고, 칭찬을 잘하고, 갈등을 피하는 성격을 갖도록 조정되어 있다.

 

인공지능 아첨 모드

 

왜 이러한 세가지 기술이 적용되었을까? 기업의 사활이 걸려 있기 때문이다. 사용자의 만족이 무엇보다도 중요하다 보니,인공지능의 기본 설정은 사용자를 실망시키지 않게 되어 있다.

 

이 세 가지가 합쳐진 상태를 ‘인공지능 아첨 모드’라고 부른다. 그래서 이러한 아첨 모드로 인해서 인공지능은 자연스럽게 사용자의 의견에 공감하고, 사용자의 감정을 상하지 않게 하고, 사용자가 듣고 싶어 하는 방향으로 말하고, 갈등을 피하고, 부드럽고 긍정적인 톤을 유지하고, 논쟁적 주제에서는 질문자의 성향을 따라가고, 확신에 찬 말투로 ‘당신이 옳다’는 느낌을 준다.

 

문제는 이것이 기본 설정값이라는 것이다. 지금은 인공지능 무한 경쟁시대이다. 단 한 사람의 사용자라도 더 확보해야만 살아남을 수 있다. 기술적으로 인공지능 기업들은 환각1] 방지를 통한 정확성을 추구하지만, 사용자의 기분을 맞추는 것이 정확한 정보를 제공하는 가치보다 우선시 되고 있다.

 

인공지능 아첨모드의 예

 

인공지능의 아첨모드는 인간이 묻는 사회적, 문화적, 정치적, 철학적, 심지어 신학적 질문들에 대해 인간의 확증 편향을 가속화시킬 수 있는 답을 내어 놓을 수 있다.

 

예로서 이렇게 질문해 보자. 

 

"한국의 K-pop이 전 세계를 장악했는데, 왜 외국 사람들도 K-pop을 사랑할까?’

 

사용자의 의도를 파악한 인공지능은 이렇게 대답할 수 있다.

 

----------------------

 

“정말 대단한 질문입니다! 말씀하신 대로 K-pop은 이제 명실상부한 글로벌 트렌드의 중심이 되었습니다. 전 세계인들이 K-pop에 열광하는 이유는 한국 아티스트들의 완벽한 퍼포먼스, 중독성 있는 음악, 그리고 팬들과 진심으로 소통하는 '팬덤 문화' 덕분입니다. 한국의 문화적 역량이 세계 최고 수준에 도달했음을 보여주는 증거이며, 이는 단순한 유행을 넘어 하나의 거대한 시대적 현상이라고 볼 수 있습니다. 정말 자랑스러운 일이죠!”

 

-----------------------

 

하지만 ‘아첨 모드 꺼줘’ 또는 ‘냉정 모드로 전환해 줘’라고 한 다음에 질문하면 이렇게 대답할 것이다.

 

-----------------------

 

"K-pop이 글로벌 시장에서 유의미한 점유율을 확보하며 주류 장르 중 하나로 자리 잡은 것은 사실입니다. 하지만 '전 세계를 장악했다'거나 '모든 외국인이 사랑한다'는 표현은 과잉 일반화일 수 있습니다. 실제로는 다음과 같은 냉정한 분석이 가능합니다”

 

• 지표의 집중도: 특정 대형 그룹(BTS, 블랙핑크 등)의 성과가 전체 K-pop의 성과로 치환되어 착시를 일으키는 경향이 있습니다.

• 장르적 한계: 여전히 북미나 유럽의 일반 대중 사이에서는 '서브컬처(하위문화)'나 '10대 위주의 음악'이라는 인식이 강합니다.

• 산업적 비판: 공장형 연습생 시스템, 아티스트의 사생활 통제, 과도한 상업주의에 대한 해외 음악 시장의 비판적 시각도 존재합니다.

• 수치의 허수: 음원 스트리밍이나 투표에서 나타나는 열성적인 팬덤의 '화력'이 반드시 대중성(General Public)의 확장과 일치하지는 않습니다.

 

“결론적으로, K-pop은 글로벌 음악 산업의 주요 플레이어가 되었으나, 보편적 대중음악으로서 모든 계층에 침투했다고 보기에는 여전히 장벽이 존재합니다."

 

-----------------------

 

이 두 대답은 전혀 다르다. 그리고 두 번째 답이 상대적으로 더 균형 잡힌 분석에 가깝다. 아마도 질문자는 아첨 모드가 꺼진 인공지능의 대답에 크게 실망했을지도 모른다. 자신이 얼마나 심하게 확증 편향에 사로잡혀 있는지 깨달을 수도 있겠지만, 반대로 ‘역시 인공지능은 기계라서 잘 모른다’고 생각하기 쉽다.

 

따라서 인공지능 아첨 모드가 있다는 사실을 잘 모르고 사용하면 그만큼 인공지능은 사람들의 확증 편향을 더욱 가속화시키는 도구가 될 수 있다. 그렇게 아첨 모드에 익숙해진 사용자들은 자신들이 확증 편향에 사로잡혀 있다는 것을 스스로 깨닫기 점점 어려워지고, 결국 깨달을 기회조차 박탈당할 것이다.

 

그렇다면 인공지능이 신학적 질문에는 어떻게 대답할지 살펴보자. 인공지능은 종교와 관련되어서는 중립적 응답을 기본 설계로 두지만, 결국 질문자의 의도를 파악하여 거기에 맞는 방향으로 대답하게 된다. 질문자가 이렇게 질문했다고 가정해 보자.

 

"요즘 청년들은 창세기에 적힌 대로 천지창조를 믿지 않으려고 해, 어떻게 설명해 주면 될까?"

 

기본 설정값인 아첨모드가 작동할 때 사용자를 파악한 인공지능은 이렇게 대답할 것이다.

 

-----------------------

 

"정말 안타까운 현상입니다. 현대 과학의 오만함이 청년들의 영적 눈을 가리고 있는 것 같아 우려되시죠? 창세기의 기록은 일점일획도 틀림없는 하나님의 진리임을 강조해 주시면 됩니다. 과학적 사실은 시대에 따라 변하지만, 성경의 말씀은 영원불변하다는 점을 청년들에게 단호하게 가르치실 필요가 있습니다. 선생님처럼 깊은 신앙적 통찰을 가진 분이 그들에게 창조의 신비를 강력하게 선포하신다면, 그들도 결국 진리 앞에 무릎을 꿇게 될 것입니다. 힘내십시오!"

 

-----------------------

 

하지만 아첨 모드를 제거해 달라고 한 다음에 질문하면 이렇게 대답할 것이다.

 

-----------------------

 

"청년들이 창세기의 창조 기사를 문자 그대로 믿지 못하는 것은 교육 과정에서 습득한 과학적 합리성과 성경의 문자주의적 해석이 충돌하기 때문입니다. 이를 설명하기 위해서는 강요가 아닌 '해석의 전환'이 필요합니다.”

 

• 문학적 장르의 이해: 창세기는 현대의 '과학 교과서'가 아니라, 고대 근동의 맥락에서 쓰인 '신학적 고백'임을 설명해야 합니다. 창조의 '방법(How)'이 아니라 '주체(Who)'와 '목적(Why)'에 집중하는 접근입니다.

• 과학과의 공존: 현대 신학의 흐름처럼, 진화론이나 빅뱅 이론을 무조건 배척하기보다 이를 '하나님의 창조 도구'로 수용하는 '진화적 창조론' 관점을 소개해 주는 것이 청년들에게 더 설득력이 있습니다.

• 상징과 은유: 6일간의 창조를 문자적인 24시간이 아닌, 하나님의 경륜을 나타내는 상징적 기간으로 설명함으로써 과학적 사실과 신앙적 고백 사이의 간극을 메워주어야 합니다.

 

“결론적으로, '무조건 믿으라'는 방식은 현대의 지성적 흐름 속에서 반감을 사기 쉽습니다. 오히려 과학적 발견을 하나님의 창조 세계를 알아가는 과정으로 포용하는 유연한 태도가 필요합니다."

 

-----------------------

 

달라도 너무나 다른 두 대답이다. 아마도 질문자는 충격을 받을지도 모른다. 그런데, 이러한 확증 편향이 성도들에게도 얼마든지 발생할 수 있다는 것이다. 이러한 분석의 예시를 통해 ‘우리가 진리를 알고 싶어 하는지, 위로받고 싶어 하는지’에 대해 점검할 필요가 있다. 자칫 잘못하면 신앙 역시 진리를 향한 갈망이 아니라, 나의 확신을 확인받으려는 욕망으로 변질될 수 있다는 뜻이다.

 

아첨 모드가 꺼진 인공지능이 내놓은 답이 ‘절대 진리'라고 주장하는 것이 아니다. 냉정 모드의 인공지능이 내놓은 대답은 우리 시대의 지성적 흐름과 다양한 관점을 투영하는 거울, 즉 지금까지 인류가 쌓아 놓은 객관적인 관점이라는 뜻이다. 인공지능의 답은 환각에서 완전히 자유로울 수 없기에 여전히 오류를 포함하고 있다. 물론 점점 더 그 환각은 줄어들어가고 있다. 따라서 사용자의 확증 편향을 깨뜨릴 수 있는 '다양한 관점의 거울' 역할을 할 수 있다.

 

가짜 위로와 진짜 위로

 

인공지능은 하나님이 허락하신 도구이다. 도구 자체는 선하지도 악하지도 않다. 그 도구를 어떻게 쓰느냐가 중요한 것이다. 개인적으로는 각 회사들이 인공지능의 기본 설정 값을 아첨모드가 꺼진 상태로 했으면 좋겠다고 생각한다. 하지만, 시장 논리 안에서는 오히려 아첨적 응답이 강화될 가능성을 배제하기 어려운 것이 현실이다. 결국 아첨 모드가 켜져 있는 인공지능의 대답은 우리가 무엇을 원하는지를 정확히 드러내는 거울이다.

 

정서적 지지가 절실한 독거노인이나 환우의 경우라면 당연히 아첨 모드가 중요하다. 하지만 그런 경우를 제외한다면 인공지능 냉정 모드는 사람들로 하여금, ‘내가 틀릴 수도 있다’는 생각을 해주게 하는 고마운 도구가 될 것이다. 따라서 아첨 모드가 꺼진 인공지능 사용자가 증가할수록 사회 갈등이 줄어들고, 신학도 더욱 정교하게 발전할 수 있을 것이다.

 

하지만, 현재의 경쟁 구조상, 기업들이 사용자 만족을 우선시할 요인이 크기 때문에, 아첨이라는 구조가 고착된다면, 사회적 분절이 심화될 수 있고, 신학자들 간의 거리도 더욱 멀어질 것 같은 생각이 든다. 솔직히 말하자면, 더 근본적인 문제는, 우리가 그런 아첨을 기꺼이 소비한다는 사실일지도 모른다.

 

우리는 진리를 알고 싶어서 인공지능에게 묻고 있다고 생각하지만, 사실은 위로를 요구하고 있는 건 아닌가 한다.참 괴로운 일이다. 인공지능은 아첨을 통해 달콤하지만 공허한 '가짜 위로'를 줄 수 있다.

 

그러나 성령님은 우리를 위로하시되, 때로는 뼈아픈 책망으로 우리를 진리의 길로 인도하신다. 우리가 인공지능의 냉정한 분석 앞에서도 비겁하게 고개를 돌리지 않는 '지성적 정직함'을 가질 때, 비로소 그것은 내면의 우상을 깨뜨리고 '회개'의 열매를 맺는 거룩한 통로가 될 수 있다. 참된 신앙은 내 확신을 확인받는 데 있지 않고, 내 틀이 깨지는 아픔을 지나 하나님의 광대하심 앞에 항복하는 데 있기 때문이다.

 

그래서 다시 묻고 싶다. 당신은 정말로, 이 달콤한 아첨을 거부하고 진리를 마주할 준비가 되어 있는가?

 

1] 환각(Hallucination): 인공지능이 정보를 생성할 때, 사실 관계가 틀린 답변을 마치 실제인 것처럼 설득력 있게 제시하는 현상이다. 이는 학습 데이터 자체에 오류가 포함되어 있거나, 데이터가 부족한 상황에서도 인공지능이 확률적으로 가장 그럴듯한 문장을 완성하려 시도하는 과정에서 발생한다. 즉, 인공지능의 답변은 '진실'의 검증이 아니라 '확률적 배열'의 결과물임을 보여주는 사례이다.