단순한 데이터 분류 놀이라고 생각했다. 하지만 가상의 괴물들을 진단하는 논리 구조를 설계하다 보니, 정작 엉망으로 꼬여 있었던 것은 AI의 알고리즘이 아니라 나의 사고방식이었다.
상상 속의 질병과 논리의 설계
처음 시작은 가벼운 호기심이었다. 현실에 존재하지 않는 ‘괴물’이라는 대상에게 가상의 질병을 부여하고, AI가 증상만으로 그 병명을 맞히게 하는 시스템을 만들고 싶었다. 예를 들어 ‘뿔이 보라색으로 변하며 재채기를 할 때마다 불꽃이 튀는 증상’이 나타나면, 그것을 ‘마나 과부하 증후군’으로 진단하게 만드는 식이었다.
단순히 텍스트 데이터를 집어넣으면 AI가 알아서 학습할 것이라 믿었다. 하지만 결과는 처참했다. AI는 증상들 사이의 인과관계보다는 단어의 빈도수에 집착했다. ‘불꽃’이라는 단어가 나오면 무조건 화염 계열의 질병으로 결론 내리는 식의 단순 패턴 매칭에 그쳤다. 이는 우리가 흔히 겪는 ‘확증 편향’과 놀라울 정도로 닮아 있었다.
결국 나는 AI에게 ‘추론의 단계’를 가르치기로 했다. 단순히 A=B라고 가르치는 것이 아니라, “먼저 외형적 변화를 살피고, 그다음으로 행동 패턴을 분석하며, 마지막으로 환경적 요인을 결합하라”는 식의 체계적인 진단 프로세스를 구축했다. 이는 마치 의대생이 진단학을 배우는 과정과 비슷했다.
정답보다 중요한 것은 ‘왜’라는 경로
학습이 진행될수록 흥미로운 지점이 발견되었다. AI가 정답을 맞히는 것보다, 어떤 경로를 통해 그 답에 도달했는가를 추적하는 과정에서 인간의 추론 방식이 가진 허점이 드러났다. 나는 AI가 내 생각과 똑같이 추론하기를 바랐지만, AI는 때때로 내가 간과했던 아주 사소한 증상의 조합을 통해 정확한 진단을 내놓았다.
인간은 보통 가장 강렬한 증상 하나에 매몰되는 경향이 있다. 괴물이 불을 뿜는다면 우리는 ‘화염’이라는 키워드에 압도되어 다른 작은 징후들을 무시하곤 한다. 하지만 데이터로 무장한 AI는 뿔의 색깔, 걸음걸이의 각도, 주변 온도의 미세한 변화를 동등한 가중치로 처리했다. 여기서 나는 깨달았다. 우리가 ‘직관’이라고 부르는 것들의 상당 부분이 사실은 효율성을 위해 선택된 ‘편견의 지름길’이었다는 것을 말이다.
물론 AI의 추론이 항상 완벽했던 것은 아니다. 때로는 너무 기계적인 논리에 매몰되어, 맥락상 당연히 배제해야 할 노이즈까지 진단 근거로 삼는 오류를 범했다. 인간의 추론이 ‘생략의 미학’이라면, AI의 추론은 ‘집착의 나열’에 가까웠다. 이 두 극단 사이의 간극을 메우는 과정이 바로 진정한 의미의 학습이었다.
괴물 진단기가 가르쳐준 인간의 사고법
이 프로젝트를 통해 내가 배운 것은 파이썬 코드나 프롬프트 엔지니어링 기술이 아니었다. 오히려 내가 세상을 어떻게 인식하고, 어떤 논리적 비약을 통해 결론을 내리는지에 대한 자기 객관화였다. AI에게 논리를 가르치기 위해 나의 사고 과정을 잘게 쪼개어 설명하는 과정은, 내 머릿속의 모호한 직관들을 명시적인 규칙으로 변환하는 작업이었다.
우리는 스스로 논리적이라고 믿지만, 사실은 결론을 먼저 정해두고 그에 맞는 근거를 사후에 수집하는 경우가 많다. 괴물 진단 AI는 그런 나의 습관을 적나라하게 보여주었다. 내가 “당연히 이 증상이면 이 병이지”라고 생각하며 데이터를 입력했을 때, AI가 엉뚱한 답을 내놓았다면 그것은 AI의 오류가 아니라 내 논리에 숨어 있던 ‘당연함’이라는 이름의 논리적 공백 때문이었다.
결국 지능이란 정답을 빠르게 찾아내는 능력이 아니라, 정답에 이르는 경로에서 발생할 수 있는 오류를 얼마나 세밀하게 검토하느냐의 문제라는 확신이 들었다. 가상의 괴물을 치료하는 법을 가르치려다, 오히려 내 사고의 병든 부분을 진단받은 셈이다.
다음에 시도해보고 싶은 것들
이제는 단순한 진단을 넘어, ‘처방’의 영역으로 확장해보고 싶다. 특정 약물을 투여했을 때 증상이 어떻게 변하는지 시뮬레이션하고, 그 결과가 다시 진단에 영향을 주는 피드백 루프를 구축하는 것이다. 이는 정적인 데이터 분석을 넘어 동적인 시스템의 상호작용을 설계하는 도전이 될 것이다.
더불어, 서로 다른 논리 구조를 가진 두 개의 AI를 충돌시켜 보려 한다. 하나는 철저하게 통계적인 접근을 하는 AI, 다른 하나는 엄격한 규칙 기반의 추론을 하는 AI가 하나의 괴물을 두고 논쟁하게 만든다면, 그 접점에서 인간의 ‘통찰’에 가장 가까운 제3의 결론이 나오지 않을까 기대해 본다.
우리는 매일 수많은 판단을 내리며 살아간다. 만약 당신의 사고방식을 AI에게 그대로 가르쳐야 한다면, 당신은 그 과정을 얼마나 명쾌하고 논리적으로 설명할 수 있을까? 어쩌면 우리 모두에게는 자신만의 ‘사고 진단기’가 필요할지도 모르겠다.