나는 얼마 전 아주 엉뚱한 상상에 빠졌다. 만약 현실 세계에 판타지 소설 속 몬스터들이 나타난다면, 우리는 어떻게 그들을 분류하고 그들이 앓고 있는 ‘마법적 질병’을 진단할 수 있을까 하는 생각이었다. 평소 LLM의 추론 능력을 테스트하는 것에 관심이 많았던 나는, 단순히 데이터를 학습시키는 것을 넘어 AI에게 몬스터 전용 진단 체계라는 가상의 논리 구조를 설계해 주기로 했다.
가상의 생태계와 진단 가이드라인 설계하기
가장 먼저 한 일은 AI가 참고할 수 있는 ‘몬스터 병리학 기초’라는 가상의 지식 베이스를 구축하는 것이었다. 단순히 “드래곤이 아프면 불을 뿜지 못한다” 같은 단편적인 정보가 아니라, 증상과 원인 사이의 인과관계를 설정했다. 예를 들어, 화염 속성 몬스터가 냉기 지역에 오래 머물면 ‘마력 결정화 증후군’이 발생하며, 이 경우 체온이 급격히 떨어지고 비늘 사이에 푸른 결정이 맺힌다는 식의 구체적인 규칙을 만들었다.
나는 AI에게 이 가이드라인을 프롬프트로 주입하며, 환자(몬스터)의 상태 묘사를 듣고 단계별로 추론하여 최종 진단을 내리도록 지시했다. “먼저 외형적 특징을 분석하고, 다음으로 마력의 흐름을 체크하며, 마지막으로 서식지 환경과 대조하라”는 논리적 단계를 강제한 것이다. 이는 마치 의대생이 진단 프로세스를 배우는 과정과 흡사했다.
AI가 보여준 뜻밖의 추론 방식과 한계
처음 몇 번의 테스트에서 AI는 놀라울 정도로 정확하게 정답을 맞혔다. “비늘이 딱딱하게 굳고 눈에서 보라색 연기가 납니다”라는 입력에 AI는 즉각적으로 ‘마력 과부하 상태’라는 진단을 내놓았다. 하지만 내가 의도적으로 ‘모순된 정보’를 섞기 시작하자 상황이 달라졌다. 화염 속성 몬스터인데 얼음 결정이 맺혀 있으면서도, 동시에 체온은 평소보다 높다는 식의 설정이었다.
여기서 흥미로운 점이 발견되었다. AI는 때때로 논리적 충돌이 발생하면, 자신이 학습한 ‘일반적인 상식’과 내가 준 ‘가상 규칙’ 사이에서 갈등했다. 어떤 경우에는 규칙을 무시하고 “현실적으로 불과 얼음이 공존할 수 없다”며 오류를 지적했고, 어떤 경우에는 억지로 두 정보를 결합해 ‘열역학적 마력 붕괴’라는 존재하지 않는 새로운 병명을 지어내기도 했다. 이는 AI가 단순히 텍스트를 생성하는 것이 아니라, 주어진 제약 조건 내에서 최적의 논리를 구성하려 애쓰고 있음을 보여주었다.
인간의 직관과 AI의 논리, 그 간극에 대하여
이 실험을 통해 나는 인간이 어떻게 추론하는지를 역설적으로 깨닫게 되었다. 인간은 모순된 정보가 들어왔을 때, 그것을 ‘오류’로 치부하기보다 ‘예외 상황’이나 ‘새로운 변수’로 받아들이는 경향이 있다. 우리는 직관적으로 “아, 이 몬스터는 특이 체질이구나”라고 가정하고 그 다음 단계로 넘어가지만, AI는 모든 데이터가 정합성을 가져야 한다는 강박적인 논리 구조를 가지고 있었다.
결국 진단의 핵심은 단순한 데이터 매칭이 아니라, 불확실성을 견디는 능력에 있다는 결론에 도달했다. AI에게 “모든 증상이 일치하지 않더라도 가장 가능성이 높은 가설을 세우고, 왜 다른 증상이 나타나는지 추론하라”는 지침을 추가하자, 비로소 AI의 답변은 인간 전문가의 진단서와 비슷해졌다. 논리를 넘어 ‘가설적 사고’를 가르쳐야 했던 셈이다.
가상의 실험이 남긴 질문들
몬스터라는 가상의 대상을 통해 AI의 추론 과정을 살펴본 이번 경험은 나에게 신선한 충격을 주었다. 우리가 AI에게 기대하는 ‘지능’이란 결국 정답을 맞히는 능력이 아니라, 복잡하고 모순된 현실 속에서 합리적인 가설을 세워나가는 과정 그 자체가 아닐까 싶다.
이제 나는 여기서 한 걸음 더 나아가, 서로 다른 진단 체계를 가진 두 AI가 하나의 몬스터를 두고 토론하며 합의점에 도달하는 ‘다중 에이전트 진단 시스템’을 구현해 보려 한다. 서로 다른 논리 구조가 충돌할 때 어떤 제3의 결론이 도출될지 무척 기대된다. 여러분이라면 AI에게 어떤 가상의 세계관을 학습시켜 그 한계를 시험해 보고 싶으신가?