단순한 챗봇의 확장판이라고 생각했다. 하지만 실제로 LangGraph와 Deep Agents의 구조를 설계해 보니, 이는 단순한 인터페이스의 변화가 아니라 LLM이 ‘사고하는 방식’ 자체를 재정의하는 작업이었다. 기존의 선형적인 체인 방식으로는 절대 해결할 수 없었던 복잡한 루프와 상태 제어가 비로소 가능해졌기 때문이다.
단순한 Chain에서 Agentic Workflow로의 전환
그동안 우리가 사용했던 대부분의 LangChain 구조는 Sequential Chain, 즉 A를 넣으면 B가 나오고 B가 C로 이어지는 일직선 구조였다. 하지만 실제 업무는 그렇게 흘러가지 않는다. 결과물이 마음에 들지 않으면 다시 이전 단계로 돌아가 수정해야 하고, 외부 도구를 사용해 확인한 정보가 틀렸다면 전략을 수정해야 한다.
LangChain의 Deep Agents, 특히 LangGraph를 활용한 접근법은 이러한 ‘반복(Iteration)’과 ‘자기 성찰(Self-reflection)’을 시스템적으로 구현한다. 상태(State)를 정의하고, 조건부 엣지(Conditional Edge)를 통해 다음 행동을 결정하는 그래프 구조를 통해 AI는 스스로 판단하고 경로를 수정하는 능력을 갖게 된다. 이는 단순한 프롬프트 엔지니어링만으로는 도달할 수 없는 수준의 정교함이다.
실제로 구축하며 마주한 설정과 실행 과정
Deep Agent를 구현하기 위해서는 먼저 환경 구성이 필요하다. 단순한 라이브러리 설치를 넘어, 상태 관리를 위한 체크포인터(Checkpointer) 설정이 핵심이다. 나는 langgraph와 langchain-openai를 조합하여 간단한 리서치 에이전트를 구축해 보았다.
설치 및 실행 순서는 다음과 같다.
- 필요한 패키지를 설치한다.
pip install langgraph langchain-openai명령어를 통해 핵심 라이브러리를 확보한다. State클래스를 정의하여 에이전트가 기억해야 할 변수(메시지 리스트, 현재 단계, 검색 결과 등)를 지정한다.- 노드(Node)를 생성한다. 예를 들어 ‘검색 노드’, ‘작성 노드’, ‘검토 노드’를 각각의 파이썬 함수로 정의한다.
StateGraph객체를 생성하고add_node와add_edge를 통해 워크플로우를 연결한다.compile()메서드를 호출하여 실행 가능한 그래프 객체로 변환한다.
실제 그래프를 정의하고 실행하는 핵심 코드는 다음과 같은 형태가 된다.
from langgraph.graph import StateGraph, END
from typing import TypedDict, Annotated, Sequence
import operator
from langchain_openai import ChatOpenAI
# 1. 상태 정의
class AgentState(TypedDict):
messages: Annotated[Sequence[str], operator.add]
# 2. 모델 및 노드 정의
model = ChatOpenAI(model="gpt-4-turbo-preview")
def call_model(state):
response = model.invoke(state["messages"])
return {"messages": [response]}
# 3. 그래프 구성
workflow = StateGraph(AgentState)
workflow.add_node("agent", call_model)
workflow.set_entry_point("agent")
workflow.add_edge("agent", END)
app = workflow.compile()
# 실행 예시
final_state = app.invoke({"messages": ["LangChain의 Deep Agents에 대해 설명해줘"]})
print(final_state["messages"][-1].content)에러 해결과 최적화의 디테일
구현 과정에서 가장 빈번하게 발생한 문제는 무한 루프(Infinite Loop)였다. 에이전트가 스스로의 결과물에 만족하지 못해 ‘검토 노드’에서 ‘작성 노드’로 계속해서 되돌아가는 현상이 발생한 것이다. 이를 해결하기 위해 나는 max_iterations라는 변수를 State에 추가하고, 루프 횟수가 5회를 초과하면 강제로 END 노드로 보내는 가드레일을 설치했다.
또한, API 응답 속도를 높이기 위해 stream_mode="values" 옵션을 사용하여 최종 결과가 나오기 전까지의 중간 상태를 실시간으로 모니터링했다. 이렇게 하면 에이전트가 현재 어느 노드에서 머물고 있는지, 어떤 추론 과정을 거치고 있는지 시각적으로 확인할 수 있어 디버깅 시간이 획기적으로 줄어든다.
특히 langsmith를 연결했을 때의 차이는 극명했다. 각 노드 사이에서 전달되는 JSON 데이터의 변화를 추적함으로써, 어떤 프롬프트가 에이전트를 엉뚱한 경로로 유도했는지 정확히 짚어낼 수 있었다. 단순한 로그 출력보다 훨씬 강력한 도구였다.
Deep Agents가 주는 진짜 가치
결국 Deep Agents의 가치는 ‘통제 가능한 자율성’에 있다. 완전히 자율적인 에이전트는 예측 불가능하고 위험하지만, LangGraph처럼 명확한 상태 전이도(State Transition Diagram)를 가진 시스템은 개발자가 원하는 비즈니스 로직 내에서 AI가 최선의 경로를 찾게 만든다.
이는 단순한 챗봇을 넘어, 복잡한 데이터 분석 파이프라인이나 자동화된 소프트웨어 테스트 도구를 만들 때 엄청난 위력을 발휘한다. 사람이 일일이 “먼저 이걸 하고, 그다음 이걸 확인해”라고 지시하는 대신, “최종 목표는 이것이며, 확인 단계에서 오류가 나면 다시 수정해”라는 고수준의 지침만으로 시스템이 작동하기 때문이다.
다음에 시도해 볼 도전들
이번 구축을 통해 기본 구조는 잡았지만, 여전히 갈증이 남는다. 다음에는 Human-in-the-loop 기능을 도입해 보려 한다. 에이전트가 중요한 결정을 내리기 직전에 사람의 승인을 기다리는 interrupt_before 설정을 추가한다면, 신뢰성이 필수적인 기업용 서비스에도 충분히 적용 가능할 것이다.
혹시 여러분의 워크플로우 중에서도 “이 부분은 AI가 스스로 판단해서 수정까지 해줬으면 좋겠다”고 느끼는 반복적인 구간이 있지는 않은가? 그 지점이 바로 Deep Agents를 도입해야 할 최적의 타이밍일지도 모른다.