Alpha Notice: These docs cover the v1-alpha release. Content is incomplete and subject to change.For the latest stable version, see the current LangGraph Python or LangGraph JavaScript docs.
그래프
LangGraph는 에이전트 워크플로를 그래프로 모델링합니다. 에이전트의 동작을 세 가지 핵심 구성 요소로 정의할 수 있습니다:-
State
: 애플리케이션의 현재 스냅샷을 나타내는 공유 데이터 구조입니다. 어떤 데이터 타입이든 가능하지만, 일반적으로 공유 상태 스키마를 사용하여 정의합니다. -
Nodes
: 에이전트의 로직을 인코딩하는 함수입니다. 현재 상태를 입력으로 받아 계산이나 부수 효과를 수행한 후 업데이트된 상태를 반환합니다. -
Edges
: 현재 상태를 기반으로 다음에 실행할Node
를 결정하는 함수입니다. 조건부 분기 또는 고정 전환이 될 수 있습니다.
Nodes
와 Edges
를 조합하면 시간이 지남에 따라 상태를 발전시키는 복잡하고 반복적인 워크플로를 만들 수 있습니다. 하지만 진정한 강력함은 LangGraph가 상태를 관리하는 방식에서 나옵니다. 강조하자면: Nodes
와 Edges
는 함수에 불과합니다. LLM이 포함될 수도 있고 일반 코드만 있을 수도 있습니다.
요약하자면: 노드는 작업을 수행하고, 엣지는 다음에 무엇을 할지 알려줍니다.
LangGraph의 기본 그래프 알고리즘은 메시지 전달을 사용하여 일반적인 프로그램을 정의합니다. Node가 작업을 완료하면 하나 이상의 엣지를 따라 다른 노드에 메시지를 보냅니다. 메시지를 받은 노드는 자신의 함수를 실행하고, 결과 메시지를 다음 노드 세트에 전달하며, 이 과정이 계속됩니다. Google의 Pregel 시스템에서 영감을 받아, 프로그램은 개별적인 “super-step”으로 진행됩니다.
super-step은 그래프 노드에 대한 단일 반복으로 간주할 수 있습니다. 병렬로 실행되는 노드는 동일한 super-step의 일부이며, 순차적으로 실행되는 노드는 별도의 super-step에 속합니다. 그래프 실행이 시작될 때 모든 노드는 inactive
상태로 시작합니다. 노드는 들어오는 엣지(또는 “채널”) 중 하나에서 새 메시지(상태)를 받으면 active
상태가 됩니다. 활성 노드는 자신의 함수를 실행하고 업데이트로 응답합니다. 각 super-step이 끝날 때 들어오는 메시지가 없는 노드는 자신을 inactive
로 표시하여 halt
에 투표합니다. 모든 노드가 inactive
이고 전송 중인 메시지가 없으면 그래프 실행이 종료됩니다.
StateGraph
StateGraph
클래스는 사용할 주요 그래프 클래스입니다. 이 클래스는 사용자 정의 State
객체로 매개변수화됩니다.
그래프 컴파일
그래프를 빌드하려면 먼저 상태를 정의하고, 노드와 엣지를 추가한 다음 컴파일합니다. 그래프 컴파일은 정확히 무엇이며 왜 필요할까요? 컴파일은 매우 간단한 단계입니다. 그래프 구조에 대한 몇 가지 기본 검사(고립된 노드가 없는지 등)를 제공합니다. 또한 checkpointers 및 중단점과 같은 런타임 인자를 지정할 수 있는 곳이기도 합니다..compile
메서드를 호출하여 그래프를 컴파일합니다:
State
그래프를 정의할 때 가장 먼저 하는 일은 그래프의State
를 정의하는 것입니다. State
는 그래프의 스키마와 상태에 업데이트를 적용하는 방법을 지정하는 reducer
함수로 구성됩니다. State
의 스키마는 그래프의 모든 Nodes
와 Edges
에 대한 입력 스키마가 되며, TypedDict
또는 Pydantic
모델이 될 수 있습니다. 모든 Nodes
는 State
에 대한 업데이트를 발행하며, 이는 지정된 reducer
함수를 사용하여 적용됩니다.
Schema
그래프의 스키마를 지정하는 주요 방법은TypedDict
를 사용하는 것입니다. 상태에 기본값을 제공하려면 dataclass
를 사용하세요. 재귀적 데이터 유효성 검사를 원한다면 Pydantic BaseModel을 그래프 상태로 사용할 수도 있습니다(다만 pydantic은 TypedDict
나 dataclass
보다 성능이 떨어집니다).
기본적으로 그래프는 동일한 입력 및 출력 스키마를 갖습니다. 이를 변경하려면 명시적 입력 및 출력 스키마를 직접 지정할 수도 있습니다. 이는 많은 키가 있고 일부는 명시적으로 입력용이고 다른 일부는 출력용인 경우에 유용합니다. 사용 방법은 여기 가이드를 참조하세요.
다중 스키마
일반적으로 모든 그래프 노드는 단일 스키마로 통신합니다. 즉, 동일한 상태 채널을 읽고 쓴다는 의미입니다. 하지만 이를 더 세밀하게 제어하려는 경우가 있습니다:- 내부 노드는 그래프의 입력/출력에 필요하지 않은 정보를 전달할 수 있습니다.
- 그래프에 대해 서로 다른 입력/출력 스키마를 사용하고 싶을 수도 있습니다. 예를 들어 출력은 단일 관련 출력 키만 포함할 수 있습니다.
PrivateState
를 정의하기만 하면 됩니다.
그래프에 대한 명시적 입력 및 출력 스키마를 정의할 수도 있습니다. 이 경우 그래프 작업과 관련된 모든 키를 포함하는 “내부” 스키마를 정의합니다. 하지만 그래프의 입력 및 출력을 제한하기 위해 “내부” 스키마의 하위 집합인 input
및 output
스키마도 정의합니다. 자세한 내용은 이 가이드를 참조하세요.
예시를 살펴보겠습니다:
-
node_1
의 입력 스키마로state: InputState
를 전달합니다. 하지만OverallState
의 채널인foo
에 씁니다. 입력 스키마에 포함되지 않은 상태 채널에 어떻게 쓸 수 있을까요? 이는 노드가 그래프 상태의 모든 상태 채널에 쓸 수 있기 때문입니다. 그래프 상태는 초기화 시 정의된 상태 채널의 합집합이며, 여기에는OverallState
와 필터InputState
및OutputState
가 포함됩니다. -
StateGraph(OverallState,input_schema=InputState,output_schema=OutputState)
로 그래프를 초기화합니다. 그렇다면node_2
에서PrivateState
에 어떻게 쓸 수 있을까요?StateGraph
초기화에 전달되지 않은 스키마에 그래프가 어떻게 액세스할 수 있을까요? 이는 노드가 상태 스키마 정의가 존재하는 한 추가 상태 채널을 선언할 수도 있기 때문입니다. 이 경우PrivateState
스키마가 정의되어 있으므로 그래프에bar
를 새 상태 채널로 추가하고 여기에 쓸 수 있습니다.
Reducers
Reducer는 노드의 업데이트가State
에 적용되는 방식을 이해하는 핵심입니다. State
의 각 키에는 고유한 독립적인 reducer 함수가 있습니다. reducer 함수가 명시적으로 지정되지 않으면 해당 키에 대한 모든 업데이트가 이를 재정의한다고 가정합니다. 기본 타입의 reducer부터 시작하여 몇 가지 다른 타입의 reducer가 있습니다:
기본 Reducer
다음 두 예시는 기본 reducer를 사용하는 방법을 보여줍니다: 예시 A:{"foo": 1, "bar": ["hi"]}
. 그런 다음 첫 번째 Node
가 {"foo": 2}
를 반환한다고 가정합니다. 이는 상태에 대한 업데이트로 처리됩니다. Node
는 전체 State
스키마를 반환할 필요가 없으며 업데이트만 반환하면 됩니다. 이 업데이트를 적용하면 State
는 {"foo": 2, "bar": ["hi"]}
가 됩니다. 두 번째 노드가 {"bar": ["bye"]}
를 반환하면 State
는 {"foo": 2, "bar": ["bye"]}
가 됩니다.
예시 B:
Annotated
타입을 사용하여 두 번째 키(bar
)에 대한 reducer 함수(operator.add
)를 지정했습니다. 첫 번째 키는 변경되지 않습니다. 그래프에 대한 입력이 {"foo": 1, "bar": ["hi"]}
라고 가정해 봅시다. 그런 다음 첫 번째 Node
가 {"foo": 2}
를 반환한다고 가정합니다. 이는 상태에 대한 업데이트로 처리됩니다. Node
는 전체 State
스키마를 반환할 필요가 없으며 업데이트만 반환하면 됩니다. 이 업데이트를 적용하면 State
는 {"foo": 2, "bar": ["hi"]}
가 됩니다. 두 번째 노드가 {"bar": ["bye"]}
를 반환하면 State
는 {"foo": 2, "bar": ["hi", "bye"]}
가 됩니다. 여기서 bar
키는 두 리스트를 함께 더하는 방식으로 업데이트됩니다.
그래프 상태에서 메시지 작업하기
메시지를 사용하는 이유는?
대부분의 최신 LLM 제공업체는 메시지 리스트를 입력으로 받는 채팅 모델 인터페이스를 제공합니다. 특히 LangChain의ChatModel
은 Message
객체의 리스트를 입력으로 받습니다. 이러한 메시지는 HumanMessage
(사용자 입력) 또는 AIMessage
(LLM 응답)와 같은 다양한 형태로 제공됩니다. 메시지 객체가 무엇인지 자세히 알아보려면 이 개념 가이드를 참조하세요.
그래프에서 메시지 사용하기
많은 경우, 이전 대화 기록을 메시지 리스트로 그래프 상태에 저장하는 것이 유용합니다. 이렇게 하려면 그래프 상태에Message
객체 리스트를 저장하는 키(채널)를 추가하고 reducer 함수로 주석을 달 수 있습니다(아래 예시의 messages
키 참조). reducer 함수는 각 상태 업데이트마다 상태의 Message
객체 리스트를 업데이트하는 방법을 그래프에 알려주는 데 필수적입니다(예: 노드가 업데이트를 보낼 때). reducer를 지정하지 않으면 모든 상태 업데이트가 가장 최근에 제공된 값으로 메시지 리스트를 덮어씁니다. 단순히 기존 리스트에 메시지를 추가하려면 reducer로 operator.add
를 사용할 수 있습니다.
하지만 그래프 상태에서 메시지를 수동으로 업데이트하고 싶을 수도 있습니다(예: human-in-the-loop). operator.add
를 사용하면 그래프에 보내는 수동 상태 업데이트가 기존 메시지를 업데이트하는 대신 기존 메시지 리스트에 추가됩니다. 이를 방지하려면 메시지 ID를 추적하고 업데이트된 경우 기존 메시지를 덮어쓸 수 있는 reducer가 필요합니다. 이를 위해 사전 빌드된 add_messages
함수를 사용할 수 있습니다. 새로운 메시지의 경우 기존 리스트에 단순히 추가하지만, 기존 메시지에 대한 업데이트도 올바르게 처리합니다.
직렬화
메시지 ID를 추적하는 것 외에도,add_messages
함수는 messages
채널에서 상태 업데이트를 받을 때마다 메시지를 LangChain Message
객체로 역직렬화하려고 시도합니다. LangChain 직렬화/역직렬화에 대한 자세한 정보는 여기를 참조하세요. 이를 통해 다음 형식으로 그래프 입력/상태 업데이트를 보낼 수 있습니다:
add_messages
를 사용할 때 상태 업데이트는 항상 LangChain Messages
로 역직렬화되므로 state["messages"][-1].content
와 같이 점 표기법을 사용하여 메시지 속성에 액세스해야 합니다. 다음은 add_messages
를 reducer 함수로 사용하는 그래프의 예입니다.
MessagesState
상태에 메시지 리스트를 포함하는 것이 매우 일반적이므로 메시지를 쉽게 사용할 수 있도록MessagesState
라는 사전 빌드된 상태가 있습니다. MessagesState
는 AnyMessage
객체의 리스트인 단일 messages
키로 정의되며 add_messages
reducer를 사용합니다. 일반적으로 메시지만이 아닌 더 많은 상태를 추적해야 하므로 다음과 같이 이 상태를 서브클래싱하고 더 많은 필드를 추가하는 것을 볼 수 있습니다:
Nodes
LangGraph에서 노드는 다음 인자를 받는 Python 함수(동기 또는 비동기)입니다:state
: 그래프의 상태config
:thread_id
와 같은 구성 정보 및tags
와 같은 추적 정보를 포함하는RunnableConfig
객체runtime
: 런타임context
및store
,stream_writer
와 같은 기타 정보를 포함하는Runtime
객체
NetworkX
와 유사하게, add_node 메서드를 사용하여 그래프에 이러한 노드를 추가합니다:
START
노드
START
노드는 사용자 입력을 그래프에 보내는 노드를 나타내는 특수 노드입니다. 이 노드를 참조하는 주요 목적은 어떤 노드를 먼저 호출해야 하는지 결정하는 것입니다.
END
노드
END
노드는 종료 노드를 나타내는 특수 노드입니다. 이 노드는 완료된 후 작업이 없는 엣지를 나타낼 때 참조됩니다.
노드 캐싱
LangGraph는 노드에 대한 입력을 기반으로 작업/노드 캐싱을 지원합니다. 캐싱을 사용하려면:- 그래프를 컴파일할 때(또는 진입점을 지정할 때) 캐시를 지정합니다
- 노드에 대한 캐시 정책을 지정합니다. 각 캐시 정책은 다음을 지원합니다:
key_func
: 노드에 대한 입력을 기반으로 캐시 키를 생성하는 데 사용되며, 기본적으로 pickle을 사용한 입력의hash
입니다.ttl
: 캐시의 수명(초)입니다. 지정하지 않으면 캐시가 만료되지 않습니다.
- 첫 번째 실행은 (모의 비용이 많이 드는 계산으로 인해) 2초가 걸립니다.
- 두 번째 실행은 캐시를 활용하여 빠르게 반환됩니다.
Edges
엣지는 로직이 라우팅되는 방식과 그래프가 중지를 결정하는 방식을 정의합니다. 이는 에이전트가 작동하는 방식과 서로 다른 노드가 통신하는 방식의 큰 부분입니다. 몇 가지 주요 유형의 엣지가 있습니다:- Normal Edges: 한 노드에서 다음 노드로 직접 이동합니다.
- Conditional Edges: 함수를 호출하여 다음에 이동할 노드를 결정합니다.
- Entry Point: 사용자 입력이 도착할 때 먼저 호출할 노드입니다.
- Conditional Entry Point: 함수를 호출하여 사용자 입력이 도착할 때 먼저 호출할 노드를 결정합니다.
Normal Edges
노드 A에서 노드 B로 항상 이동하려면 add_edge 메서드를 직접 사용할 수 있습니다.Conditional Edges
선택적으로 하나 이상의 엣지로 라우팅하거나(또는 선택적으로 종료하려면) add_conditional_edges 메서드를 사용할 수 있습니다. 이 메서드는 노드의 이름과 해당 노드가 실행된 후 호출할 “라우팅 함수”를 받습니다:routing_function
은 그래프의 현재 state
를 받아 값을 반환합니다.
기본적으로 routing_function
의 반환 값은 다음에 상태를 보낼 노드(또는 노드 리스트)의 이름으로 사용됩니다. 이러한 모든 노드는 다음 superstep의 일부로 병렬로 실행됩니다.
선택적으로 routing_function
의 출력을 다음 노드의 이름에 매핑하는 딕셔너리를 제공할 수 있습니다.
상태 업데이트와 라우팅을 단일 함수로 결합하려면 조건부 엣지 대신
Command
를 사용하세요.Entry Point
진입점은 그래프가 시작될 때 실행되는 첫 번째 노드입니다. 가상START
노드에서 실행할 첫 번째 노드로 add_edge
메서드를 사용하여 그래프에 진입할 위치를 지정할 수 있습니다.
Conditional Entry Point
조건부 진입점을 사용하면 커스텀 로직에 따라 서로 다른 노드에서 시작할 수 있습니다. 가상START
노드에서 add_conditional_edges
를 사용하여 이를 수행할 수 있습니다.
routing_function
의 출력을 다음 노드의 이름에 매핑하는 딕셔너리를 제공할 수 있습니다.
Send
기본적으로 Nodes
와 Edges
는 사전에 정의되며 동일한 공유 상태에서 작동합니다. 하지만 정확한 엣지를 미리 알 수 없거나 동시에 서로 다른 버전의 State
가 존재하기를 원할 수 있습니다. 이에 대한 일반적인 예는 map-reduce 디자인 패턴입니다. 이 디자인 패턴에서 첫 번째 노드는 객체 리스트를 생성할 수 있으며, 이러한 모든 객체에 다른 노드를 적용하고 싶을 수 있습니다. 객체의 수를 미리 알 수 없을 수 있으며(즉, 엣지의 수를 알 수 없을 수 있음) 다운스트림 Node
에 대한 입력 State
는 달라야 합니다(생성된 각 객체에 대해 하나씩).
이 디자인 패턴을 지원하기 위해 LangGraph는 조건부 엣지에서 Send
객체를 반환하는 것을 지원합니다. Send
는 두 개의 인자를 받습니다: 첫 번째는 노드의 이름이고 두 번째는 해당 노드에 전달할 상태입니다.
Command
제어 흐름(엣지)과 상태 업데이트(노드)를 결합하는 것이 유용할 수 있습니다. 예를 들어, 동일한 노드에서 상태 업데이트를 수행하고 다음에 갈 노드를 결정하고 싶을 수 있습니다. LangGraph는 노드 함수에서 Command
객체를 반환하여 이를 수행할 수 있는 방법을 제공합니다:
Command
를 사용하면 동적 제어 흐름 동작(조건부 엣지와 동일)도 달성할 수 있습니다:
노드 함수에서
Command
를 반환할 때 노드가 라우팅하는 노드 이름 리스트와 함께 반환 타입 주석을 추가해야 합니다. 예: Command[Literal["my_other_node"]]
. 이는 그래프 렌더링에 필요하며 my_node
가 my_other_node
로 이동할 수 있음을 LangGraph에 알립니다.Command
사용 방법에 대한 엔드투엔드 예시는 이 가이드를 확인하세요.
언제 조건부 엣지 대신 Command를 사용해야 할까요?
- 그래프 상태를 업데이트하고 다른 노드로 라우팅해야 할 때
Command
를 사용하세요. 예를 들어, 다른 에이전트로 라우팅하고 해당 에이전트에 일부 정보를 전달하는 것이 중요한 멀티 에이전트 핸드오프를 구현할 때입니다. - 상태를 업데이트하지 않고 조건부로 노드 간을 라우팅하려면 조건부 엣지를 사용하세요.
부모 그래프의 노드로 이동하기
서브그래프를 사용하는 경우, 서브그래프 내의 노드에서 다른 서브그래프(즉, 부모 그래프의 다른 노드)로 이동하고 싶을 수 있습니다. 이렇게 하려면Command
에서 graph=Command.PARENT
를 지정할 수 있습니다:
이는 멀티 에이전트 핸드오프를 구현할 때 특히 유용합니다.
자세한 내용은 이 가이드를 확인하세요.
도구 내부에서 사용하기
일반적인 사용 사례는 도구 내부에서 그래프 상태를 업데이트하는 것입니다. 예를 들어, 고객 지원 애플리케이션에서 대화 시작 부분에 계정 번호 또는 ID를 기반으로 고객 정보를 조회하고 싶을 수 있습니다. 자세한 내용은 이 가이드를 참조하세요.Human-in-the-loop
Command
는 human-in-the-loop 워크플로의 중요한 부분입니다: interrupt()
를 사용하여 사용자 입력을 수집할 때 Command
는 Command(resume="User input")
을 통해 입력을 제공하고 실행을 재개하는 데 사용됩니다. 자세한 정보는 이 개념 가이드를 확인하세요.
그래프 마이그레이션
LangGraph는 checkpointer를 사용하여 상태를 추적하는 경우에도 그래프 정의(노드, 엣지 및 상태)의 마이그레이션을 쉽게 처리할 수 있습니다.- 그래프 끝에 있는 스레드(즉, 중단되지 않음)의 경우 그래프의 전체 토폴로지를 변경할 수 있습니다(즉, 모든 노드와 엣지를 제거, 추가, 이름 변경 등).
- 현재 중단된 스레드의 경우 노드 이름 변경/제거 이외의 모든 토폴로지 변경을 지원합니다(해당 스레드가 더 이상 존재하지 않는 노드에 진입하려고 할 수 있으므로). 이것이 문제가 된다면 연락 주시면 솔루션의 우선순위를 정할 수 있습니다.
- 상태를 수정하는 경우 키 추가 및 제거에 대한 완전한 하위 및 상위 호환성이 있습니다.
- 이름이 변경된 상태 키는 기존 스레드에서 저장된 상태를 잃습니다.
- 타입이 호환되지 않는 방식으로 변경된 상태 키는 현재 변경 전 상태가 있는 스레드에서 문제를 일으킬 수 있습니다. 이것이 문제가 된다면 연락 주시면 솔루션의 우선순위를 정할 수 있습니다.
런타임 컨텍스트
그래프를 생성할 때 노드에 전달되는 런타임 컨텍스트에 대한context_schema
를 지정할 수 있습니다. 이는 그래프 상태의 일부가 아닌 정보를 노드에 전달하는 데 유용합니다. 예를 들어, 모델 이름이나 데이터베이스 연결과 같은 종속성을 전달하고 싶을 수 있습니다.
invoke
메서드의 context
매개변수를 사용하여 이 컨텍스트를 그래프에 전달할 수 있습니다.
재귀 제한
재귀 제한은 단일 실행 중에 그래프가 실행할 수 있는 최대 super-step 수를 설정합니다. 제한에 도달하면 LangGraph는GraphRecursionError
를 발생시킵니다. 기본적으로 이 값은 25 단계로 설정됩니다. 재귀 제한은 런타임 시 모든 그래프에서 설정할 수 있으며, config 딕셔너리를 통해 .invoke
/.stream
에 전달됩니다. 중요한 점은 recursion_limit
가 독립적인 config
키이며 다른 모든 사용자 정의 구성처럼 configurable
키 내부에 전달되어서는 안 된다는 것입니다. 아래 예시를 참조하세요: