Chatflow와 Workflow 애플리케이션은 모두 직렬 및 병렬의 두 가지 오케스트레이션 디자인 패턴을 사용하여 시각적 드래그 앤 드롭을 통한 노드 오케스트레이션을 지원합니다.
직렬 노드 디자인 패턴 #
이 패턴에서 노드는 미리 정의된 순서대로 순차적으로 실행됩니다. 각 노드는 이전 노드가 작업을 완료하고 출력을 생성한 후에만 작업을 시작합니다. 이를 통해 작업이 논리적 순서대로 실행되도록 할 수 있습니다.직렬 패턴을 구현하는 “소설 생성” 워크플로 앱을 생각해 보세요. 사용자가 소설 스타일, 리듬, 등장인물을 입력하면 LLM(소설 생성)이 소설의 개요, 줄거리, 결말을 순차적으로 완성합니다. 각 노드는 이전 노드의 출력을 기반으로 작동하여 소설 스타일의 일관성을 보장합니다.
직렬 구조 설계 #
- 두 노드 사이에 있는 아이콘을 클릭하여
+새로운 직렬 노드를 삽입합니다. - 노드를 순차적으로 연결합니다.
- 모든 경로를 “종료” 노드로 수렴하여 워크플로를 마무리합니다.
직렬 구조 애플리케이션 로그 보기 #
직렬 구조 애플리케이션에서 로그는 노드 작업을 순차적으로 표시합니다. 대화 상자 오른쪽 상단의 “로그 보기 – 추적”을 클릭하면 각 노드의 입출력, 토큰 소비, 런타임을 포함한 전체 워크플로 프로세스를 확인할 수 있습니다.
병렬 구조 설계 #
이 아키텍처 패턴은 여러 노드의 동시 실행을 가능하게 합니다. 이전 노드는 병렬 구조 내에서 여러 노드를 동시에 트리거할 수 있습니다. 이러한 병렬 노드는 독립적으로 작동하여 작업을 동시에 실행하고 전반적인 워크플로 효율성을 크게 향상시킵니다.병렬 아키텍처를 구현하는 번역 워크플로 애플리케이션을 생각해 보겠습니다. 사용자가 원본 텍스트를 입력하여 워크플로를 트리거하면, 병렬 구조 내의 모든 노드가 이전 노드로부터 동시에 명령을 수신합니다. 이를 통해 여러 언어로 동시에 번역할 수 있어 전체 처리 시간이 크게 단축됩니다.
병렬 구조 설계 패턴 #
다음 네 가지 방법은 노드 추가나 시각적 조작을 통해 병렬 구조를 만드는 방법을 보여줍니다.방법 1 노드 위에 마우스를 올리면 +버튼이 나타납니다. 버튼을 클릭하면 여러 노드가 추가되어 자동으로 병렬 구조가 형성됩니다.
방법 2 노드의 +버튼을 끌어서 연결을 확장하여 병렬 구조를 만듭니다.
방법 3 캔버스에 여러 노드가 있는 경우 시각적으로 끌어서 연결하여 병렬 구조를 형성합니다.
방법 4 캔버스 기반 방법 외에도 노드 오른쪽 패널의 “다음 단계” 섹션을 통해 노드를 추가하여 병렬 구조를 생성할 수 있습니다. 이 방법을 사용하면 병렬 구성이 자동으로 생성됩니다.
참고사항:
- 모든 노드는 병렬 구조의 다운스트림 노드 역할을 할 수 있습니다.
- 워크플로 애플리케이션에는 단일하고 고유한 “종료” 노드가 필요합니다.
- Chatflow 애플리케이션은 여러 개의 “답변” 노드를 지원합니다. 이러한 애플리케이션의 각 병렬 구조는 콘텐츠의 적절한 출력을 보장하기 위해 “답변” 노드로 끝나야 합니다.
- 모든 병렬 구조는 동시에 실행됩니다. 병렬 구조 내의 노드는 작업을 완료한 후 결과를 출력하며, 출력에는 순서 관계가 없습니다. 병렬 구조가 단순할수록 결과 출력 속도가 빨라집니다.
병렬 구조 패턴 설계 #
다음 네 가지 패턴은 일반적인 병렬 구조 설계를 보여줍니다.
1. 일반 평행 #
일반 병렬은 관계를 의미하며 Start | Parallel Nodes | End three-layer, 병렬 구조의 최소 단위이기도 합니다. 이 구조는 직관적이어서 사용자 입력 후 워크플로가 여러 작업을 동시에 실행할 수 있도록 합니다.병렬 가지의 상한은 10입니다.
2. 중첩된 병렬 #
중첩 병렬은 시작 | 여러 병렬 구조 | 종료의 다층 관계를 나타냅니다. 특정 노드 내에서 외부 API를 요청하고 동시에 반환된 결과를 처리를 위해 다운스트림 노드로 전달해야 하는 등 더 복잡한 워크플로에 적합합니다.워크플로는 최대 3개 계층의 중첩 관계를 지원합니다.
3. 조건 분기 + 병렬 #
병렬 구조는 조건 분기와 함께 사용될 수도 있습니다.
4. 반복 분기 + 병렬 #
이 패턴은 반복 분기 내에서 병렬 구조를 통합하여 반복적인 작업의 실행 효율성을 최적화합니다.
병렬 구조 애플리케이션 로그 보기 #
병렬 구조를 가진 애플리케이션은 트리 형태의 로그를 생성합니다. 축소 가능한 병렬 노드 그룹을 통해 개별 노드 로그를 더 쉽게 확인할 수 있습니다.
