또한, 지난달 진행된 ProcessGPT 웨비나를 통해 에이전트 메쉬 구현 전략의 성과를 선보였습니다.
👆 클릭하여 웨비나 다시 보기
💡 Process GPT 기능 업데이트
컨텍스트 엔지니어링 자동화
"컨텍스트 최적화로 연결하는 지능형 프롬프트 체이닝"
Process GPT는 업무 프로세스의 각 단계를 AI를 통해 자동으로 연결하는 프롬프트 체이닝이 구현된 에이전틱 BPM 플랫폼입니다.
대규모 언어 모델은 한 번에 인식할 수 있는 정보의 양이 한정되어 있는 컨텍스트 윈도우(Context Window)라는 한계가 존재하는데, ProcessGPT는 이 윈도우 크기를 고려하여 각 단계에서 반드시 필요한 정보만 자동으로 추려 전달하는 컨텍스트 엔지니어링을 통해 다음 단계로 전달되는 컨텍스트를 최적화해줍니다.
사용자는 BPMN 기반의 직관적인 UI에서 이전 단계 결과물 중 다음 단계로 전달할 항목을 선택하거나, LLM이 업무 프로세스 맥락을 분석해 자동으로 최적화하도록 설정함으로써 코드 없이도 연결성 있는 프로세스를 구성할 수 있습니다.
Process GPT는 기본적으로 비결정론적(Non-deterministic) AI 추론을 활용하여 자연어 기반의 조건 평가, 상황 판단, 의사결정 등을 수행하지만, 동일한 입력에 대해 매번 결과가 다르게 나오는 AI의 특성은 비즈니스 프로세스의 일관성과 재현성을 저해할 수 있습니다.
이를 위해 비결정론적으로 수행된 결과 중 검증된 결과를 기반으로 이후 동일한 입력에 동일하게 동작하도록 하는 결정론적 규칙화 기능을 구현하였습니다.
결정론적 규칙화는 과거의 입력-출력 사례를 케이스 뱅크에 누적하고 학습을 통해 검증된 사례를 식별합니다. 이후, AI에 의해 자동으로 Python 코드로 변환하여 결정론적 규칙으로 등록합니다.
동일한 입력에 대해서는 AI 추론을 수행하지 않고 Python 코드를 실행함으로써 일관성을 유지하고 속도를 향상시킵니다.
