Split Prompt는 긴 프롬프트를 더 작고 ChatGPT와 호환되는 조각으로 처리하기 위해 설계된 전문 도구입니다. 방대한 텍스트를 다루며, 토큰 수 세기 방법을 사용하여 이를 정확하게 분할하여 최적화된 처리를 위해 최소 세그먼트를 보장합니다. 이 도구는 문자수 제한의 제약을 제거하여 ChatGPT와의 상호작용을 간소화하고, 상세하고 확장된 텍스트 입력에 대한 AI 모델의 보다 매끄럽고 효율적인 사용을 가능하게 합니다.

GenAI Processors는 재사용 가능하고 구성 가능한 프로세서 라이브러리를 제공하여 엔드 투 엔드 생성 AI 워크플로우를 구축합니다. 문서를 수집하고 의미 단위로 나누며 임베딩을 생성, 저장 및 검색하는 것뿐만 아니라 검색 전략을 적용하고 동적으로 프롬프트를 생성하여 대형 언어 모델 호출을 할 수 있습니다. 플러그 앤 플레이 디자인 덕분에 맞춤형 처리 단계 확장, Google Cloud 서비스 또는 외부 벡터 저장소와의 원활한 통합, 질문 답변, 요약, 지식 검색과 같은 복잡한 RAG 파이프라인 오케스트레이션이 용이합니다.