GenAI Processors는 재사용 가능하고 구성 가능한 프로세서 라이브러리를 제공하여 엔드 투 엔드 생성 AI 워크플로우를 구축합니다. 문서를 수집하고 의미 단위로 나누며 임베딩을 생성, 저장 및 검색하는 것뿐만 아니라 검색 전략을 적용하고 동적으로 프롬프트를 생성하여 대형 언어 모델 호출을 할 수 있습니다. 플러그 앤 플레이 디자인 덕분에 맞춤형 처리 단계 확장, Google Cloud 서비스 또는 외부 벡터 저장소와의 원활한 통합, 질문 답변, 요약, 지식 검색과 같은 복잡한 RAG 파이프라인 오케스트레이션이 용이합니다.

Split Prompt는 긴 프롬프트를 더 작고 ChatGPT와 호환되는 조각으로 처리하기 위해 설계된 전문 도구입니다. 방대한 텍스트를 다루며, 토큰 수 세기 방법을 사용하여 이를 정확하게 분할하여 최적화된 처리를 위해 최소 세그먼트를 보장합니다. 이 도구는 문자수 제한의 제약을 제거하여 ChatGPT와의 상호작용을 간소화하고, 상세하고 확장된 텍스트 입력에 대한 AI 모델의 보다 매끄럽고 효율적인 사용을 가능하게 합니다.