Deep-Research-With-Web-Scraping-by-LLM-And-AI-Agent는 웹 스크래핑 기술과 대형 언어 모델의 능력을 결합하여 연구 워크플로우를 자동화하도록 설계되었습니다. 사용자들은 대상 도메인을 정하고, URL 패턴이나 검색 쿼리를 지정하며, BeautifulSoup 또는 유사 라이브러리를 사용해 분석 규칙을 설정합니다. 이 프레임워크는 HTTP 요청을 조정하여 원시 텍스트, 표 또는 메타데이터를 추출 한 후, 추출한 데이터를 요약, 토픽 클러스터링, Q&A 또는 데이터 정규화와 같은 작업을 위해 LLM에 입력합니다. 반복 루프를 지원하여, LLM 출력이 후속 스크래핑 작업에 반영되어 관련 소스에 대한 깊이 있는 분석이 가능합니다. 내장 캐시, 오류 처리, 설정 가능한 프로프트 템플릿을 갖추고 있어, 학술 논문 리뷰, 경쟁 정보 수집, 시장 조사 자동화 등에 적합합니다.
