LangFuse 설치

Langfuse

langfuse는 대규모 언어 모델(LLM)로 구동되는 애플리케이션을 위한 오픈 소스 통합 가기성 및 분석 플랫폼으로 개발자와 조직이 LLM 애플리케이션을 구축하고 개선할 수 있도록 지원하며 비용, 품질, 지연 시간 등에 대한 인사이트를 제공합니다.

 

쉬운 셀프 호스팅과 API 추적 및 지표 모니터링, 다양한 모델과 프롬프트에 대한 구성과 성능 비교가 가능하며 자세한 디버깅 로그를 제공하여 애플리케이션 내에서 오류와 이상 징후를 추적할 수 있다는 장점이 있습니다.

 

Langfuse 설치

LangFuse docs : https://langfuse.com/self-hosting/local

Run Langfuse Locally (self-hosted) - Langfuse

 

원하는 설치 위치로 디렉토리 이동 후 git clone

 

git clone https://github.com/langfuse/langfuse.git

cd langfuse

 

docker-compose.yml 파일 수정

NEXTAUTH_URL : <서버IP>:포트 로 수정

TELEMETRY_ENABLED : false 로 수정 (Langfuse는 자체 호스팅 인스턴스의 기본 사용 통계를 중앙 서버(PostHog)로 자동 보고하는 옵션)

 

수정 완료 후 docker-compose up 로 구동

 

기본적으로 3000 포트를 사용함

<서버IP>:3000 으로 Web 접속

Sign up 을 통해 접속할 계정 생성 후 접속