본문 바로가기

2025/03/04

LangFuse 설치
Data & Database 2025. 3. 4. LangFuse 설치 Langfuse langfuse는 대규모 언어 모델(LLM)로 구동되는 애플리케이션을 위한 오픈 소스 통합 가기성 및 분석 플랫폼으로 개발자와 조직이 LLM 애플리케이션을 구축하고 개선할 수 있도록 지원하며 비용, 품질, 지연 시간 등에 대한 인사이트를 제공합니다. 쉬운 셀프 호스팅과 API 추적 및 지표 모니터링, 다양한 모델과 프롬프트에 대한 구성과 성능 비교가 가능하며 자세한 디버깅 로그를 제공하여 애플리케이션 내에서 오류와 이상 징후를 추적할 수 있다는 장점이 있습니다. Langfuse 설치LangFuse docs : https://langfuse.com/self-hosting/local Run Langfuse Locally (self-hosted) - LangfuseStep-by-step gu..
Kubernetes 버전 업그레이드 (1.30) - 기존 클러스터 환경 삭제
Docker & Kubenetes 2025. 3. 4. Kubernetes 버전 업그레이드 (1.30) - 기존 클러스터 환경 삭제 기존 바닐라 k8s 의 버전이 1.24 로 매우 낮은 상태였습니다.그로인해 최근 신규 라이브러리 등에 버전 호환이 되지 않아 불편함을 겪던 중 1.30 으로 업그레이드를 결정한 후 단계별 업그레이드 보다 30개 서버 중 절반의 서버에 기존 클러스터 환경을 지우고 새로 구성하여 전환하는 방식으로 진행하게 되었습니다. OS : Ubuntu 20.04.5 LTSGPU : NVIDIA RTX A6000기존 설치여부 확인kubectl version --client && kubeadm version  kubeadm reset systemctl stop kubelet systemctl stop containerdsudo apt remove kubeadm kubelet kubectl sudo apt-get purge ..

티스토리툴바