본문 바로가기

전체 글

AI Agent 실전 설계와 핵심
AI | ML | LLM 2026. 5. 22. AI Agent 실전 설계와 핵심 AI Agent는 단순히 LLM을 API로 연결하는 것이 아닙니다.도구를 사용하여 추론하고, 다양한 시스템과 상호작용하는 Agent는 설계 단계에서 부터 품질이 좌우됩니다.이 글에서는 AI Agent를 실제 서비스에 적용하면서 얻은 인사이트와 AWS Summit Seoul 2026 에서 학습한 인사이트를 바탕으로정리하고자 합니다. 해야 하는 것 보다 하지 말아야 할 것을 정의할 것Agent에게 할 수 있는 것을 정의하는 것은 쉽습니다.하지만 중요한 것은 하지 말아야 할 것을 명확하게 정의하는 것입니다. 이는 Agent의 신뢰성에 큰 영향을 주며, 어떤 요청을 거절해야 하는지, 어떤 데이터에 접근을 제한할 것인지 명확히 정의해야 예측 가능하고 신뢰할 수 있는 Agent를 만들 수 있습니다. Observab..
Ontology의 개념
Ontology 2026. 5. 11. Ontology의 개념 Ontology 란?Ontology는 원래 '존재론' 이라는 뜻의 철학 용어입니다.'세상에는 어떤 것들이 존재하는가' 라는 질문에서 시작되었으며 현재 IT에서는 '공유된 개념화에 대한 명시적인 명세' 로 정의합니다.말이 조금 어려운데, 쉽게 말하자면 '여러 개념들이 서로 어떤 관계인지 정의하는 의미적 관계 규칙의 집합'으로예를들어, 우리가 '대중교통' 이라고 부르는 것에 버스, 기차, 지하철 등 다양한 종류와 관계에 대해 컴퓨터가 명확하게 알 수 있게 강력한 규칙으로 정해두는 것입니다. 요즘 Ontology가 각광받는 이유는 생성형 AI, LLM의 치명적인 단점인 할루시네이션(Hallucination)을 방지하기 위해확률에 기반하여 답변을 생성하는 LLM의 한계를 극복하기 위해 지식 그래프 기반으로 수 ..
EKS에서 Amazon DocumentDB (with MongoDB compatibility) 접속테스트하기
Data & Database 2026. 5. 7. EKS에서 Amazon DocumentDB (with MongoDB compatibility) 접속테스트하기 0. EKS에 테스트용 Pod 생성하기 kubectl run web --image=nginx해당 Pod에 접속kubectl exec web -it -- bash 1. 버전에 맞는 패키지 다운 링크 복사https://www.mongodb.com/try/download/shell2. 패키지 관리 시스템에서 사용하는 공개 키 가져오기 wget -qO- https://www.mongodb.org/static/pgp/server-8.0.asc | tee /etc/apt/trusted.gpg.d/server-8.0.asc 2-1. gnupg 이(가) 설치되지 않았다는 오류가 발생 시 gnupg 및 필수 라이브러리를 설치 sudo apt-get install gnupg 설치 후 키 가져오기를 다시 시도 3. Mong..
LLM Gateway 개요 및 기능
AI | ML | LLM 2026. 4. 9. LLM Gateway 개요 및 기능 LLM Gateway애플리케이션과 다양한 LLM 모델 사이에서 중개 역할을 하는 미들웨어 레이어 & 프록시 서비스로, API를 단일 엔드포인트로 호출하여 라우팅, 표준화, 보안, 장애 복구 등을 처리합니다. 직접 연결LLM Gateway사용량 추적IAM 역할 단위사용자/팀/프로젝트 단위예산 관리불가사용자별/팀별 월 예산인증IAM 자격증명 직접 관리SSO 통합 자동화감사CloudTrail (제한적)상세 요청/응답 로그접근 제어IAM 정책모델별/기능별 세밀한 제어 구성 요소모델 라우팅 및 표준화 통합 엔드포인트 : 한 번의 코드 작성으로 제공업체 변경이나 모델 전환을 쉽게 할 수 있습니다. 라우팅 정책 : 가격, 지연 시간, 요구 사항에 따라 모델을 전환하여 서비스 연속성을 보장합니다.보안 및 인..
하네스 엔지니어링의 개념과 주요 포인트
AI | ML | LLM 2026. 4. 8. 하네스 엔지니어링의 개념과 주요 포인트 하네스 엔지니어링?하네스 엔지니어링은 용어는 26년 2월 Mitchell Hashimoto 라는 개발자가 처음 사용한 용어로, 에이전트가 지속적으로 동일한 실수를 발생시키는 현상을 발생하게 되고 이를 보완하기 위해 에이전트가 지속적으로 실수를 반복하지 않도록 엔지니어링 하는 것을 하네스 엔지니어링 이라고 말했습니다. 즉, 우리가 말을 원하는 방향과 속도로 컨트롤 할 때 사용하는 마구(하네스)처럼 에이전트가 멋대로 날뛰지 않도록엔지니어가 프롬프트에게 작업 방향을 설정하고, 실행 능력을 부여하고, 행동 범위를 제한하여 원하는 대로 에이전트를 다룰 수 있도록 하는 것입니다. 발전 흐름프롬프트 엔지니어링 > 컨텍스트 엔지니어링 > MCP + Skill > 하네스 엔지니어링 하네스 엔지니어링이 필요한 이유컨텍스트..
Databricks 비용 모델과 비용 최적화
Data & Database 2026. 3. 24. Databricks 비용 모델과 비용 최적화 비용 모델Databricks의 비용 모델은 사용한 만큼 지불하는 pay-as-you-go 가격 모델을 채용합니다.비용 구성은 크게 두가지로 나뉩니다.비용 구성Databricks 플랫폼 사용 비용(DBU)Cloud 인프라 비용 비용 없이 제공되는 것라이센스, 초기 비용, 월 고정사용료컴퓨팅을 사용하지 않는 워크스페이스데이터 카탈로그 (Unity Catalog)DBU시간당 프로세싱 능력을 반영한 Databricks의 과금 단위클러스터/웨어하우스 사이즈와 대수, Photon의 가속화 여부, 인스턴스 사용 시간에 따라 결정되며 Spark 시작 ~ 종료 까지 초당 사용량에 따라 과금된다.인스턴스 Pool 사용시 미할당 인스턴스는 DBU 과금을 안하지만 VM 비용은 발생한다.DBU 비용클래식 컴퓨트 : 고객의 VM..
데이터 디자인 패턴 - Medallion 아키텍처
Data & Database 2026. 3. 23. 데이터 디자인 패턴 - Medallion 아키텍처 메달리온 아키텍처(Medallion Architecture)는 데이터 레이크하우스 내에서 데이터를 논리적으로 조직하고 단계별로 정제하여 데이터의 품질과 구조를 점차 개선해 나가는 데이터 설계 패턴 입니다. 데이터가 각 계층(브론즈, 실버, 골드)을 지나며 비즈니스에 더욱 최적화 된 상태로 정제되도록 설계 되었으며 핵심 개념과 목적은 아래와 같습니다. 점진적 개선 : 원시 데이터를 그대로 저장한 뒤, 검증과 변환을 통해 분석 데이터로 만드는 멀티 홉 방식을 취합니다.신뢰성 확보 : 각 단계에서 데이터에 대한 유효성을 검사하여 사용자가 신뢰할 수 있도록 합니다.유연성 : 데이터 레이크의 유연성과 데이터 웨어하우스의 품질 관리를 결합한 레이크하우스 아키텍처의 표준 모델로 통합니다.왜 메달리온 이라고 부르는가?..
Valkey - 이제는 Redis 보다 Valkey
Cloud/AWS 2026. 3. 10. Valkey - 이제는 Redis 보다 Valkey ValkeyValkey 는 Redis 호환 오픈소스 인메모리 데이터 스토어로, 마이크로초 단위의 응답 성능을 제공하면서도 벤더 종속 없이 활용가능한 오픈소스 라이선스 입니다. 왜 Valkey 가 뜨고 있을까?Redis는 AWS에서 가장 인기있는 데이터베이스였고 DB Engine 집계에서도 가장 인기있는 Key-value DBMS였습니다.그러나 오픈소스 라이선스 변경에 대해 AWS, Google, Oracle 등 많은 기업이 반발하여 Valkey의 포크 프로젝트를 지원하게 됩니다. 이후 Alibaba, Heroku, Percona 등도 추가로 지원을 선언하면서 이례적으로 많은 대기업들이 한 프로젝트에서 다른 프로젝트로 옮겨가게 됩니다.AWS 에는 기존 Redis OSS용 ElastiCache 에서 Valk..
파일/폴더 출력하기
Python 2026. 3. 5. 파일/폴더 출력하기 glob은 와일드카드 문자 *, ?, [] 등을 사용하여 파일 및 디렉터리 경로에 패턴 기반으로 파일을 검색하는 표준 라이브러리 입니다.파일 시스템 내에서 특정 패턴과 일치하는 경로명을 찾아 리스트로 반환 하는 용도로 사용합니다. 주요 와일드카드* : 문자열 매칭 ex) *.py => 모든 파이썬 파일? : 정확히 1개의 문자 매칭[] : 문자 집합 중 하나와 매칭 ex) [0-9]*.txt => 숫자로 시작하는 txt 파일 예시 코드 import glob# 현재 디렉터리의 모든 .txt 파일 가져오기files = glob.glob('*.txt')# 하위 디렉터리까지 포함하여 모든 .py 파일 검색all_file - glob.flob('**/*.py', recursive=True)# Data 폴더를 재귀..

티스토리툴바