Amazon Bedrock은 AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI 및 Amazon과 같은 주요 AI 회사의 고성능 대규모 언어 모델(LLM) 및 기타 FM을 단일 API를 통해 선택할 수 있는 완전관리형 서비스로 보안, 개인 정보 보호 및 책임 있는 AI가 내장된 생성형 AI 애플리케이션을 구축하는 데 필요한 다양한 기능을 제공하며 여러 산업과 사례에 맞게 맞춤형 애플리케이션 구축에 도움을 줍니다.
즉, 생성형 AI의 모델을 API를 통해 사용할 수 있으며 사전에 학습된 FM을 단일 API로 선택하여 다양한 상황에 활용할 수 있습니다.
특징
- 다양한 모델 제공
여러 AI 업체와 Amazon이 개발한 FM을 제공합니다.
- 맞춤 모델 생산
사용자가 필요한 상황과 요구조건에 맞게 모델을 생성, 튜닝할 수 있습니다.
- 서버리스 서비스
서버리스 환경을 제공하며 완전 관리형으로 인프라 관리가 필요 없습니다.
- 확장 및 통합
SageMaker 등 다양한 서비스와 함께 통합하여 사용 가능합니다.
사용 가능 모델
- Titan Text Embeddings V2
텍스트를 임베딩 변환하여 의미있는 유사성을 분석하는데 사용됩니다.
대부분 검색, 추천 시스템, 문서 분류 등에 사용됩니다.
- Claude 3.5 Sonnet
자연어 처리에 최적화 된 모델로, 대규모 텍스트 생성을 지원합니다.
대화형, 문서 작성, 자동 응답 등에 사용됩니다.
- Claude 3 Haiku
경량화된 자연어 처리 모델로 빠르고 효율적인 텍스트 생성을 지원합니다.
간단한 대화형 AI 등에 사용됩니다.
추후 더 많은 모델이 추가 될 예정이며 지원 모델 목록은 아래 공식 문서에서 확인 가능합니다.
https://docs.aws.amazon.com/bedrock/latest/userguide/models-regions.html
Model support by AWS Region - Amazon Bedrock
Model support by AWS Region Amazon Bedrock model availability varies by AWS Region. All models are supported in the US East (N. Virginia, us-east-1) and the US West (Oregon, us-west-2) Regions, except for the following exceptions: Amazon Titan Text Premier
docs.aws.amazon.com
요금
24년 10월 기준 Amazon Titan Text Embeddings V2 사용시 입력 토큰 1,000 개당 USD 0.000024592
출력 토큰은 무료 입니다.
'Cloud > AWS' 카테고리의 다른 글
| AWS - Database Data 이관/전송하기 (DMS) (0) | 2024.06.25 |
|---|---|
| Amazon Aurora MySQL version 3 Upgrade (0) | 2024.03.14 |
| AWS CloudFormation으로 기존 리소스에 대한 IaC 생성하기 (0) | 2024.02.19 |
| Amazon DynamoDB 비용 최적화 방법 (0) | 2024.02.15 |
| AWS - Log 수집 전략 (0) | 2024.01.25 |
