최근 몇 달간 여러 파운데이션 모델(FM) [https://aws.amazon.com/what-is/foundation-models/?trk=e61dee65-4ce8-4738-84db-75305c9cd4fe&sc_channel=el]에서 컨텍스트 창이 확장된 것을 목격할 수 있었습니다. 이제 많은 모델이 불과 1년 전만 해도 상상할 수 없었던 길이의 시퀀스를 처리할 수 있게 되었습니다. 하지만 기업용으로 사용하는 데 요구되는 신뢰성과 보안 기준을 유지하면서 방대한 양의 정보를 처리할 수 있는 AI 기반 애플리케이션을 구축하기는 여전히 쉽지 않습니다.
그런 만큼, 이제 Writer Palmyra X5 및 X4 [https://aws.amazon.com/bedrock/writer/?trk=e61dee65-4ce8-4738-84db-75305c9cd4fe&sc_channel=el] 모델을 Amazon Bedrock [https://aws.amazon.com/bedrock/]에서 완전관리형 서버리스 제품으로 사용할 수 있게 되었다는 소식을 발표하게 된 것이 더욱 기쁩니다. AWS는 Writer의 완전관리형 모델을 제공하는 최초의 주요 클라우드 제공업체입니다. Palmyra X5는 Writer가 금일 출시한 새로운 모델입니다. Palmyra X4는 이전에 Amazon Bedrock Marketplace [https://aws.amazon.com/bedrock/marketplace/?trk=e61dee65-4ce8-4738-84db-75305c9cd4fe&sc_channel=el]에서 제공되었습니다.
Writer Palmyra 모델은 엔터프라이즈급 보안 기준과 신뢰성을 유지하면서 복잡한 에이전트 기반 워크플로를 지원하는 강력한 추론 기능을 제공합니다. Palmyra X5는 100만 개의 토큰 컨텍스트 창을 제공하며, Palmyra X4는 128,000개의 토큰 컨텍스트 창을 지원합니다. 이들 모델은 이 같은 방대한 컨텍스트 창을 통해 앱 및 에이전트 개발에 있어서의 기존 제약 조건을 일부 해소하여 심층 분석과 보다 포괄적인 작업 수행을 가능케 합니다.
Amazon Bedrock은 이번 출시를 통해 보안, 프라이버시 및 책임 있는 AI [https://aws.amazon.com/ai/responsible-ai/?trk=e61dee65-4ce8-4738-84db-75305c9cd4fe&sc_channel=el] 원칙을 바탕으로 생성형 AI 애플리케이션을 구축하는 데 필요한 첨단 모델과 도구에 대한 액세스를 지속적으로 제공합니다.
FM 개발의 선도 업체인 Writer는 Amazon SageMaker HyperPod [https://aws.amazon.com/sagemaker-ai/hyperpod/?trk=e61dee65-4ce8-4738-84db-75305c9cd4fe&sc_channel=el]에서 업계 최고의 모델을 훈련하고 미세 조정합니다. Writer는 최적화된 분산 훈련 환경을 활용하여 훈련 시간을 줄이고 모델을 시장에 더 빠르게 출시합니다.
Palmyra X5 및 X4 사용 사례
Writer Palmyra X5 및 X4는 시스템 및 조직 통제(SOC) 2 [https://aws.amazon.com/compliance/soc-faqs/?trk=e61dee65-4ce8-4738-84db-75305c9cd4fe&sc_channel=el], 결제 카드 산업 데이터 보안 표준(PCI DSS) [https://aws.amazon.com/compliance/pci-dss-level-1-faqs/?trk=e61dee65-4ce8-4738-84db-75305c9cd4fe&sc_channel=el] 및 건강 보험 양도 및 책임에 관한 법률(HIPAA) [https://aws.amazon.com/compliance/hipaa-compliance/?trk=e61dee65-4ce8-4738-84db-75305c9cd4fe&sc_channel=el] 규정 준수 [https://aws.amazon.com/compliance/] 인증 등의 엄격한 보안 조치와 강력한 기능을 결합하여 엔터프라이즈 사용 사례에 적합하도록 설계되었습니다.
Palmyra X5 및 X4 모델은 여러 산업 분야에 걸친 다양한 엔터프라이즈 사용 사례에서 탁월한 성능을 발휘합니다.
금융 서비스 – Palmyra 모델은 거래 트랜잭션 지원, 10-Q, 10-K 및 실적 발표 스크립트 요약, 펀드 및 시장 조사, 대규모 맞춤형 고객 지원 등 투자 은행과 자산 및 잠금 관리 전반의 솔루션을 제공합니다.
의료 및 생명 과학 – 보험사와 의료 서비스 제공자는 회원 영입 및 온보딩, 이의 제기 및 불만 처리, 사례 및 이용 관리, 고용주 제안 요청(RFP) 대응을 위한 솔루션을 구축하는 데 Palmyra 모델을 사용합니다. 제약 회사는 상용 애플리케이션, 의학 업무, R&D 및 임상 시험에 이러한 모델을 사용합니다.
소매 및 소비재 – Palmyra 모델은 제품 설명 생성 및 변형, 성과 분석, SEO 업데이트, 브랜드 및 규정 준수 검토, 자동화된 캠페인 워크플로, RFP 분석 및 대응을 위한 AI 솔루션을 지원합니다.
기술 – 기술 부문 전반의 기업들은 개인화된 계정 기반 마케팅, 콘텐츠 제작, 캠페인 워크플로 자동화, 계정 준비 및 조사, 지식 지원, 채용 요약 및 지원자 보고서, RFP 대응을 위해 Palmyra 모델을 구현합니다.
Palmyra 모델은 다음을 비롯하여 포괄적인 엔터프라이즈급 기능군을 지원합니다.
적응형 사고 – 고급 추론과 엔터프라이즈급 신뢰성을 결합한 하이브리드 모델로, 복잡한 문제 해결과 정교한 의사 결정 프로세스에서 탁월한 성능을 발휘합니다.
다단계 도구 직접 호출 – 시스템 업데이트, 트랜잭션 실행, 이메일 전송, 워크플로 트리거링 등의 작업을 수행하기 위한 엔터프라이즈 시스템과의 상호 작용을 비롯하여, 복잡한 다단계 워크플로와 에이전트 작업에 사용할 수 있는 고급 도구 직접 호출 기능을 지원합니다.
엔터프라이즈급 신뢰성 – 전문적인 표준에 부합하는 결과를 제공하도록 비즈니스 콘텐츠로 특별히 훈련된 모델을 사용하여, 기업용 솔루션에 요구되는 엄격한 품질 기준을 유지하면서 일관되고 정확한 결과를 보장합니다.
Amazon Bedrock에서 Palmyra X5 및 X4
Amazon Bedrock의 다른 모든 신규 서버리스 모델과 마찬가지로, 먼저 액세스를 요청해야 합니다. Amazon Bedrock 콘솔 [https://console.aws.amazon.com/bedrock?trk=e61dee65-4ce8-4738-84db-75305c9cd4fe&sc_channel=el]의 탐색 창에서 모델 액세스를 선택하여 Palmyra X5 및 Palmyra X4 모델에 대한 액세스를 활성화합니다.
콘솔 스크린샷 [https://d2908q01vomqb2.cloudfront.net/da4b9237bacccdf19c0760cab7aec4a8359010b0/2025/04/22/bedrock-writer-model-access.png] [https://d2908q01vomqb2.cloudfront.net/da4b9237bacccdf19c0760cab7aec4a8359010b0/2025/04/22/bedrock-writer-model-access.png]
모델에 대한 액세스가 활성화되면 Amazon Bedrock Converse API [https://docs.aws.amazon.com/bedrock/latest/userguide/conversation-inference.html?trk=e61dee65-4ce8-4738-84db-75305c9cd4fe&sc_channel=el]를 사용하여 원하는 AWS SDK [https://aws.amazon.com/tools/]로 애플리케이션 구축을 시작할 수 있습니다. 모델은 다음과 같은 추론 프로필의 교차 리전 추론 [https://docs.aws.amazon.com/bedrock/latest/userguide/cross-region-inference.html?trk=e61dee65-4ce8-4738-84db-75305c9cd4fe&sc_channel=el]을 사용합니다.
* Palmyra X5의 경우: us.writer.palmyra-x5-v1:0
* Palmyra X4의 경우: us.writer.palmyra-x4-v1:0
다음은 AWS SDK for Python(Boto3) [https://aws.amazon.com/sdk-for-python/?trk=e61dee65-4ce8-4738-84db-75305c9cd4fe&sc_channel=el]을 사용한 구현 샘플입니다. 이 시나리오에는 기존 제품의 새 버전이 있습니다. 새 기능을 보여주는 자세한 비교 문서를 준비해야 합니다. 이전 제품 설명서와 새 제품 설명서가 있습니다. Palmyra X5의 대용량 입력 컨텍스트를 사용하여 두 버전의 설명서를 읽고 비교하여 비교 문서의 초안을 준비합니다.
import sys
import os
import boto3
import re
AWS_REGION = "us-west-2"
MODEL_ID = "us.writer.palmyra-x5-v1:0"
DEFAULT_OUTPUT_FILE = "product_comparison.md"
def create_bedrock_runtime_client(region: str = AWS_REGION):
"""Bedrock 클라이언트를 생성하고 반환합니다."""
return boto3.client('bedrock-runtime', region_name=region)
def get_file_extension(filename: str) -> str:
"""파일 확장자를 가져옵니다."""
return os.path.splitext(filename)[1].lower()[1:] or 'txt'
def sanitize_document_name(filename: str) -> str:
"""문서 이름을 삭제합니다."""
# 확장자 제거 및 기본 이름 가져오기
name = os.path.splitext(filename)[0]
# 유효하지 않은 문자를 공백으로 바꾸기
name = re.sub(r'[^a-zA-Z0-9\s\-\(\)\[\]]', ' ', name)
# 여러 공백을 단일 공백으로 바꾸기
name = re.sub(r'\s+', ' ', name)
# 앞/뒤 공백 제거
return name.strip()
def read_file(file_path: str) -> bytes:
"""바이너리 모드로 파일을 읽습니다."""
try:
with open(file_path, 'rb') as file:
return file.read()
except Exception as e:
raise Exception(f"Error reading file {file_path}: {str(e)}")
def generate_comparison(client, document1: bytes, document2: bytes, filename1: str, filename2: str) -> str:
"""두 제품 설명서의 마크다운 비교 문서를 생성합니다."""
print(f"Generating comparison for {filename1} and {filename2}")
try:
response = client.converse(
modelId=MODEL_ID,
messages=[
{
"role": "user",
"content": [
{
"text": "이 두 제품 설명서를 비교하고 마크다운 형식으로 자세한 비교 문서를 생성하세요. 주요 기능, 사양을 비교하고 제품 간의 주요 차이점을 보여주는 데 집중하세요."
},
{
"document": {
"format": get_file_extension(filename1),
"name": sanitize_document_name(filename1),
"source": {
"bytes": document1
}
}
},
{
"document": {
"format": get_file_extension(filename2),
"name": sanitize_document_name(filename2),
"source": {
"bytes": document2
}
}
}
]
}
]
)
return response['output']['message']['content'][0]['text']
except Exception as e:
raise Exception(f"Error generating comparison: {str(e)}")
def main():
if len(sys.argv) < 3 or len(sys.argv) > 4:
cmd = sys.argv[0]
print(f"Usage: {cmd} [output_file]")
sys.exit(1)
manual1_path = sys.argv[1]
manual2_path = sys.argv[2]
output_file = sys.argv[3] if len(sys.argv) == 4 else DEFAULT_OUTPUT_FILE
paths = [manual1_path, manual2_path]
# 각 파일의 존재 여부 확인
for path in paths:
if not os.path.exists(path):
print(f"Error: File does not exist: {path}")
sys.exit(1)
try:
# Bedrock 클라이언트 생성
bedrock_runtime = create_bedrock_runtime_client()
# 두 설명서 모두 읽기
print("Reading documents...")
manual1_content = read_file(manual1_path)
manual2_content = read_file(manual2_path)
# 문서에서 직접 비교 문서 생성
print("Generating comparison...")
comparison = generate_comparison(
bedrock_runtime,
manual1_content,
manual2_content,
os.path.basename(manual1_path),
os.path.basename(manual2_path)
)
# 비교 문서를 파일로 저장
with open(output_file, 'w') as f:
f.write(comparison)
print(f"Comparison generated successfully! Saved to {output_file}")
except Exception as e:
print(f"Error: {str(e)}")
sys.exit(1)
if __name__ == "__main__":
main()
Amazon Bedrock에 AWS SDK를 사용하는 방법을 알아보려면 Amazon Bedrock 사용 설명서의 코드 샘플 [https://docs.aws.amazon.com/bedrock/latest/userguide/service_code_examples.html]을 참조하세요.
알아야 할 사항
Writer Palmyra X5 및 X4 모델 [https://aws.amazon.com/bedrock/writer/?trk=e61dee65-4ce8-4738-84db-75305c9cd4fe&sc_channel=el]은 현재 미국 서부(오리건) AWS 리전 [https://aws.amazon.com/about-aws/global-infrastructure/regions_az/?trk=e61dee65-4ce8-4738-84db-75305c9cd4fe&sc_channel=el]의 Amazon Bedrock [https://aws.amazon.com/bedrock/]에서 교차 리전 추론 [https://docs.aws.amazon.com/bedrock/latest/userguide/cross-region-inference.html?trk=e61dee65-4ce8-4738-84db-75305c9cd4fe&sc_channel=el]에 사용할 수 있습니다. 리전별 모델 지원에 대한 최신 정보는 Amazon Bedrock 설명서 [https://docs.aws.amazon.com/bedrock/latest/userguide/models-regions.html?trk=e61dee65-4ce8-4738-84db-75305c9cd4fe&sc_channel=el]를 참조하세요. 요금에 대한 자세한 내용은 Amazon Bedrock 요금 [https://aws.amazon.com/bedrock/pricing/?trk=e61dee65-4ce8-4738-84db-75305c9cd4fe&sc_channel=el]을 참조하세요.
이 모델은 영어, 스페인어, 프랑스어, 독일어, 중국어 및 기타 여러 언어를 지원하므로 글로벌 엔터프라이즈 애플리케이션에 적합합니다.
개발자는 이러한 모델의 광범위한 컨텍스트 기능을 사용하여 방대한 문서를 처리하고, 복잡한 다단계 추론을 수행하고, 정교한 에이전트 워크플로를 처리할 수 있는 보다 고도화된 애플리케이션과 에이전트를 구축할 수 있습니다.
Writer Palmyra X5 및 X4 모델을 지금 바로 사용하려면 Amazon Bedrock 사용 설명서 [https://docs.aws.amazon.com/bedrock/latest/userguide/what-is-bedrock.html?trk=e61dee65-4ce8-4738-84db-75305c9cd4fe&sc_channel=el]의 Writer 모델 섹션을 참조하세요. 또한 community.aws [https://community.aws/generative-ai?trk=e61dee65-4ce8-4738-84db-75305c9cd4fe&sc_channel=el] 사이트의 생성형 AI 섹션에서 빌더 커뮤니티가 해당 솔루션에서 Amazon Bedrock을 어떻게 사용하고 있는지 살펴볼 수 있습니다.
이 강력하고 새로운 기능으로 무엇을 빌드했는지 알려주세요!
— Danilo [https://x.com/danilop]
뉴스 블로그를 어떻게 생각하시나요? 이 1분짜리 설문조사 [https://amazonmr.au1.qualtrics.com/jfe/form/SV_eyD5tC5xNGCdCmi]에 참여해 주세요!
(이 설문조사 [https://amazonmr.au1.qualtrics.com/jfe/form/SV_eyD5tC5xNGCdCmi]는 외부 기업에서 호스트합니다. AWS는 AWS 개인정보 처리방침 [https://aws.amazon.com/privacy/?trk=4b29643c-e00f-4ab6-ab9c-b1fb47aa1708&sc_channel=blog]에 설명한 대로 사용자 정보를 처리합니다. AWS는 이 설문 조사를 통해 수집된 데이터를 소유하며 수집된 정보를 설문 응답자와 공유하지 않습니다)