Amazon Bedrock 실전 생성형 AI 앱 개발(생성형 AI 프로그래밍 시리즈 22)

▣ 01장: 생성형 AI의 기본과 동향
1.1 '생성형 AI'란 무엇인가?
__1.1.1 인공지능(AI)과 생성형 AI의 위치
__1.1.2 생성형 AI의 '모델'이란
__1.1.3 '모델'에 관한 기초 지식
1.2 유명한 생성형 AI 제품
__1.2.1 ChatGPT
__1.2.2 Stable Diffusion
__1.2.3 GitHub Copilot
1.3 생성형 AI용 API 제공 및 클라우드로 배포
__1.3.1 생성형 AI 모델용 API
__1.3.2 클라우드에서 제공되는 생성형 AI 모델의 API

▣ 02장: Amazon Bedrock 입문
2.1 Amazon Bedrock이란
__2.1.1 Bedrock의 장점
__2.1.2 지원되는 AWS 리전
__2.1.3 Bedrock 모델 이용 요금
2.2 왜 AWS의 Bedrock을 선택해야 할까?
__2.2.1 (1) AWS의 강점을 대부분 활용 가능
__2.2.2 (2) 여러 기업이 제공하는 최신 모델을 폭넓게 이용 가능
__2.2.3 (3) 애플리케이션 개발의 높은 편의성
__2.2.4 (4) 엔터프라이즈 레벨의 보안과 거버넌스 제공
2.3 Bedrock에서 사용할 수 있는 생성형 AI 모델
__2.3.1 모델의 종류
__2.3.2 Bedrock의 추천 모델
2.4 Anthropic의 생성형 AI 모델
__2.4.1 Anthropic의 모델의 특징
__2.4.2 Claude 3 시리즈
2.5 Cohere의 생성형 AI 모델
__2.5.1 Cohere의 모델 특징
__2.5.2 Command R 시리즈
__2.5.3 Embed English / Multilingual
2.6 Stability AI의 생성형 AI 모델
__2.6.1 Stability AI의 모델 특징
__2.6.2 Stable Diffusion 3.5 Large
2.7 Amazon의 생성형 AI 모델
__2.7.1 Amazon 모델의 특징
__2.7.2 Amazon Nova 인식 모델
__2.7.3 Amazon Nova 크리에이티브 콘텐츠 생성 모델
2.8 Meta의 생성형 AI 모델
__2.8.1 Meta 모델의 특징
__2.8.2 Llama 3.3
2.9 Mistral AI의 생성형 AI 모델
__2.9.1 Mistral AI의 모델의 특징
__2.9.2 Mistral Large2 / Small
2.10 AI21 Labs의 생성형 AI 모델
__2.10.1 AI21 Labs의 모델의 특징
__2.10.2 Jamba 1.5 Large
2.11 [핸즈온] Bedrock 실제로 사용해보기
__2.11.1 플레이그라운드를 통해 GUI 환경에서 생성하는 방법
__2.11.2 AWS SDK를 사용해서 각 모델 API 요청을 보내는 방법

▣ 03장: 생성형 AI 애플리케이션 개발 방법
3.1 프롬프트란
__3.1.1 프롬프트 작성법
__3.1.2 프롬프트의 종류
3.2 토큰이란
__3.2.1 문자열을 토큰으로 분할하기
__3.2.2 토큰 수 계산 방법
3.3 프롬프트 엔지니어링이란
__3.3.1 프롬프트 엔지니어링 가이드라인
__3.3.2 모델 활성화하기
__3.3.3 명확한 작업 설정하기
__3.3.4 문서 제공하기
__3.3.5 구체적인 지침 설정하기
__3.3.6 예시를 제공하기
__3.3.7 단계별 사고 유도하기
__3.3.8 기타 프롬프트 엔지니어링 기법
3.4 생성형 AI 앱 개발에 사용하는 주요 프레임워크
__3.4.1 생성형 AI 프레임워크의 활용
__3.4.2 LangChain
__3.4.3 Streamlit
3.5 LangChain과 Streamlit을 이용한 생성형 AI 앱 개발
__3.5.1 개발 환경 준비
__3.5.2 [스텝1] LangChain 구현하기
__3.5.3 [스텝2] 스트림 출력
__3.5.4 [스텝3] Streamlit 연동하기
__3.5.5 [스텝4] 연속적인 채팅 대화 구현하기
__3.5.6 [스텝5] 채팅 기록 유지하기
3.6 AWS Lambda에서 실행되는 생성형 AI 앱 개발
__3.6.1 AWS Lambda를 활용한 생성형 AI 앱
__3.6.2 활용 사례
__3.6.3 개발 환경 구성
__3.6.4 구현 내용
__3.6.5 Lambda 레이어 만들기
__3.6.6 Lambda 함수 생성하기
3.7 생성형 AI 앱 개발에 사용하는 그 외의 프레임워크
__3.7.1 LlamaIndex
__3.7.2 Gradio
__3.7.3 Chainlit
__3.7.4 Dify
__3.7.5 LiteLLM

▣ 04장: 사내 문서 검색 RAG 애플리케이션을 만들어보자
4.1 RAG란?
__4.1.1 RAG의 특징과 유스케이스
__4.1.2 의미 검색을 가능하게 하는 '임베딩'
__4.1.3 RAG 아키텍처의 구현 예시
4.2 [핸즈온] 지식 기반으로 RAG를 구현해보자
__4.2.1 지식 기반의 구조
__4.2.2 지식 기반을 활용한 RAG 애플리케이션 개발의 개요
__4.2.3 S3 버킷 생성하기
__4.2.4 Knowledge Base 생성하기
__4.2.5 모델 활성화하기
__4.2.6 지식 기반 단독 동작 확인하기
__4.2.7 프론트엔드 구현하기
__4.2.8 RAG 애플리케이션 실행하기
__4.2.9 불필요한 리소스의 삭제 방법
__4.2.10 지식 기반을 지원하는 생성형 AI 모델
__4.2.11 지식 기반의 쿼리 설정
__4.2.12 지식 기반의 이용 요금
4.3 RAG용 검색 대상 서비스 소개
__4.3.1 이 섹션에서 소개하는 서비스 목록
__4.3.2 Amazon OpenSearch Service (벡터 DB/AWS 서비스)
__4.3.3 Amazon OpenSearch Serverless (벡터 DB/AWS 서비스)
__4.3.4 Amazon Aurora & Amazon RDS (벡터 DB/AWS 서비스)
__4.3.5 Amazon DocumentDB (벡터 DB/AWS 서비스)
__4.3.6 Amazon MemoryDB for Redis (벡터 DB/AWS 서비스)
__4.3.7 Pinecone (벡터 DB/AWS Marketplace 제품)
__4.3.8 Redis Enterprise Cloud (벡터 DB/AWS Marketplace 제품)
__4.3.9 MongoDB Atlas (벡터 DB/AWS Marketplace 제품)
__4.3.10 Amazon Kendra (기타/AWS 서비스)
__4.3.11 Amazon DynamoDB (기타/AWS 서비스)
__4.3.12 Amazon S3 (기타/AWS 서비스)
4.4 추천 RAG 아키텍처 예시
__4.4.1 일단 시험해보기 & 저비용 운영
__4.4.2 답변 품질 중시
__4.4.3 데이터 소스와의 연결성 중시
4.5 RAG의 답변 품질을 높이기 위한 방법
__4.5.1 청크 사이즈의 조정
__4.5.2 메타데이터 추가
__4.5.3 리랭크
__4.5.4 RAG 퓨전
__4.5.5 Rewrite-Retrieve-Read
__4.5.6 HyDE（Hypothetical Document Embeddings）
__4.5.7 기타 새로운 방법
4.6 RAG 애플리케이션의 평가 도구
__4.6.1 Ragas
__4.6.2 LangSmith
__4.6.3 Langfuse

▣ 05장: 편리한 자율형 AI 에이전트 만들기
5.1 AI 에이전트란
__5.1.1 도구를 사용하는 AI 에이전트
__5.1.2 고도화된 AI 에이전트 구현 방식 'ReAct'란?
__5.1.3 오픈소스 AI 에이전트
__5.1.4 AI 에이전트의 유스케이스
5.2 [핸즈온] LangChain에서 AI 에이전트를 구현해 보기
__5.2.1 사전준비
__5.2.2 핸즈온 ① 툴을 이용하는 AI 에이전트
__5.2.3 핸즈온 ② ReAct 에이전트
5.3 Agents for Amazon Bedrock이란
__5.3.1 Agents for Amazon Bedrock의 개요
__5.3.2 Agents의 구조
__5.3.3 Agents의 상세
__5.3.4 지원 모델과 리전
__5.3.5 Agents의 사용 요금
5.4 [핸즈온] Agents로 AI 에이전트를 만들어 보자
__5.4.1 이 장에서 개발하는 AI 에이전트의 개요
__5.4.2 모델 활성화
__5.4.3 Pinecone 준비
__5.4.4 S3 버킷 작성
__5.4.5 지식 기반 생성
__5.4.6 Lambda 계층 작성
__5.4.7 Agents 작성
__5.4.8 작업 그룹 추가
__5.4.9 Lambda 함수 설정
__5.4.10 지식 기반 추가
__5.4.11 별칭 작성
__5.4.12 동작 확인
__5.4.13 추적 표시
__5.4.14 Orchestration Strategy 변경

▣ 06장: Bedrock 기능 활용하기
6.1 커스터마이징 모델
__6.1.1 커스텀 모델이란
__6.1.2 파인튜닝
__6.1.3 지속적인 사전 훈련
__6.1.4 커스텀 모델 가져오기
6.2 세이프가드
__6.2.1 세이프가드란
__6.2.2 워터마크 감지
__6.2.3 가드레일
6.3 평가와 도입
__6.3.1 모델 평가
__6.3.2 프로비저닝된 처리량
6.4 Bedrock 기타 기능
__6.4.1 배치 추론
__6.4.2 SageMaker Unified Studio의 Amazon Bedrock

▣ 07장: 다양한 AWS 서비스와 Bedrock의 연계
7.1 Amazon CloudWatch와의 연계
__7.1.1 CloudWatch 개요
__7.1.2 CloudWatch Metrics
__7.1.3 CloudWatch Logs
7.2 AWS CloudTrail과의 연계
__7.2.1 CloudTrail 개요
__7.2.2 관리 이벤트와 데이터 이벤트
7.3 AWS PrivateLink와의 연계
__7.3.1 PrivateLink 개요
__7.3.2 생성형 AI 앱의 네트워크 설계
7.4 AWS CloudFormation과의 연계
__7.4.1 CloudFormation 개요
7.5 그 외의 AWS 서비스와의 연계
__7.5.1 Amazon Aurora
__7.5.2 Amazon CodeCatalyst
__7.5.3 Amazon Lex
__7.5.4 Amazon Transcribe
__7.5.5 Amazon Connect

▣ 08장: 생성형 AI 앱을 로우코드로 개발해보자
8.1 AWS Step Functions와 프롬프트 체이닝
__8.1.1 Step Functions란
__8.1.2 통합의 종류
__8.1.3 프롬프트 체이닝이란
__8.1.4 Workflow Studio 사용법
__8.1.5 JSONata 구문을 사용한 값의 참조와 내장 함수
8.2 [핸즈온] Bedrock과 Step Functions를 사용한 생성형 AI 앱 개발
__8.2.1 개발 환경 준비
__8.2.2 핸즈온의 개요
__8.2.3 【단계 1】 Bedrock에 관한 게시물 가져오기
__8.2.4 【단계 2】 가져온 각 게시물의 요점 정리하기
__8.2.5 생성한 태스크 테스트 실행하기
__8.2.6 【단계 3】 자기소개문과 캐치프레이즈 작성하기
__8.2.7 【단계 4】 생성한 내용을 Markdown 형식으로 변환하기
__8.2.8 [단계 5] 썸네일 이미지 생성하기
__8.2.9 완성된 상태 머신 실행
__8.2.10 확인 화면 생성

▣ 09장: Bedrock 이외의 생성형 AI 관련 서비스 소개
9.1 AWS의 생성형 AI 스택
__9.1.1 AWS 생성형 AI 스택의 종류
__9.1.2 Amazon Q
9.2 생성형 AI를 애플리케이션으로 사용하고 싶은 경우
__9.2.1 PartyRock
__9.2.2 AWS HealthScribe
9.3 생성형 AI 모델의 학습 및 추론 인프라가 필요한 경우
__9.3.1 Amazon SageMaker
__9.3.2 Amazon SageMaker JumpStart
__9.3.3 Amazon SageMaker Canvas
__9.3.4 AWS의 자체 설계 칩
9.4 [핸즈온] Amazon Q Business 애플리케이션 개발
__9.4.1 RAG에 사용할 문서 준비
__9.4.2 AWS IAM Identity Center 생성
__9.4.3 Amazon Q Business 애플리케이션에 로그인할 사용자 생성
__9.4.4 Amazon Q Business 애플리케이션 생성
__9.4.5 Amazon Q Business 애플리케이션 동작 확인
__9.4.6 Amazon Q Business 애플리케이션 옵션 설정
__9.4.7 핸즈온 환경 삭제

▣ 10장: Bedrock의 활용 사례
10.1 미리디 사례
__10.1.1 미리디 소개
__10.1.2 AI 프레젠테이션 생성 기능
__10.1.3 미리캔버스의 아키텍처
__10.1.4 서비스 성과와 향후 계획
10.2 오늘의집 사례
__10.2.1 오늘의집 소개
__10.2.2 오집사 프로젝트 소개
__10.2.3 오집사의 아키텍처
__10.2.4 서비스 성과와 향후 계획
10.3 에이전트소프트(해피캠퍼스) 사례
__10.3.1 에이전트소프트 소개
__10.3.2 EasyAI 서비스 소개
__10.3.3 EasyAI 기능 소개
__10.3.4 EasyAI 아키텍처
__10.3.5 서비스 성과와 향후 계획

▣ 11장: 최신 정보 따라잡기
11.1 AWS 공식 자료
__11.1.1 공식 문서
__11.1.2 AWS What's New
__11.1.3 AWS 블로그
__11.1.4 GitHub 공개 자료
__11.1.5 AWS Innovate
11.2 기술 커뮤니티 및 정보 수집 플랫폼
__11.2.1 AWSKRUG (AWS 한국 사용자 모임)
__11.2.2 Qiita (일본 개발자 사이트)
__11.2.3 X(구 Twitter)
__11.2.4 Discord
__11.2.5 LinkedIn

▣ 부록1: AWS 계정 생성 절차
AWS 계정 생성하기
MFA(다중 인증) 설정하기

▣ 부록2: IAM 사용자 생성 절차
IAM 사용자 신규 생성하기
MFA(다중 인증)를 생성하기

▣ 부록3: 핸즈온 환경 구성

쿠마다 칸 주식회사 Relic 첨단 기술 연구 개발 리드. 엔지니어로 인프라 설계 및 구축, 운영 및 유지보수 업무에 종사한 후, 2021년에 주식회사 Relic에 입사했습니다. 다수의 프로젝트를 넘나들며 서비스의 신뢰성 향상, 보안의 균질화/최적화, 표준화에 참여했습니다.