2026.04.10 / 동준상.넥스트플랫폼
(AWS SAA, AWS AIF, GCP GenAI Leader)
이번 포스트는 AI 네이티브 클라우드 실무활용을 위한 핸즈온 참고자료입니다.
사전 공통 준비사항
0. 크롬 브라우저 (구글 계정 동기화 필요) + Google Cloud 회원 가입 (신용카드 정보입력, 결제 아님, 프리티어 사용)
https://cloud.google.com/free
1. Google Skills 접속 (구글 클라우드 서비스 프리티어 핸즈온 랩)
https://www.skills.google/
2. 카탈로그 주제 검색 창에 ‘Vertex AI’입력
>> 무료 리소스 접근 가능한 Labs 선택
AI 핸즈온 랩 | 기반 (Foundation)
사전지식: AI와 클라우드 산업의 기술 발전 연대기
(build by Jay using Claude Design)
https://nextplatform.net/ai-cloud-chronicle.html
P1. Vertex AI Studio 시작하기
(Get Started with Vertex AI Studio)
- Task 1. Create applications from prompts
- Task 2. Design effective prompts
- Task 3. Engineer and manage prompts
- Task 4. Use multimodal prompts with Gemini
- Task 5. Generate media in Vertex AI Studio
P2. Vertex AI로 생성형 AI 프롬프트 설계
(Generative AI with Vertex AI: Prompt Design)
- Task 1. Open the notebook in Vertex AI Workbench
- Task 2. Set up the notebook
- Task 3. Prompt engineering best practices
- Task 4. Reduce Output Variability
- Task 5. Improve Response Quality by Including Examples
핸즈온랩 결과물: Workbench Notebook
https://colab.research.google.com/drive/12jMWOWuStkmcYwppmGdrpmHyaAyKfwE0?usp=sharing
P3. Vertex AI에서 이미지 생성 앱 빌드
(Build an AI Image Generator app on Vertex AI)
- Connect to Vertex AI (Google Cloud AI platform)
- Use the AI Model
- Send text to the AI model
- Extract image-based answers from the AI
- Understand the basics of building AI applications
P4. Vertex AI에서 Gemini 기반 이미지 인식 앱 빌드
(Build an AI Image Recognition app using Gemini on Vertex AI)
- Connect to Vertex AI (Google Cloud AI platform)
- Load a pre-trained generative AI model -Gemini
- Send image + text questions to the AI model
- Extract text-based answers from the AI
- Understand the basics of building AI applications
P5. Gemini 모델을 이용하여 챗 프롬프트를 전송하는 앱 빌드
(Build an application to send Chat Prompts using the Gemini model)
- Connect to Vertex AI (Google Cloud AI platform)
- Load a pre-trained generative AI model -Gemini
- Send text to the AI model
- Extract chat responses from the AI
- Understand the basics of building AI applications
AI 핸즈온 랩 | 응용 (Applied)
P6. Vertex AI Agent Builder로 멀티스텝 AI 에이전트 구축
업계 동향: AI 에이전트가 자동화 시장의 핵심으로 급부상 중
차별성: 단순 챗봇을 넘어 도구 활용 능력(Tool Use)이 있는 에이전트 구축
실무가치: 고객 상담, 데이터 수집, 업무 자동화 등 엔터프라이즈 수요 증가
핸즈온 구성:
- 에이전트 정의 및 도구(Tools) 설정
- Google Search API 통합한 정보검색 에이전트
- Sheets/BigQuery 연계한 데이터 쿼리 에이전트
- 에이전트 성능 평가 및 프롬프트 최적화
P7. Vertex AI Search & RAG 실습 (검색증강생성)
업계 동향: 프롬프트 엔지니어링 한계 극복 → RAG로 전환하는 추세
차별성: 도메인 특화 정보를 사용한 정확도 높은 답변 생성
실무가치: 기업 내부 문서(매뉴얼, 가이드), FAQ 챗봇, 정책 문의 자동응답
핸즈온 구성:
- Cloud Storage의 문서(PDF, TXT) 임베딩 및 벡터화
- Vertex AI Search로 인덱싱 및 관련 문서 검색
- 검색된 컨텍스트 + Gemini로 답변 생성
- 검색품질 개선(하이브리드 검색, 리랭킹)
P8. Multi-LLM 오케스트레이션 & 모델 라우팅
업계 동향: GPT vs Gemini vs Claude 모델 선택 논의 → 하이브리드 활용이 최적
차별성: 단일 모델이 아닌, 작업별 최적 모델 자동선택 아키텍처
실무가치: 비용 vs 성능의 균형, 각 모델의 강점 활용
핸즈온 구성:
- Vertex AI의 Gemini 2.0 플래시(빠름/저비용) vs Pro(성능 우수) 비교
- LLM 라우팅 로직 구현 (작업 복잡도별 모델 선택)
- 외부 API(OpenAI, Anthropic) 통합
- 응답 품질 & 비용 A/B 테스트
P9. Vertex AI에서 모델 Fine-tuning & 커스텀 모델 배포
업계 동향: 오픈소스/제너럴 모델에서 특화 모델로 이동
차별성: 기존 Google 제공 모델 대신 조직 맞춤형 모델 구축
실무가치: 도메인별 정확도 향상(법률, 의료, 금융), 레이턴시 감소
핸즈온 구성:
- 학습 데이터셋 준비(JSONL 형식)
- Gemini 모델 Fine-tuning 작업 실행
- 커스텀 모델 성능 평가 (기본 모델 vs Fine-tuned)
- Vertex AI Model Registry에 배포
P10. Vertex AI 앱을 Cloud Run으로 프로덕션 배포 & LLM Ops
업계 동향: 사내 POC 단계에서 프로덕션 운영으로 전환하는 기업 증가
차별성: 로컬 노트북 실험 → 클라우드 기반 자동화된 배포 및 모니터링
실무가치: AI 앱의 안정성, 확장성, 비용 추적 (특히 토큰 사용량)
핸즈온 구성:
- Flask/FastAPI로 AI 앱 마이크로서비스화
- Cloud Run 배포 (서버리스, 자동 스케일링)
- Cloud Logging으로 프롬프트 & 응답 모니터링
- 토큰 사용량 대시보드 (BigQuery 연계)
- 비용 최적화 팁(배치 처리, 캐싱)
