본 발표는 RubyLLM을 활용한 생성형 AI 애플리케이션 구축 과정을 단계별로 안내합니다.
1. 기본 생성형 AI 작업
-
대화형 챗봇: RubyLLM의 내장 생성기를 사용하여 몇 분 만에 대화형 챗봇을 구축합니다.
-
콘텐츠 생성: 텍스트 및 이미지 생성, 오디오/비디오 전사 기능을 다룹니다.
-
데이터 추출: 구조화된 데이터 추출과 같은 기본적인 생성형 AI 작업을 살펴봅니다.
2. 중간 수준의 AI 기술
-
툴 호출 (Tool Calling): LLM이 직접 수행할 수 없는 작업을 위임하는 프로그래밍 확장 기능인 툴 호출을 탐구합니다. 이는 애플리케이션 코드, 데이터베이스, API 호출 등을 포함합니다.
-
Model Context Protocol (MCP): AI 애플리케이션을 외부 시스템에 연결하기 위한 오픈소스 표준인 MCP와 툴 호출을 비교 분석합니다.
3. 고급 AI 기술
- 검색 증강 생성 (RAG - Retrieval Augmented Generation): 사용자 정의 또는 독점 데이터셋을 활용하여 LLM이 훈련 데이터 외부의 지식을 사용해 권위 있고 도메인별 응답을 생성하도록 하는 RAG 기술을 심층적으로 다룹니다.
4. 생산 환경을 위한 AI 시스템 기술 스택
- 핵심 요소: 프롬프트 및 컨텍스트 엔지니어링, 비용 관리 및 모델 선택, 평가 및 모니터링, 멀티 에이전트 시스템, 인프라 및 배포 등 생산 환경에 적합한 AI 시스템 구축을 위한 필수 기술 스택을 검토합니다.
이 세션은 Ruby 및 LLM에 대한 기본적인 지식이 있는 초보자에게도 적합하며, 참가자들이 생성형 AI 워크플로우를 구현하는 데 필요한 도구, 기술 및 지식을 습득하도록 돕습니다.