발표자는 AI 개발에 대한 여러 잘못된 통념을 해체하며 Ruby LLM의 장점을 설명합니다. 그는 복잡한 에이전트 프레임워크나 공식 SDK가 필수적이라는 주장에 반박하며, Python의 LangChain이나 OpenAI의 SDK가 보이는 불필요한 복잡성과 비교하여 Ruby LLM의 간결하고 직관적인 사용법을 시연합니다. 특히 AI 분야의 빠른 변화 속도 때문에 특정 SDK에 얽매이지 않고 모델을 유연하게 전환할 수 있는 능력이 중요하다고 강조합니다.Ruby LLM은 다음 다섯 가지 핵심 철학적 원칙 위에 구축되었습니다:## Ruby LLM의 핵심 원칙
1. 단순한 것은 단순해야 하고, 복잡한 것은 가능해야 한다
- 기본적인 LLM 호출은 매우 간결하게 처리하며, 복잡한 멀티 에이전트 시스템도 단 20줄의 코드로 구현할 수 있습니다.
2. 모델과 제공업체는 상품이다
- 모델 이름 변경만으로 제공업체를 전환하거나, 특정 제공업체를 명시하여 사용할 수 있습니다.
- 11개 이상의 제공업체와 수백 개의 모델을 지원하며, 대화 도중에도 모델 변경이 가능합니다.
- 로컬 모델(Llama, Hugging Face) 지원 및 비용/기능을 포함한 모델 레지스트리를 제공합니다.
3. 설정보다 관례
- 기본 제공업체와 모델을 사용하여 별도의 설정 없이 채팅, 이미지 생성, 임베딩, 콘텐츠 검토, 오디오 전사 등 다양한 기능을 즉시 활용할 수 있습니다.
4. 점진적 공개
- 가장 기본적인 LLM 호출부터 시작하여 시스템 프롬프트, 첨부 파일, 온도, 커스텀 매개변수, 도구(tools) 등 필요한 지침을 점진적으로 추가할 수 있도록 설계되었습니다.
- 도구 사용을 위한 전용 DSL과 JSON 스키마를 지원하여 개발자가 비즈니스 로직에 집중할 수 있게 돕습니다.
5. 한 사람이 한 기기에서 실행하는 하나의 API
- Rails 프레임워크와 완벽하게 통합되어, 단 54초 만에 채팅 기능을 구축하고 1분 52초 만에 기본적인 채팅 UI를 생성하는 데모를 선보였습니다.
- 모든 상호작용은 자동으로 데이터베이스에 기록되며, Hotwire를 활용한 토큰 스트리밍도 지원합니다.