Gavin Morrice의 강연은 Ruby 언어의 유연성과 개발 생산성을 활용하여 언어 모델의 복잡한 개념을 이해하고 구현하는 데 중점을 둡니다. 강연은 다음과 같은 핵심 내용을 다루며, 풍부한 외부 리소스를 통해 학습을 지원합니다.
강연 주요 내용
- Ruby를 이용한 언어 모델 구축: Ruby 개발자들이 언어 모델의 기본 원리를 파악하고, 실제 코드를 통해 모델을 구현하는 방법을 소개합니다. Ruby의 장점을 활용하여 효율적인 개발 과정을 제시합니다.
제공 리소스
- 강연 슬라이드: 강연의 시각 자료는 다음 링크에서 확인할 수 있습니다: https://slides.com/gavinmorrice/language-models-with-ruby/* 소스 코드: Ruby로 구현된 언어 모델 예제는 Gavin Morrice의 GitHub 저장소
bodacious/RubyLM에서 제공됩니다: https://github.com/bodacious/RubyLM - 추천 도서: 언어 모델 및 머신러닝에 대한 심층적인 이해를 돕기 위한 두 권의 도서가 추천됩니다:* “The Hundred-Page Language Models Book”: https://amzn.to/3IPA0qH (제휴 링크)
- “The Hundred-Page Machine Learning Book”: https://amzn.to/4pUXA5U (제휴 링크)
- 주요 참고 자료:* “Attention is all you need”: 트랜스포머 아키텍처의 기반이 되는 핵심 논문으로, 자연어 처리 분야에 혁신을 가져왔습니다. (https://en.wikipedia.org/wiki/Attention_Is_All_You_Need)
- “Let’s build GPT: from scratch, in code, spelled out”: GPT 모델을 처음부터 코드로 구현하는 과정을 상세히 설명하는 YouTube 비디오입니다. (https://www.youtube.com/watch?v=kCc8FmEb1nY)
- “Attention visualised”: 어텐션 메커니즘의 작동 방식을 시각적으로 설명하는 YouTube 비디오입니다. (https://www.youtube.com/watch?v=RNF0FvRjGZk)
Tiktoken: OpenAI에서 개발한 효율적인 토크나이저 라이브러리로, 언어 모델 전처리 과정에 활용됩니다. (https://github.com/openai/tiktoken)
채용 및 소셜 미디어
- Cleo 채용: Cleo는 현재 Ruby on Rails 백엔드 및 React Native 프론트엔드 엔지니어 등 다양한 원격 역할을 채용 중입니다.
- 발표자 팔로우: Gavin Morrice의 X, Bluesky, GitHub, LinkedIn 프로필을 통해 그의 활동을 팔로우할 수 있습니다.