LLM 산업에 대한 비판과 생물학적 지능의 교훈
-
LLM의 한계: 현재의 AI 거품은 언어와 지능을 동일시하는 오류를 범하고 있으며, 막대한 자본과 에너지를 소모하면서도 실제 이해력은 결여되어 있습니다.
-
생물학적 효율성: 20와트의 전력으로 엑사플롭급 연산을 수행하는 인간의 뇌와 100만 개의 뉴런만으로 정교한 의사결정을 내리는 벌의 사례는 지능이 반드시 거대한 컴퓨팅 자원을 필요로 하지 않음을 시사합니다.
루비니우스(Rubinius)의 기술적 재편
-
현대적 빌드 시스템: build2를 도입하여 소스 관리(Git), 패키지 관리, 빌드 설정을 명확히 분리하고 효율적인 모듈형 아키텍처를 구축했습니다.
-
LLVM 기반 컴파일러: rbx는 LLVM을 활용한 네이티브 컴파일러이자 런타임으로, 리소스 효율성을 극대화하기 위해 코어 기능에 관리형 코드(managed code) 로드를 배제합니다.
-
다중 언어 지원: 루비뿐만 아니라 파이썬(Python) 지원을 추가하여 기존의 방대한 생태계를 활용하고, 언어 간 경계를 허무는 실험을 진행 중입니다.
Vivarium: 지능 연구를 위한 플랫폼
-
계산과 언어: 지능은 계산 가능해야 하며, 프로그래밍 언어는 계산을 기술하는 근본적인 도구입니다.
-
인프라의 목적: 연구자들이 하드웨어 제약 없이 모델을 공유하고 재현하며 협업할 수 있는 효율적인 시스템을 지향합니다.