내 하드웨어에서 실행하는 최첨단 AI

dlab은 로컬 추론 엔진, 에이전트 하네스, 자율 연구 시스템을 하나로 묶은 오픈 생태계를 공개할 예정이다. 목표는 소수의 연구자와 GPU만으로도 대형 연구소와 경쟁할 수 있는 시스템을 만드는 것이다. 자체 개발한 추론 프레임워크는 1250억 파라미터급 모델을 단일 24GB GPU에서 구동하고 128GB 메모리 환경을 지원한다. 이는 고가의 대규모 클러스터 없이도 최첨단급 AI 연구를 개인 하드웨어에서 수행할 수 있게 하려는 시도로, 상세 성능이나 공개 일정 등 구체적인 조건은 아직 더 확인이 필요하다.