오픈 가중치 모델 Inkling, 멀티모달 기능으로 주목

by DD
2시간 전
조회수 4

오픈 가중치 모델 Inkling 출시, 975B 파라미터와 1M 토큰 컨텍스트 창 지원

텍스트, 이미지, 오디오, 비디오를 처리하는 멀티모달 기능이 핵심

효율적인 사고 노력(Controllable Thinking Effort)으로 비용 대비 성능 최적화

커뮤니티는 미국 기반 오픈 소스 모델의 경쟁력 강화에 기대

Inkling의 멀티모달 능력과 벤치마크 비교

Inkling은 텍스트뿐만 아니라 이미지, 오디오, 비디오까지 처리하는 네이티브 멀티모달(Native Multimodal) 기능을 갖췄습니다. 특히 음성 인식 및 시각적 추론에서 강점을 보이며, VoiceBench, MMAU, Vision MMMU Pro 등 다양한 벤치마크에서 경쟁 모델 대비 우수한 성능을 기록했습니다. 다만, 일부 사용자는 실제 환경에서는 벤치마크 점수 이상의 체감 성능 향상을 기대하고 있습니다.

컨텍스트 창 확장과 효율적 사고 노력(Controllable Thinking Effort)

1M 토큰에 달하는 긴 컨텍스트 창(Long Context Window)은 복잡한 문서나 대화 처리 능력을 향상시킵니다. 또한, '사고 노력(Thinking Effort)' 조절 기능을 통해 토큰 효율성을 높여 비용과 지연 시간을 최적화할 수 있습니다. 이는 특히 실시간 협업이나 반복적인 작업에서 중요한 이점으로 작용하며, Nemotron 3 Ultra 대비 3분의 1 토큰으로 유사한 성능을 달성하는 사례가 제시되었습니다.

오픈 가중치 모델로서의 커스터마이징 잠재력

Inkling은 강력한 범용 성능보다는 커스터마이징(Customization)을 위한 기반 모델로서의 가치를 강조합니다. 오픈 가중치 모델로서 개발자들이 자체 데이터로 미세 조정(Fine-tuning)하여 특정 도메인에 최적화할 수 있다는 점이 큰 장점입니다. Tinker 플랫폼에서의 쉬운 접근성과 함께, 모델 스스로 미세 조정 작업을 수행하고 평가하는 데모는 자체 최적화(Self-Optimization) 가능성을 보여줍니다.

안전성 및 신뢰성(Epistemics) 강화 노력

모델의 신뢰성(Trustworthiness) 확보를 위해 보정(Calibration), 지시사항 준수(Instruction Following), 검열 저항성(Resistance to Censorship) 등 인식론적(Epistemic) 측면을 강화했습니다. 특히, AI 환각(Hallucination)을 줄이기 위해 자동화된 채점기(Automated Graders)와 웹 검색을 활용한 사실 검증을 도입했습니다. 안전성 테스트에서도 FORTRESS 벤치마크에서 가장 강력한 내장 안전 장치를 보여주었다고 평가됩니다.

Inkling-Small 모델과 비용 효율성

함께 공개된 Inkling-Small은 12B 활성 파라미터 모델로, 더 적은 비용과 지연 시간으로도 많은 벤치마크에서 주력 모델과 유사하거나 더 나은 성능을 보입니다. 이는 사전 훈련 데이터와 레시피 개선 덕분이며, 비용 및 지연 시간에 민감한 워크로드에 적합합니다. 향후 모델들의 비용 효율성(Cost Efficiency)이 중요한 경쟁 요소가 될 것임을 시사합니다.

미국 기반 오픈 소스 AI 생태계 경쟁력 강화

커뮤니티에서는 Inkling의 등장이 미국 기반의 오픈 소스 AI 연구에 대한 기대를 높이고 있다는 반응입니다. 중국 모델과의 경쟁 구도 속에서 새로운 선택지를 제공하며, 다양한 오픈 소스 모델 간의 경쟁 심화를 촉진할 것으로 보입니다. 이는 전반적인 AI 기술 발전 속도를 가속화할 잠재력을 지닙니다.

Inkling: Our Open-Weights Model