특히, DeepSeek만의 혁신적인 MoE 기법, 그리고 MLA (Multi-Head Latent Attention) 구조를 통해서 높은 성능과 효율을 동시에 잡아, 향후 주시할 만한 AI 모델 개발의 사례로 인식되고 있습니다. 특히 DeepSeek-V2는 더 적은 메모리를 사용하면서도 더 빠르게 정보를 처리하는 또 하나의 혁신적 기법, MLA (Multi-Head Latent Attention)을 도입했습니다. 시장의 규모, 경제적/산업적 환경, 정치적 안정성 측면에서 우리나라와는 많은 차이가 있기는 하지만, 과연 우리나라의 생성형 AI 생태계가 어떤 도전을 해야 할지에 대한 하나의 시금석이 될 수도 있다고 생각합니다. 대부분의 오픈소스 비전-언어 모델이 ‘Instruction Tuning’에 집중하는 것과 달리, 시각-언어데이터를 활용해서 Pretraining (사전 훈련)에 더 많은 자원을 투입하고, 고해상도/저해상도 이미지를 처리하는 두 개의 비전 인코더를 사용하는 하이브리드 비전 인코더 (Hybrid Vision Encoder) 구조를 도입해서 성능과 효율성의 차별화를 꾀했습니다. DeepSeek-Coder-V2 모델은 수학과 코딩 작업에서 대부분의 모델을 능가하는 성능을 보여주는데, Qwen이나 Moonshot 같은 중국계 모델들도 크게 앞섭니다. 다만, DeepSeek-Coder-V2 모델이 Latency라든가 Speed 관점에서는 다른 모델 대비 열위로 나타나고 있어서, 해당하는 유즈케이스의 특성을 고려해서 그에 부합하는 모델을 골라야 합니다. 당시에 출시되었던 모든 다른 LLM과 동등하거나 앞선 성능을 보여주겠다는 목표로 만든 모델인만큼 ‘고르게 좋은’ 성능을 보여주었습니다. DeepSeek Coder는 Llama 2의 아키텍처를 기본으로 하지만, 트레이닝 데이터 준비, 파라미터 설정을 포함해서 처음부터 별도로 구축한 모델로, ‘완전한 오픈소스’로서 모든 방식의 상업적 이용까지 가능한 모델입니다. 이렇게 하는 과정에서, 모든 시점의 은닉 상태들과 그것들의 계산값을 ‘KV 캐시 (Key-Value Cache)’라는 이름으로 저장하게 되는데, 이게 아주 메모리가 많이 필요하고 느린 작업이예요.

우리나라의 LLM 스타트업들도, 알게 모르게 그저 받아들이고만 있는 통념이 있다면 그에 도전하면서, 독특한 고유의 기술을 계속해서 쌓고 글로벌 AI 생태계에 크게 기여할 수 있는 기업들이 더 많이 등장하기를 기대합니다. 이전 버전인 DeepSeek-Coder의 메이저 업그레이드 버전이라고 할 수 있는 DeepSeek AI-Coder-V2는 이전 버전 대비 더 광범위한 트레이닝 데이터를 사용해서 훈련했고, ‘Fill-In-The-Middle’이라든가 ‘강화학습’ 같은 기법을 결합해서 사이즈는 크지만 높은 효율을 보여주고, 컨텍스트도 더 잘 다루는 모델입니다. AI 커뮤니티의 관심은 - 어찌보면 당연하게도 - Llama나 Mistral 같은 모델에 집중될 수 밖에 없지만, DeepSeek이라는 스타트업 자체, 이 회사의 연구 방향과 출시하는 모델의 흐름은 한 번 살펴볼 만한 중요한 대상이라고 생각합니다. 이제 이 최신 모델들의 기반이 된 혁신적인 아키텍처를 한 번 살펴볼까요? 자세한 분석 내용은 Artificial Analysis를 한 번 참조해 보시기 바랍니다. DeepSeek-V2에서 도입한 MLA라는 구조는 이 어텐션 메커니즘을 변형해서 KV 캐시를 아주 작게 압축할 수 있게 한 거고, 그 결과 모델이 정확성을 유지하면서도 정보를 훨씬 빠르게, 더 적은 메모리를 가지고 처리할 수 있게 되는 거죠. DeepSeekMoE 아키텍처는 DeepSeek의 가장 강력한 모델이라고 할 수 있는 DeepSeek V2와 DeepSeek-Coder-V2을 구현하는데 기초가 되는 아키텍처입니다.

AI 학계와 업계를 선도하는 미국의 그늘에 가려 아주 큰 관심을 받지는 못하고 있는 것으로 보이지만, 분명한 것은 생성형 AI의 혁신에 중국도 강력한 연구와 스타트업 생태계를 바탕으로 그 역할을 계속해서 확대하고 있고, 특히 중국의 연구자, 개발자, 그리고 스타트업들은 ‘나름의’ 어려운 환경에도 불구하고, ‘모방하는 중국’이라는 통념에 도전하고 있다는 겁니다. 역시 중국의 스타트업인 이 DeepSeek의 기술 혁신은 실리콘 밸리에서도 주목을 받고 있습니다. 따라서 각각의 전문가가 자기만의 고유하고 전문화된 영역에 집중할 수 있습니다. 공유 전문가가 있다면, 모델이 구조 상의 중복성을 줄일 수 있고 동일한 정보를 여러 곳에 저장할 필요가 없어지게 되죠. 허깅페이스 기준으로 지금까지 DeepSeek이 출시한 모델이 48개인데, 2023년 DeepSeek과 비슷한 시기에 설립된 미스트랄AI가 총 15개의 모델을 내놓았고, 2019년에 설립된 독일의 알레프 알파가 6개 모델을 내놓았거든요. ‘코드 편집’ 능력에서는 DeepSeek-Coder-V2 0724 모델이 최신의 GPT-4o 모델과 동등하고 Claude-3.5-Sonnet의 77.4%에만 살짝 뒤지는 72.9%를 기록했습니다. DeepSeek-Coder-V2 모델은 16B 파라미터의 소형 모델, 236B 파라미터의 대형 모델의 두 가지가 있습니다. DeepSeekMoE는 LLM이 복잡한 작업을 더 잘 처리할 수 있도록 위와 같은 문제를 개선하는 방향으로 설계된 MoE의 고도화된 버전이라고 할 수 있습니다.

이런 방식으로 코딩 작업에 있어서 개발자가 선호하는 방식에 더 정교하게 맞추어 작업할 수 있습니다. 을 조합해서 개선함으로써 수학 관련 벤치마크에서의 성능을 상당히 개선했습니다 - 고등학교 수준의 miniF2F 테스트에서 63.5%, 학부 수준의 ProofNet 테스트에서 25.3%의 합격률을 나타내고 있습니다. 소스 코드 60%, 수학 코퍼스 (말뭉치) 10%, 자연어 30%의 비중으로 학습했는데, 약 1조 2천억 개의 코드 토큰은 깃허브와 CommonCrawl로부터 수집했다고 합니다. DeepSeek-Coder-V2는 이전 버전 모델에 비교해서 6조 개의 토큰을 추가해서 트레이닝 데이터를 대폭 확충, 총 10조 2천억 개의 토큰으로 학습했습니다. DeepSeek-Coder-V2는 총 338개의 프로그래밍 언어를 지원합니다. Previously, we had used CodeLlama7B for calculating Binoculars scores, but hypothesised that using smaller models would possibly improve efficiency. When you have a domain where you've got an potential to generate a rating using a identified-good specialised system, then you should use MILS to take any type of LLM and work with it to elicit its most powerful attainable performance for the area you have got a scorer. But when the space of possible proofs is considerably giant, the models are still sluggish.