이렇게 하면, 모델이 데이터의 다양한 측면을 좀 더 효과적으로 처리할 수 있어서, 대규모 작업의 효율성, 확장성이 개선되죠. 자, 이렇게 창업한지 겨우 반년 남짓한 기간동안 스타트업 DeepSeek가 숨가쁘게 달려온 모델 개발, 출시, 개선의 역사(?)를 흝어봤는데요. 기존의 MoE 아키텍처는 게이팅 메커니즘 (Sparse Gating)을 사용해서 각각의 입력에 가장 관련성이 높은 전문가 모델을 선택하는 방식으로 여러 전문가 모델 간에 작업을 분할합니다. 허깅페이스 기준으로 지금까지 DeepSeek이 출시한 모델이 48개인데, 2023년 DeepSeek과 비슷한 시기에 설립된 미스트랄AI가 총 15개의 모델을 내놓았고, 2019년에 설립된 독일의 알레프 알파가 6개 모델을 내놓았거든요. 자, 그리고 2024년 8월, 바로 며칠 전 가장 따끈따끈한 신상 모델이 출시되었는데요. 대부분의 오픈소스 비전-언어 모델이 ‘Instruction Tuning’에 집중하는 것과 달리, 시각-언어데이터를 활용해서 Pretraining (사전 훈련)에 더 많은 자원을 투입하고, 고해상도/저해상도 이미지를 처리하는 두 개의 비전 인코더를 사용하는 하이브리드 비전 인코더 (Hybrid Vision Encoder) 구조를 도입해서 성능과 효율성의 차별화를 꾀했습니다. DeepSeek의 오픈소스 모델 DeepSeek-V2, 그리고 DeepSeek-Coder-V2 모델은 독자적인 ‘어텐션 메커니즘’과 ‘MoE 기법’을 개발, 활용해서 LLM의 성능을 효율적으로 향상시킨 결과물로 평가받고 있고, 특히 DeepSeek-Coder-V2는 현재 기준 가장 강력한 오픈소스 코딩 모델 중 하나로 알려져 있습니다. 이런 두 가지의 기법을 기반으로, DeepSeek site DeepSeekMoE는 모델의 효율성을 한층 개선, 특히 대규모의 데이터셋을 처리할 때 다른 MoE 모델보다도 더 좋은 성능을 달성할 수 있습니다. 하지만 각 전문가가 ‘고유한 자신만의 영역’에 효과적으로 집중할 수 있도록 하는데는 난점이 있다는 문제 역시 있습니다.

‘공유 전문가’는 위에 설명한 라우터의 결정에 상관없이 ‘항상 활성화’되는 특정한 전문가를 말하는데요, 여러 가지의 작업에 필요할 수 있는 ‘공통 지식’을 처리합니다. 모든 태스크를 대상으로 전체 2,360억개의 파라미터를 다 사용하는 대신에, DeepSeek-V2는 작업에 따라서 일부 (210억 개)의 파라미터만 활성화해서 사용합니다. DeepSeek Coder는 Llama 2의 아키텍처를 기본으로 하지만, 트레이닝 데이터 준비, 파라미터 설정을 포함해서 처음부터 별도로 구축한 모델로, ‘완전한 오픈소스’로서 모든 방식의 상업적 이용까지 가능한 모델입니다. 바로 이어서 2024년 2월, 파라미터 7B개의 전문화 모델, DeepSeekMath를 출시했습니다. 이 소형 모델은 GPT-4의 수학적 추론 능력에 근접하는 성능을 보여줬을 뿐 아니라 또 다른, 우리에게도 널리 알려진 중국의 모델, Qwen-72B보다도 뛰어난 성능을 보여주었습니다. 을 조합해서 개선함으로써 수학 관련 벤치마크에서의 성능을 상당히 개선했습니다 - 고등학교 수준의 miniF2F 테스트에서 63.5%, 학부 수준의 ProofNet 테스트에서 25.3%의 합격률을 나타내고 있습니다. DeepSeek 모델 패밀리는, 특히 오픈소스 기반의 LLM 분야의 관점에서 흥미로운 사례라고 할 수 있습니다. Just last week, DeepSeek, a Chinese LLM tailored for code writing, revealed benchmark knowledge demonstrating better efficiency than ChatGPT-four and near equal efficiency to GPT-four Turbo. Automation allowed us to rapidly generate the large amounts of data we would have liked to conduct this research, but by counting on automation a lot, we failed to spot the issues in our information. AI applied sciences are producing extra targeted and impactful options to societal issues.

Innovations: GPT-4 surpasses its predecessors when it comes to scale, language understanding, and versatility, providing more correct and contextually relevant responses. How much will these firms be motivated to supply responses that align to their profitability targets? I want to put far more trust into whoever has educated the LLM that's producing AI responses to my prompts. For abnormal folks like you and that i who're merely trying to confirm if a post on social media was true or not, will we be capable of independently vet numerous independent sources online, or will we solely get the data that the LLM supplier wants to show us on their very own platform response? All of the massive LLMs will behave this manner, striving to offer all of the context that a user is in search of instantly on their very own platforms, such that the platform supplier can continue to seize your data (prompt query history) and to inject into forms of commerce where potential (promoting, buying, etc). More not too long ago, Google and different tools are actually offering AI generated, contextual responses to search prompts as the highest result of a question. Both instruments face challenges, corresponding to biases in training data and deployment calls for.

Other LLMs like LLaMa (Meta), Claude (Anthopic), Cohere and Mistral should not have any of that historic information, as an alternative relying only on publicly out there info for training. Some LLM instruments, like Perplexity do a very nice job of offering supply links for generative AI responses. The quick-shifting LLM jailbreaking scene in 2024 is paying homage to that surrounding iOS greater than a decade ago, when the release of latest versions of Apple’s tightly locked down, extremely secure iPhone and iPad software would be rapidly followed by novice sleuths and hackers finding ways to bypass the company’s restrictions and upload their very own apps and software program to it, to customise it and bend it to their will (I vividly recall installing a cannabis leaf slide-to-unlock on my iPhone 3G back in the day). The company develops AI fashions which are open-source, that means the developer group at massive can inspect and enhance the software.