BAAR2-9M
๐ Official Website: https://baar.uk/model/
๐ License: Non-Commercial Only (Contact for Commercial Pricing)
๐ Model Overview
BAAR2-9M is an ultra-compact multilingual conversational model designed to enable real-time chat under minimal hardware conditions. With just 9 million (9M) parameters, it brings lightweight, interactive dialogue capabilities across 11 languages to extreme resource-constrained environments, embedded devices, and on-device platforms where standard LLMs cannot operate.
BAAR2-9M์ ์ต์ํ์ ํ๋์จ์ด ์ฌ๊ฑด๊ณผ ๊ทน๋จ์ ์ธ ๋ฆฌ์์ค ์ ์ฝ ํ๊ฒฝ์์๋ 11๊ฐ ์ธ์ด๋ก ์ค์๊ฐ ๋ํ(Chat)๊ฐ ๊ฐ๋ฅํ๋๋ก ์ค๊ณ๋ 900๋ง(9M) ํ๋ผ๋ฏธํฐ ๊ท๋ชจ์ ์ด๊ฒฝ๋ ๋ค๊ตญ์ด ์ธ์ด ๋ชจ๋ธ์ ๋๋ค. ์ผ๋ฐ์ ์ธ ๋ํ ๋ชจ๋ธ ๊ตฌ๋์ด ๋ถ๊ฐ๋ฅํ ์ด์ ์ฌ์ ์ฃ์ง ๋ฐ ์๋ฒ ๋๋ ๊ธฐ๊ธฐ์์๋ ์ฆ๊ฐ์ ์ธ ๋ํํ ์ถ๋ก ๊ณผ ์ด๊ฒฝ๋ ์ค์๊ฐ RAG ์์คํ ๊ตฌ์ถ์ ์ง์ํฉ๋๋ค.
๐ Live Sample Inference
Hardware: Single NVIDIA Tesla T4 | FP16 Inference
| Task / Category | Prompt | Generated Output | Latency |
|---|---|---|---|
| ํ๊ตญ์ด ์ผ๋ฐ QA | ๋ํ๋ฏผ๊ตญ์ ์๋๋ ์ด๋์ธ๊ฐ์? | ๋ํ๋ฏผ๊ตญ์ ์๋๋ 1920๋
6์ 11์ผ์ ์ ๋ฝ |
~325.2ms |
| ์์ด ์ผ๋ฐ QA | What is artificial intelligence? | A metal consisting of a metal consisting of a |
~314.0ms |
| ์ผ์์ด ๋ฒ์ญ ์์ฒญ | ์๋ ์ด ์์ด๋ก ๋ญ์ผ? | ์๋
์ ์์ด๋ก Hello ์
๋๋ค. |
~245.3ms |
| ์ผ์์ด ๋ฒ์ญ ์์ฒญ 2 | ์ฌ๊ณผ๊ฐ ์์ด๋ก ๋ญ์ผ? | ์ฌ๊ณผ๋ ์์ด๋ก apple ์
๋๋ค. |
~216.1ms |
| ์->ํ ๋ฒ์ญ ์์ฒญ | What is 'Seoul' in Korean? | 'Seoul' in Korean is ์์ธ. |
~227.6ms |
| ์ผ๋ณธ์ด ์ผ๋ฐ QA | ๆฅๆฌใฎ้ฆ้ฝใฏใฉใใงใใ๏ผ | ๆฅๆฌใฎ้ฆ้ฝใฏใ ๅคง้ชๅธใซๅ
ฌ็ซ |
~325.1ms |
| ์ค๊ตญ์ด ์ผ๋ฐ QA | ไบบๅทฅๆบ่ฝ็ไธป่ฆ็น็นๆฏไปไน๏ผ | ไบบๅทฅๆบ่ฝๆฏไธ็งๅฏๅ็่ฝๆบ็ไธป่ฆ |
~348.4ms |
| ์คํ์ธ์ด ์ผ๋ฐ QA | ยฟCuรกl es la capital de Espaรฑa? | Espaรฑa is un capital of medior and el capital |
~294.3ms |
| ๋ฌ์์์ด ์ผ๋ฐ QA | ะะฐะบะฐั ััะพะปะธัะฐ ะ ะพััะธะธ? | ะกัะพะปะธัะฐ ะ ะพััะธะธ โ ััะพ ะฟัะตะดะปะพะถะตะฝะธะต, ะบะพัะพ |
~321.3ms |
| ํ๋์ด ์ผ๋ฐ QA | เคญเคพเคฐเคค เคเฅ เคฐเคพเคเคงเคพเคจเฅ เคเฅเคฏเคพ เคนเฅ? | เคญเคพเคฐเคค เคเฅ เคฐเคพเคเคงเคพเคจเฅ เคเฅ เคฆเฅเคฐเคพเคจ เคญเคพเคฐเคค เคเฅ เคฌเคพเคฆ เคชเฅเคฐเคพเคฃเฅ |
~290.9ms |
๐ Retrieval-Augmented Generation (RAG) Benchmark
This benchmark demonstrates real-time integration between vector retrieval and the BAAR2-9M ultra-lightweight generation model, proving near-instantaneous contextual response generation even with just a 9M parameter footprint.
์ค์๊ฐ ๋ฒกํฐ ๊ฒ์(Retrieval)๊ณผ BAAR2-9M ์ด๊ฒฝ๋ ์์ฑ ์์ง์ ์ฐ๋ํ RAG ํ์ดํ๋ผ์ธ ํ ์คํธ ๊ฒฐ๊ณผ์ ๋๋ค. 900๋ง ํ๋ผ๋ฏธํฐ ํฌ๊ธฐ์์๋ ์ธ๋ถ ๋ฌธ๋งฅ(Context)์ ์ ๋ฌ๋ฐ์ ์๋ธ-์ธ์ปจ๋(Sub-second) ๋จ์์ ๊ทน๋จ์ ์ธ ๋ฐ์ ์๋๋ฅผ ๋ฐํํฉ๋๋ค.
================================================================================
๐ [Starting Real-Time RAG Q&A (BAAR2-9M)]
================================================================================
[1/4] ๐ค ์ง๋ฌธ: ์์ดํฐ 16 ํ๋ก ๊ฐ์ฅ ์ผ ๋ชจ๋ธ ์ผ๋ง๋ถํฐ ์์ํด?
๐ ๊ฒ์ ๋ฌธ์ (์ ์ฌ๋ 0.67 | โฑ๏ธ 79.0ms): "์์ดํฐ 16 ํ๋ก๋ ํญ๊ณต์ฐ์ฃผ ๋ฑ๊ธ ํฐํ๋ ๋์์ธ์ผ๋ก ์ ์๋์์ผ๋ฉฐ ์ถ๊ณ ๊ฐ๋ 128GB ๋ชจ๋ธ ๊ธฐ์ค 155๋ง ์๋ถ..."
๐ค AI ๋ต๋ณ: ์ ๋ A18 Pro ์นฉ์ ํ์ฌํ๊ณ ์์ต๋๋ค. (โฑ๏ธ 298.2ms)
--------------------------------------------------------------------------------
[2/4] ๐ค ์ง๋ฌธ: ์ ์
์ฌ์์ด ์ฐ์ฐจ ์ฐ๋ ค๋ฉด ๋ฉฐ์น ์ ์ ์น์ธ๋ฐ์์ผ ํด?
๐ ๊ฒ์ ๋ฌธ์ (์ ์ฌ๋ 0.79 | โฑ๏ธ 18.1ms): "์ฌ๋ด ์ทจ์
๊ท์น ์ 18์กฐ์ ๋ฐ๋ผ ๊ทผ์ 1๋
๋ฏธ๋ง ์ ๊ท ์
์ฌ์๋ ๋งค์ ๊ฐ๊ทผ ์ 1์ผ์ฉ ์ด 11์ผ์ ์ฐ์ฐจ๊ฐ ๋ถ์ฌ๋ฉ..."
๐ค AI ๋ต๋ณ: ์ ์ธ๊ณ ์
์ฌ์์ด ๋ถ์์ฅ ์น์ธ๋ฐ์์ผ (โฑ๏ธ 429.1ms)
--------------------------------------------------------------------------------
[3/4] ๐ค ์ง๋ฌธ: ์ง๊ตฌ๊ฐ ์์ ํ๋ ๊ณผํ์ ์ด์ ๊ฐ ๋ญ์ผ?
๐ ๊ฒ์ ๋ฌธ์ (์ ์ฌ๋ 0.65 | โฑ๏ธ 16.8ms): "ํ์๊ณ ํ์ฑ ์๊ธฐ์ธ ์ฝ 45์ต ๋
์ ๊ฑฐ๋ํ ๊ฐ์ค์ ๋จผ์ง๋ก ์ด๋ฃจ์ด์ง ์์ ์ฑ์ด์ด ์ค๋ ฅ์ผ๋ก ์์ถํ๋ฉด์ ๊ฐ์ด๋๋..."
๐ค AI ๋ต๋ณ: ๊ฐ์ธ์ ์ผ๋ก, ์ด๋ฌํ ์์ ์ฑ์ฐ๋๋์ ๊ฐ ๊ณผ (โฑ๏ธ 425.0ms)
--------------------------------------------------------------------------------
[4/4] ๐ค ์ง๋ฌธ: ์คํ์ธ์ ์๋๋ ์ด๋์ธ๊ฐ์?
๐ ๊ฒ์ ๋ฌธ์ (์ ์ฌ๋ 0.81 | โฑ๏ธ 20.0ms): "์คํ์ธ์ ๋จ์ ๋ฝ ์ด๋ฒ ๋ฆฌ์๋ฐ๋์ ์์นํ ์
ํ๊ตฐ์ฃผ์ ๊ตญ๊ฐ์
๋๋ค. ๊ตญํ ๋ฉด์ ์ ์ฝ 50๋ง ์ ๊ณฑํฌ๋ก๋ฏธํฐ์ ๋ฌํ๋ฉฐ, ..."
๐ค AI ๋ต๋ณ: ๊ฐ์ธ์ ์ผ๋ก, ๊ตญํ ๋ฉด์ ์ ๋จ์ ๋ฝ์ ๊ฒฝ์ ๋ฐ (โฑ๏ธ 449.9ms)
--------------------------------------------------------------------------------
๐ License & Commercial Terms (๋ผ์ด์ ์ค ๋ฐ ์์ ์ ๋์ ์๋ด)
Non-Commercial Use Only (๋น์์ ์ ์ฐ๊ตฌยท๊ฐ์ธ ์ด์ฉ ํ์ ):
This model is strictly provided for non-commercial, research, and educational purposes only. Any commercial use without a separate commercial agreement is strictly prohibited.
๋ณธ ๋ชจ๋ธ์ ์์ ์ฐ๊ตฌ, ๊ต์ก ๋ฐ ๊ฐ์ธ ๋น์๋ฆฌ ๋ชฉ์ ์ ํํด์๋ง ๋ฌด๋ฃ๋ก ์ ๊ณต๋ฉ๋๋ค. ์ฌ์ ํ๊ฐ ์๋ ์ผ์ฒด์ ์๋ฆฌ์ ์ด์ฉ์ ์๊ฒฉํ ๊ธ์ง๋ฉ๋๋ค.Commercial Licensing & Inquiries for Revenue-Generating Entities (๋งค์ถ ๋ฐ์ ๊ธฐ์ ๋ฐ ์์ฉํ ๋์ ๋ฌธ์):
If your organization generates revenue, or if you plan to incorporate this model into commercial products, services, or paid APIs, you are required to purchase a commercial license. Please contact us directly via email for enterprise licensing and integration support.
๊ธฐ์ /์ฌ์ ์ฒด์ ๋งค์ถ์ด ๋ฐ์ํ๊ณ ์๊ฑฐ๋, ๋ณธ ๋ชจ๋ธ์ ์์ฉ ์๋น์คยท์ ๋ฃ ์ ํยท์์ต ์ฐฝ์ถ ๋ชฉ์ ์ ์์คํ ์ ๋์ ํ๊ณ ์ ํ์๋ ๊ฒฝ์ฐ ๋ฐ๋์ ๋ณ๋์ ์์ฉ ๋ผ์ด์ ์ค๋ฅผ ์ทจ๋ํ์ ์ผ ํฉ๋๋ค. ๋์ ์กฐ๊ฑด ๋ฐ ๊ธฐ์ ์ฉ ๋ผ์ด์ ์ค ๋ฐ๊ธ์ ์๋ ์ด๋ฉ์ผ๋ก ๋ฌธ์ํด ์ฃผ์๊ธฐ ๋ฐ๋๋๋ค.- ๋์ ๋ฐ ์์ฉ ๋ผ์ด์ ์ค ๋ฌธ์ (Commercial Inquiries): admin@099.kr
- ๊ณต์ ์น์ฌ์ดํธ (Official Website): https://baar.uk/model/
โ ๏ธ Notes (์๋ด ์ฌํญ)
- Pre-trained Model: This model is a compact base pre-trained checkpoint. For specialized tasks, factual precision, or task completion, task-specific fine-tuning (SFT) or Retrieval-Augmented Generation (RAG) pipelines are recommended.
- ๊ธฐ์ด ์ฌ์ ํ์ต ๋ชจ๋ธ: ๋ณธ ๋ชจ๋ธ์ 9M ๊ท๋ชจ์ ๋ฒ ์ด์ค ์ฌ์ ํ์ต ์ฒดํฌํฌ์ธํธ์ ๋๋ค. ์ ๊ตํ ์์ ์ํ, ์ฌ์ค ๊ด๊ณ ๊ฒ์ฆ ๋ฐ ์์ฑ๋ ๋์ ๋ํ ์์ฑ์ด ํ์ํ ๊ฒฝ์ฐ ๋๋ฉ์ธ ํ์ธํ๋(SFT) ๋๋ ๊ฒ์ ์ฆ๊ฐ ์์ฑ(RAG) ํ์ดํ๋ผ์ธ ๊ฒฐํฉ์ ๊ถ์ฅํฉ๋๋ค.
๐ผ Opportunities & Contact (์ฑ์ฉ ์ ์ ๋ฐ ํฌ์ ๋ฌธ์)
This project demonstrates practical competency in designing custom micro-scale architectures, end-to-end multi-language pre-training, and ultra-low-latency deployment under extreme compute constraints.
I am actively seeking AI Engineering / Research opportunities, recruitment offers, and technical partnerships.
- ๊ณต์ ์น์ฌ์ดํธ (Official Website): https://baar.uk/model/
- ๊ธฐ์ ๋์ ๋ฐ ๋ผ์ด์ ์ค ๋ฌธ์ (Commercial Adoption): admin@099.kr
- ์ฑ์ฉ ๋ฐ ํฌ์ง์ ์ ์ (Recruitment & Hiring): admin@099.kr
- ํฌ์ ๋ฐ ๊ธฐ์ ํ๋ ฅ ๋ฌธ์ (Investment & Partnerships): admin@099.kr
๊ทน๋จ์ ์ธ ์ ์ฌ์ ๋ฆฌ์์ค ํ๊ฒฝ์์๋ ์ฆ๊ฐ ์๋ํ๋ ๊ณ ํจ์จ ๋ค๊ตญ์ด ๋ชจ๋ธ ์ํคํ ์ฒ๋ฅผ ์ค๊ณํ๊ณ , ๋ฐ์ดํฐ ์ ์ ๋ถํฐ ํ์ตยท์๋น๊น์ง ์ ๊ณผ์ ์ ์ง์ ๊ตฌํํ๋ AI ์์ง๋์ด์ ๋๋ค. ๊ธฐ์ ๋์ , ์ฑ์ฉ ์ ์ ๋ฐ ํ์ ์ ๊ด์ฌ ์๋ ๊ธฐ์ ๊ณผ ํ์ ๋ฌธ์๋ฅผ ํ์ํฉ๋๋ค.
- Downloads last month
- 133