Baseten-এর নতুন joey-1 মডেলটি রাউটিং এবং নিরাপত্তা যাচাইয়ের জন্য অত্যন্ত সাশ্রয়ী এবং দ্রুত শ্রেণিবিন্যাস (classification) প্রদান করে, যা উচ্চ-আয়তনের AI অ্যাপ্লিকেশনের খরচ উল্লেখযোগ্যভাবে কমায়।
এআই দিয়ে তৈরি সারাংশ। প্রেক্ষাপট ও নির্ভুলতার জন্য মূল প্রতিবেদন দেখুন।
এটি ফিডে পাওয়া অংশবিশেষ। এটি সংক্ষিপ্ত বা প্রকাশকের মূল ভাষায় হতে পারে।
Baseten has released joey-1, a 2B model from its in-house research lab, Base Labs. The joey-1 decision model returns a label and a calibrated probability instead of generated text. It targets high-volume routing, classification and guardrail checks. Baseten prices it at $0.01 per million input tokens, with open weights on Hugging Face under MIT. TL;DR Size: 2B parameters, post-trained from Qwen3.5-2B. 16,384-token max sequence (Baseten says 262k on dedicated deployments). Runs on: Baseten Model APIs, or self-hosted on 1 CUDA GPU (VRAM not disclosed). No official quantized builds listed. Performance: Top model under 4B on the Jev Decision Index 0.4 public split, per Baseten. Best: 63.30 on Jev Decision Index 0.4 (public split), ranked #37 of 230 models. Worst: Trails its 9B sibling elephant-1 by 8.94 points on the same split (63.30 vs 72.24). Bottom line: Best: 20 ms P50 decisions for $0.01 per 1M tokens. Worst: less general knowledge than its larger siblings. What is joey-1? joey-1 is a 2B decision model from Baseten’s Base Labs that answers typed questions in 1 forward pass. You send a state (text or images) and 1 or more questions. The model returns a probability for every option of every question. It does not write free-form text that your application must parse. It supports 3 question types: choice: pick 1 named option, such as which team owns a ticket. yes/no (noul in the API): returns the probability of yes. score: ordered levels, lowest first, such as urgency. joey-1 is the third member of a family. Baseten shipped mammoth-1 (27B) and elephant-1 (9B) last week. All 3 share training data and the /v1/systemone API, so switching is a 1-line change. How does joey-1 work? Base Labs post-trained Qwen3.5-2B with a full fine-tune of the language model. The vision encoder stays frozen. Full-attention layers use a block-bidirectional mask. All questions are answered from 1 shared-prefix prefill, so extra questions add little cost. Training details from
উৎসের বিশ্বাসযোগ্যতা, শব্দ ও সত্তার ভিত্তিতে ১–১২ স্কেলে স্বয়ংক্রিয়ভাবে সাজানোর সহায়ক। উচ্চ: ৯–১২; মাঝারি: ৬–৮; নিম্ন: ১–৫। এটি জরুরিতা বা খবরের সত্যতা নির্ধারণ করে না এবং সম্পাদকীয় অনুমোদন নয়।
সামায়া স্টার্লিং আর্থিক বেনচমারকেতে Claude Fable 5.1-এর চেয়ে ভালো পারফরম্যান্স দেখায়, খরচ মাত্র এক-একাদশাংশ, যা প্রমাণ করে যে ছোট মডেলগুলিকে তাদের হার্নেসের সাথে কো-ট্রেনিং করলে নির্দিষ্ট ডোমেইনে আধিপত্য বিস্তার করা সম্ভব।
Audio8-TTS-Realistic একটি ছোট, ওপেন-সোর্স ভয়েস ক্লোনিং মডেল যা বহুভাষিক নির্ভুলতা এবং কম ডিপ্লয়মেন্ট খরচের মধ্যে ভারসাম্য বজায় রাখে, যা এটিকে ডেভেলপারদের জন্য একটি ব্যবহারিক হাতিয়ার হিসেবে প্রতিষ্ঠিত করে।
প্রাইম ইন্টেলেক্টের নতুন কার্নেল একটি দ্রুত ব্যাকওয়ার্ড পাস যুক্ত করে MoE মডেলগুলোর দক্ষতাপূর্ণ প্রশিক্ষণ সম্ভব করে, যা মানদণ্ড ফ্রেমওয়ার্কের তুলনায় GPU ঘণ্টা সর্বোচ্চ ৫৫% পর্যন্ত কমিয়ে দেয়।