Rina JuvenileExp

基于 Ternary Bonsai 2 · 2B 的 1.88B 三值化语言模型，为端侧推理设计。计划 2026 年 11 月 13 日发布。

Hugging Face · 发布后开放 GitHub · 发布后开放

1.88^B

参数量

≈0.52^GB

权重体积（PQ2_0 打包）

11.13

2026 年计划发布日 · CPT 正好停在 1.113B token

概览Overview

Rina Juvenile 是 Rinstitute 的第一个模型。它从 Ternary Bonsai 2 · 2B（PrismML，源自 Qwen3.5-2B）出发，用三值量化感知训练继续训练：CPT → SFT → RL。目标是在手机、笔记本和单板电脑上完全离线运行一个够用的对话模型。

三值权重：每个权重约 1.58 bit，文件体积约为 FP16 的 1/7
强化中文与日文表现
少量提升数学、Agentic 与编程能力
权重以 Apache 2.0 开源
当前状态：CPT 已完成，SFT 进行中，之后是 RL

架构规格Architecture

项目	值
基座模型	Ternary Bonsai 2 · 2B（PrismML）
源模型	Qwen3.5-2B
参数量	1.88B
权重精度	1.58-bit 三值 {−1, 0, +1}
激活精度	8-bit（推理）
训练方式	三值 QAT：CPT（1.113B token）→ SFT → RL
层数 / 隐藏维度	24 / 2048
注意力	混合：每 4 层中 1 层为全注意力
上下文长度	262K
词表大小	248K
强化方向	中文、日文；少量提升数学、Agentic、编程
SFT 数据量	约 10 万条
发布格式	GGUF，PQ2_0（约 0.52 GB）
模态	纯文本
许可证	Apache 2.0

评测Benchmarks

Benchmark	Rina Juvenile Exp	备注
知识（MMLU-Redux）	待测	发布时公开
中文（CMMLU）	待测	发布时公开
日文（JMMLU）	待测	发布时公开
数学（GSM8K）	待测	发布时公开
指令遵循（IFEval / IFBench）	待测	发布时公开
工具调用（BFCL）	待测	发布时公开
内存占用（实测）	待测	发布时公开
端侧速度 tok/s	待测	发布时公开

* 训练仍在进行，以上各项尚未测定。发布时每项都会与 Ternary Bonsai 2 · 2B 逐题配对对比，并连同评测方法一起公开。

目标设备Target devices

手机（Android / iOS）计划支持 · 待测

笔记本（ARM / x86）计划支持 · 待测

单板电脑（如树莓派）计划支持 · 待测

浏览器（WebGPU）计划支持 · 待测

快速上手Quickstart

示意，发布后更新。PQ2_0 需要 PrismML 的 llama.cpp 分支；最终文件名在发布时确定。

quickstart.sh

# 1. 编译 PrismML 的 llama.cpp（prism 分支）
git clone -b prism https://github.com/PrismML-Eng/llama.cpp
cd llama.cpp && cmake -B build && cmake --build build -j

# 2. 对话（文件名待定，发布后开放）
./build/bin/llama-cli -m rina-juvenile-exp-PQ2_0.gguf \
  -p "你好，介绍一下你自己"

更新记录Changelog

2026-11-13发布 Exp（计划）：权重、模型卡与评测一起公开。
2026-10-30继续预训练完成，正好 1.113B token；开始 SFT。
2026-10-26开始三值 QAT 继续预训练：中文、日文、英文、数学与代码。

许可证License

采用 Apache 2.0 开源协议，与基座模型一致。