Strata 0.2.4

Strata 0.2.4

Strata 是本地跑大模型的开源工具，MIT 协议，C++ 写的，GitHub 上三万三千多星。它不追求"一个模型通吃"，而是把一个大模型按显卡显存、内存、SSD 分三层摆：最常用的专家留在显存里，剩下的摊在内存，再剩下的用直读从 SSD 里取，同时在本机 127.0.0.1:8080 开出 OpenAI 和 Anthropic 两套兼容接口，给 Claude Code、Codex CLI 这类编码代理直接连。

0.2.4 的重点不在桌面窗口，在终端：`strata launch` / `strata setup` 里能选 DeepSeek V4.1-Flash 了，一张 12GB 显卡加 46～64GB 内存就能跑。桌面 app 这一版没动，还是 0.2.3，DeepSeek 要等后面的版本才进 app。模型分三档，都是 ISTA-DASLab 的量化：IQ1_M 1.75 位 239GB、IQ2_XXS 2.00 位 257GB、IQ2_XS 2.25 位 274GB，三档共用一张 111GB 的 Engram 查找表，另外带一个 DSpark 草稿模型。官方给的实测：RTX 5070 12GB + 64GB 内存约 5 tok/s（代码），RTX 3060 12GB + 46GB 内存 8～10 tok/s，单张 Radeon AI PRO R9700 约 11 tok/s，四张 R9700 约 31 tok/s。0.2.4 之后又补了两版：0.2.4.1 修了 0.2.4 安装包缺 DeepSeek 准备脚本、卡在 "Preparing your model" 的问题，0.2.4.2 把 DeepSeek 引擎升到 0.1.49.2，顺手修了一堆启动和安装的细节。

下面这版是发布页上给 Windows 的桌面包。因为这一版 app 没变，Windows 安装包还是 0.2.3 那批按显卡分家的文件，手头这台是 RTX 2060，所以装的是 CUDA 12 那个，774,284,400 字节。装完 app 版本号显示 0.2.3，引擎 0.1.48。

软件信息

功能实测

一、安装与主界面

安装包是 NSIS 的，双击就装，不需要管理员权限，程序落在 `%LOCALAPPDATA%\Programs\Strata`，引擎包解到 `%LOCALAPPDATA%\Strata\components\engine\0.1.48-windows-x86_64-cuda-cuda12`。装完直接打开，窗口标题就是 `Strata`，没有向导、不用登录、不用填 API key。

左边栏从上到下：绿色的「New chat」按钮、Tasks、Workspaces（默认已经建好一个叫 Strata 的文件夹，里面一条「New conversation」）、搜索聊天、添加文件夹；底部一块「No model loaded · View model versions」，下面 Skills、Monitor、Models 三个入口，再下面「More — Serving and Settings」，最右下是切换深色模式的按钮。

主区标题是「What do we start with?」，下面 Overview / Models 两个页签和 All、30d、7d 三个时间按钮。六格统计是 Sessions、Messages、Total tokens、Active days、Peak hour、Favorite model，新装全是 0 和「—」，下面一张 4 月 26 日到 10 月 27 日的活跃热力图，一格都没亮。再往下「Choose a model」按钮，最底部输入框写着「Try /time-skip, or load a model to chat...」，右边是 Send。

二、选模型

点「Choose a model」（或者侧栏的 Models）进模型设置页。顶上那个模型下拉只有两项：Qwen3.8-Flash-Next 和 Qwen3.6-35B-A3B——0.2.4 说明里说的 DeepSeek V4.1-Flash 确实不在 app 里，这一版只有终端能选。

VERSION 一栏右边是「Saved settings」和「Manage models」。版本下拉点开是一张按档位排的表，三列：名字、RAM + VRAM、DOWNLOAD。最上面 RECOMMENDED 五档，当前这台机器默认勾的是 Coder IQ1_M，标着「the pick for this PC」「Uses SSD 2 GB」，24.4 GB RAM + VRAM，下载 58.4 GB；另外四档是 Gyro-S（the smallest，27.6 GB / 58.5 GB）、Swift IQ2_XS（good balance，36.5 GB / 68 GB）、IQ3_S (GSQ-RCO)（best quality for its size，51.3 GB / 83.6 GB）、Unsloth UD-Q4_K_XL（more quality，78 GB / 111.3 GB）。往下还有分组的完整列表：Swift models 3、GSQ-RCO models 5（Q2_0 35 GB / 66.4 GB、IQ2_XS 36.5 GB / 68 GB、IQ3_XXS 43.9 GB / 75.8 GB、IQ3_S 51.3 GB / 83.6 GB、Coder IQ1_M 24.4 GB / 58.4 GB）、NVFP4 models 3、Gyro models 2。

右边「This computer」卡片读的是真硬件：NVIDIA GeForce RTX 2060 · 6 GB graphics memory · 31.4 GB RAM，下面两条进度条「Graphics memory 6 GB of 6 GB」「RAM 21.4 GB of 31.4 GB」，再一句「About 2 GB will be read from the SSD, so answers can be a little bit slower.」。卡片底下是 Model files：说明会准备所有分片、草稿层和共享文件，已下完的会复用，给了模型目录 `Documents\Strata\Models` 和「Storage settings」按钮，最下面是「Other local models…」。

中间还能调 CONVERSATION CONTEXT（默认 32K）、DRAFTING（默认 Auto (recommended)）、COMPUTER USE（Leave 20% for my work / Full performance 二选一）、Read pictures（默认勾着，说会自动下图片读取文件，关掉省空间），两个按钮「Tune model」和绿色的「Download & load」。Expert settings 里是 Run multiple models 开关、Context memory（INT8）、Low-RAM mode（Automatic），下面一行小字说更多引擎参数要等版本准备好才出现。

这一档没点「Download & load」：最小的 Coder IQ1_M 也要下 58.4 GB，下完还要在 6GB 显存上跑，不适合在这台机器上顺手试。所以模型加载和聊天这两步没有实测。

三、Monitor

侧栏点 Monitor，标题栏写「Monitor」加一个「No model loaded」。最上面 Model state 一栏，五个状态点 Idle / Reading / Generating / Queued / Error，正文一行「Waiting for a request」。

下面八张卡排两行：Speed（Decode、Prefill）、GPU load、VRAM、GPU temp、Power、PCIe、CPU、Disk read。没加载模型时只有 CPU 那张有数：24%，下面写「AMD Ryzen 7 4800H with Radeon Graphics · 16 threads」，带一条绿色实时曲线；其余七张全标 Unavailable，GPU load、VRAM、GPU temp 三张下面写「No GPU detected」，PCIe 写「Transfer to GPU unavailable」，Disk read 写「Read throughput —」。最下面左边是 Context fill，右边 Recent requests 表，列头 TIME、STATUS、PROMPT、REUSED、OUTPUT、TOK/S、VRAM HIT RATE、DURATION，表里一行「No requests yet」。

四、Manage models

Models 页右上角「Manage models」点开是一个居中弹窗，标题「Manage models」，右上角关闭按钮，正文一行「No downloaded models」，下面一行带方框的「Use a local GGUF…」，底部一个「Done」。也就是说装完模型库是空的，要么在版本表里下载，要么手动挂一个本地 GGUF 文件。

五、0.2.4 真正的新东西在终端

这部分没有在本机跑（要下 239GB 起的模型文件，这台机器磁盘和显存都不够），只按发布说明记：`strata launch` 或 `strata setup` 的模型列表里多了 DeepSeek V4.1-Flash 三档，选完由 Strata 自己下载模型文件、校验签名、装单独的 `strata-dsv41` 引擎包并起服务，不用手写参数；引擎和 Qwen 那套并存，不互相覆盖。0.2.4.1 补上了 0.2.4 安装包里漏掉的 DeepSeek 准备脚本，0.2.4.2 把 DeepSeek 引擎升到 0.1.49.2，并修了「模型文件夹里有 Qwen 的图片文件就装不下去」「多个 Strata 安装时选错引擎」这些坑。已经在 0.2.3 / 0.2.4 上的，在终端跑 `strata update` 就升到 0.2.4.2，Qwen 引擎一个字节都没变。

下载地址

蓝奏：超过 100MB，不传。

实测

环境：Windows 10 企业版 LTSC 21H2（10.0.19044.2728）64 位；Strata-0.2.3-windows-cuda12.exe；774,284,400 字节

已打开：Strata

看到：装完直接打开，窗口标题 `Strata`，没有向导也不用登录；左边栏从上到下是绿色「New chat」按钮、Tasks、Workspaces（已有 Strata 文件夹和一条 New conversation）、搜索聊天、添加文件夹，底部「No model loaded · View model versions」，再往下 Skills、Monitor、Models、「More — Serving and Settings」，最右下是切换深色模式按钮；主区标题「What do we start with?」，Overview / Models 两个页签加 All、30d、7d，六格统计 Sessions 0、Messages 0、Total tokens 0、Active days 0、Peak hour —、Favorite model —，下面 4 月 26 日到 10 月 27 日的热力图全空，再下「Choose a model」按钮，底部输入框「Try /time-skip, or load a model to chat...」，右侧 Send

看到：点顶部「No model loaded」下拉，弹出小面板，标题「Local models」，正文「No local models downloaded yet.」，下面一行「+ Manage API models」

看到：点「Choose a model」（等同侧栏 Models）进模型设置页，顶部模型下拉只有 Qwen3.8-Flash-Next 和 Qwen3.6-35B-A3B 两项；VERSION 右侧是「Saved settings」「Manage models」，版本下拉默认选中「Coder IQ1_M · the pick for this PC · Uses SSD 2 GB」，表头 RAM + VRAM / DOWNLOAD，RECOMMENDED 五档为 Coder IQ1_M 24.4 GB / 58.4 GB、Gyro-S 27.6 GB / 58.5 GB、Swift IQ2_XS 36.5 GB / 68 GB、IQ3_S (GSQ-RCO) 51.3 GB / 83.6 GB、Unsloth UD-Q4_K_XL 78 GB / 111.3 GB，往下分组是 Swift models 3、GSQ-RCO models 5（Q2_0 35 GB / 66.4 GB、IQ2_XS 36.5 GB / 68 GB、IQ3_XXS 43.9 GB / 75.8 GB、IQ3_S 51.3 GB / 83.6 GB、Coder IQ1_M 24.4 GB / 58.4 GB）、NVFP4 models 3、Gyro models 2；右侧「This computer」写 NVIDIA GeForce RTX 2060 · 6 GB graphics memory · 31.4 GB RAM，两条进度条「Graphics memory 6 GB of 6 GB」「RAM 21.4 GB of 31.4 GB」，下面一句「About 2 GB will be read from the SSD, so answers can be a little bit slower.」；中间是 CONVERSATION CONTEXT 32K、DRAFTING Auto (recommended)、COMPUTER USE 的 Leave 20% for my work / Full performance、勾上的 Read pictures，两个按钮 Tune model 和绿色 Download & load；Expert settings 里 Run multiple models 开关关闭、Context memory INT8、Low-RAM mode Automatic

看到：点侧栏「Monitor」，标题栏「Monitor」加「No model loaded」，Model state 一栏五个状态点 Idle / Reading / Generating / Queued / Error，正文「Waiting for a request」；下面八张卡 Speed（Decode、Prefill）、GPU load、VRAM、GPU temp、Power、PCIe、CPU、Disk read，只有 CPU 有数：24%、AMD Ryzen 7 4800H with Radeon Graphics · 16 threads，带一条绿色曲线，其余七张都标 Unavailable，GPU load / VRAM / GPU temp 下写「No GPU detected」，PCIe 写「Transfer to GPU unavailable」，Disk read 写「Read throughput —」；底部左边 Context fill，右边 Recent requests 表（TIME、STATUS、PROMPT、REUSED、OUTPUT、TOK/S、VRAM HIT RATE、DURATION）显示「No requests yet」

看到：点 Models 页右上「Manage models」，弹出标题为「Manage models」的弹窗，正文「No downloaded models」，下面一行带方框的「Use a local GGUF…」，底部一个「Done」按钮