📂 软件›优化

Strata 0.2.4:把 1250 亿参数的大模型装进自己的电脑,量化档位自己挑

Strata 0.2.4:把 1250 亿参数的大模型装进自己的电脑,量化档位自己挑

Strata 是一个跑在自己电脑上的本地大模型客户端:官方发行版把 Qwen3.8-Flash-Next 这个 1250 亿参数的模型打包成一条安装链,装完在界面里挑一档量化、点下载,剩下的推理都在本机跑,聊天记录和文件不出硬盘。它同时在 localhost 上开 OpenAI 与 Anthropic 兼容接口,Claude Code、Codex CLI 这类命令行智能体可以直接接过来用。MIT 许可,不需要账号,官方写明不收集遥测。

这次实测的是 0.2.4:官方 v0.2.4 的 Windows 安装包(cuda12 版)是 774,284,400 字节,约 738.4 MiB,文件名仍叫 Strata-0.2.3-windows-cuda12.exe——官方发布说明里写得很清楚,这一版动的是终端和 DeepSeek 引擎包,桌面 app 的版本号没有跟着跳,所以装完在「关于」里看到的还是 Strata 0.2.3。

下载地址

资源 说明
官方 https://github.com/Niko1221/Strata/releases/tag/v0.2.4
GitHub Releases Windows x64 cuda12 安装包 738.4 MiB(774,284,400 字节);同页另有 cuda13(615.2 MiB)、hip(524.6 MiB)、hip-rdna3(219.7 MiB)、update(106.5 MiB)四档
123 网盘 https://1626683.share.123pan.cn/123pan/ekeA-uEog?pwd=8888 (提取码 8888)

蓝奏:超过 100MB,不传。

实测

环境:Windows Server 2022(10.0.20348);Strata-0.2.3-windows-cuda12.exe;774,284,400 字节(738.4 MiB)

已打开:Strata

看到:首屏标题是「What do we start with?」,中间一块统计卡有 Overview / Models 两个页签和 All / 30d / 7d 三档时间范围,下面一行「Choose a model」按钮,底部输入框占位文字是「Try /time-skip, or load a model to chat...」;点左侧导航「Models」,页面先显示「Set up Strata / Connect your local installation to choose an optimized model.」,右边「This computer」写「No supported graphics card reported by this installation. · 79 GB RAM」,「Tune model」「Download & load」两个按钮是灰的

看到:点绿色「Connect engine」后同一个页面换成了模型设置页——顶部下拉是「Qwen3.8-Flash-Next」,VERSION 一栏是「Q2_0 (GSQ-RCO)」并标着「35 GB RAM + VRAM」,CONVERSATION CONTEXT 选 32K,DRAFTING 是 Auto (recommended),COMPUTER USE 分「Leave 20% for my work」与「Full performance」两档,右栏变成 NVIDIA GeForce GT 1030 · 4 GB graphics memory · 79 GB RAM,Graphics memory 显示 4 GB of 4 GB、RAM 显示 0 GB of 79 GB,底下补一句「About 34 GB will be read from the SSD, so answers can be a little slower.」,同时「Download & load」变成可点的绿色按钮,「Tune model」仍是灰的

看到:点 VERSION 下拉,展开的是一张完整清单,分 RECOMMENDED / Swift models 3 / GSQ-RCO models 5 / NVFP4 models 3 / Gyro models 2 / Unsloth models 5 几组,表头是 RAM + VRAM 与 DOWNLOAD:Gyro-S 27.6 GB / 58.5 GB、Swift IQ2_XS 36.5 GB / 68 GB、IQ3_S 51.3 GB / 83.6 GB、Unsloth UD-Q4_K_XL 78 GB / 111.3 GB,GSQ-RCO 组里 Q2_0 打勾选中(Uses SSD 34 GB,35 GB,66.4 GB),另有 IQ2_XS 36.5 GB / 68 GB、IQ3_XS 43.9 GB / 75.8 GB、IQ3_S 51.3 GB / 83.6 GB、Coder IQ1_M 24.4 GB / 58.4 GB

看到:点「Manage models」弹出同名窗口,正文只有「No downloaded models」和一行「Use a local GGUF…」,右下角是「Done」;点「Done」关闭,回到模型设置页

看到:点左侧导航「Skills」,页面标题「Skills / Manage your skills library」,右上角是绿色「New skill」、「Add skill」和「Search skills...」搜索框,列表四项 Commit messages、Code review、Release notes、Hardware report,其中 Release notes 的开关是灰的(关),点一下变绿,四项全部打开;点「New skill」弹出同名窗口,Details / Instructions 两个页签,字段是 Name、Enabled(默认开)、Description、Available in(All workspaces)、Trigger phrases(占位提示 review this, check my code,下面一行小字 Separate phrases with commas.),底部「Save skill」在没填名字时是灰的,点「Cancel」退出

看到:左下角「More」展开后只有 Serving 和 Settings 两项,进 Settings 后左侧是 Appearance / Models / Tools / Storage / Engine / About;Engine 页只有「Update component」(配「Check for updates」按钮)和「Diagnostics」(配「View logs」)两块,点「Check for updates」按钮先变成「Checking…」,约十秒后下面多出一行红字「Couldn't reach the update server. Check your internet connection, then press Update Strata in Settings.」;About 页显示「Strata 0.2.3」,Update 里 Strata 与 Engine 两行都标着红色「Check failed」,Engine 那行还写着「Not Installed」,时间戳「Checked at 12:39 AM」,底部 Privacy 一行「Strata sends no usage telemetry.」

模型页:先让程序认机器,再按显存挑量化档

第一次进「Models」,页面不会直接给你模型清单,而是先摆一块「Set up Strata」,一句话说明要先把本地安装接上(Connect your local installation to choose an optimized model.),旁边留着「Connect engine」和「Other local models」两个入口,「Tune model」「Download & load」都是灰的——没连引擎之前,下载和调参都点不动。

右栏这时候给的硬件结论很直接:这台机器是 GT 1030 加 79 GB 内存,界面原话是「No supported graphics card reported by this installation.」——卡在,但不在这套引擎支持的名单里。

点「Connect engine」之后才是真正的模型设置页。顶部一行是模型名下拉,展开只有两个:Qwen3.8-Flash-Next(当前,打勾)和 Qwen3.6-35B-A3B。下面 VERSION 一行给出当前量化档 Q2_0 (GSQ-RCO),右边小字「35 GB RAM + VRAM」;CONVERSATION CONTEXT 可选 32K;DRAFTING 默认 Auto (recommended);COMPUTER USE 给了「Leave 20% for my work」和「Full performance」两档,前者留两成内存给别的程序用。

量化档那张清单值得单独说,因为它把「跑不跑得动」摊开成两个数字:RAM + VRAM 和 DOWNLOAD。同样是 Qwen3.8-Flash-Next,最小的 Gyro-S 只要 27.6 GB 内存加显存、下载 58.5 GB;Coder IQ1_M 是 24.4 GB / 58.4 GB;默认的 Q2_0 是 35 GB / 66.4 GB;往上 IQ3_S 51.3 GB / 83.6 GB;最狠的 Unsloth UD-Q4_K_XL 要 78 GB、下 111.3 GB。每一档后面还标一句「Uses SSD 34 GB」这类话,意思是超出显存的部分从固态硬盘读——右栏那句「About 34 GB will be read from the SSD, so answers can be a little slower.」说的就是这件事。

这台机器的实测读数:显卡 4 GB 显存(进度条 4 GB of 4 GB 已经拉满),内存 0 GB of 79 GB,也就是显存一个字节都没富余。页面顶上还有一条黄色提示,说没认出适合这台电脑的引擎,模型能下但不一定能跑,并点名 NVIDIA 驱动 552.12 太旧,要装 576 或更新版本、重启再开。这一条和右栏的「没有受支持的显卡」是同一件事的两种说法。

点「Manage models」能看已下载的模型,本机是空的:窗口里只有一句「No downloaded models」,加一行「Use a local GGUF…」,可以把现成的 GGUF 文件指进来,不用走官方下载。想真正开聊,得先在这页点「Download & load」把 66.4 GB 拉下来——这一步我没做,只把入口和读数点到为止。

技能页:四个内置技能,一个开关就换行为

左侧导航的「Skills」是一个技能库,右上角三个入口:绿色「New skill」、「Add skill」、「Search skills...」搜索框,最右还有个刷新图标。列表默认给四个技能,每个都有名字、一句说明、一支铅笔(编辑)和一个开关:

· Commit messages:Writes conventional-commit messages from a diff, with a scope line and a why-paragraph.

· Code review:Reviews a file or diff for correctness first, style second, and reports findings with line numbers.

· Release notes:Turns merged commits into user-facing release notes grouped by feature, fix and breaking change.

· Hardware report:Explains what this machine can run, in plain language, from the detected CPU, GPU and memory.

实测时前三个里的 Release notes 是关着的(开关灰色),点一下变绿,四项就全开了。开关没有二次确认,也没有保存按钮,点完即生效。

点「New skill」弹出的窗口分 Details 和 Instructions 两个页签。Details 里是 Name、Enabled(默认开)、Description、Available in(默认 All workspaces,可下拉)、Trigger phrases(占位提示「review this, check my code」,下面一行小字提醒用逗号分隔多条短语)。名字没填之前,右下角的「Save skill」是灰的;窗口底部还有一行说明:Changes are saved in Strata. The original skill file stays intact. ——改的是 Strata 自己存的那份,原始技能文件不动。

设置与更新:Engine 没装,更新检查连不上服务器

「More」折叠在左下角,展开只有两项:Serving 和 Settings。

Settings 是个弹窗,左侧六项:Appearance、Models、Tools、Storage、Engine、About。Appearance 页里 Language 是 English、Font 是 Strata font、Appearance 是 System、Reading size 14 px、Interface size 100%,还有一颗「Edit shortcuts」按钮用来改键位。

Engine 页最干净,只有两块:Update component(一句话 Update the engine for this computer. Your models and settings are kept.,配「Check for updates」按钮)和 Diagnostics(Downloads, preparation and engine failures include their original messages here.,配「View logs」按钮)。点「Check for updates」,按钮先变成「Checking…」,十来秒后这块下面多出一行红字:Couldn't reach the update server. Check your internet connection, then press Update Strata in Settings.

About 页把版本和更新状态摊在一起:最上面是 Strata 0.2.3;Update 区里 Strata 与 Engine 两行都标着红色「Check failed」,Engine 那行还写着「Not Installed」——这台机器上引擎从来没装上过,所以前面模型页那条「没认出引擎」的黄条不是误报;时间戳写「Checked at 12:39 AM」,下面「Try again」和「Roll back…」两个按钮。最底下 Privacy 只有一句:Strata sends no usage telemetry.

0.2.4 改了什么

官方 v0.2.4 的标题是「Strata 0.2.4: DeepSeek V4.1-Flash in the Terminal (Terminal 0.2.4.2)」,正文第一句就把范围划清了:这一版修的是 `strata launch` 配 DeepSeek 和一行安装脚本的问题,改的是终端里的 Control(0.1.49.2)、`install.sh` 和三个 DeepSeek 引擎包(0.1.49.2);app 保持 0.2.3,Qwen 的引擎包也没动,所以桌面端没有新东西要下。

具体修的点:AMD Ryzen 3000 / Threadripper 3000 / EPYC 7002 上 DeepSeek 的 2.00 和 IQ1_M 两组回答慢到三倍的问题(答案不变);模型文件夹里混着 Qwen 的图片文件会让 DeepSeek 初始化失败的问题(#3927、#3917);引导页认不出已有的 Unsloth UD-Q8_K_XL 模型文件(#3914);装了两份 Strata 时 launch 会挑到旧路径引擎的问题;连不上 GitHub 时不再死等几分钟,而是十秒后一句话说明。

这也解释了实测里那个看起来矛盾的地方:安装包叫 0.2.3、关于页写 0.2.3、仓库 README 也写「Version 0.2.3 · engine 0.1.48」,但 release 标签确实是 v0.2.4。桌面端这一版是「不变」,变的是终端和引擎包。

软件信息

项目 内容
软件名 Strata
版本 0.2.4(GitHub Releases v0.2.4,2026-10-24 发布;桌面 app 版本号仍为 0.2.3)
大小 738.4 MiB(Windows x64 cuda12 安装包,774,284,400 字节)
许可证 MIT
平台 Windows / Linux(Windows 分包 cuda12、cuda13、hip、hip-rdna3、update)
硬件门槛 内存与显存合计至少 32 GB;实测机为 GT 1030 4 GB + 79 GB 内存
模型 Qwen3.8-Flash-Next(1250 亿参数),另有 Qwen3.6-35B-A3B 可选
接口 本机 OpenAI / Anthropic 兼容 API,可接 Claude Code、Codex CLI 等
仓库 https://github.com/Niko1221/Strata
遥测 官方声明不收集使用数据(Strata sends no usage telemetry.)

左右滑动换一页 · 点赞优先