📂 软件›优化

Strata 0.2.4:12GB 显卡本地跑 763B 模型,DeepSeek V4.1-Flash 进终端

Strata 0.2.4:12GB 显卡本地跑 763B 模型,DeepSeek V4.1-Flash 进终端

Strata 0.2.4 在 2026 年 10 月 24 日发布,是这款开源本地 AI 引擎的一次"量级突破"更新:在单张 12GB 显卡 + 46-64GB 内存的普通 PC 上,就能本地跑 DeepSeek V4.1-Flash——一个 7630 亿参数的 MoE 模型,以前这通常是数据中心 GPU 集群的事。做法是把负载摊到 GPU、CPU、内存和 SSD 上,MIT 协议、无遥测。本版模型走 Terminal 运行,桌面 App 界面同步更新模型库与专家设置。

桌面端「Models」直接管理模型

App 左侧栏点「Models」打开模型管理页:当前模型显示为 Qwen3.8-Flash-Next(本机默认 Qwen 引擎模型,模型尚未下载时提示 No model loaded);页面顶部是 COMPUTER USE 性能档(Leave 20% for my work / Full performance);「Tune model」「Download & load」两个按钮管模型调参与下载加载;Expert settings 里可以开 Run multiple models(加载另一个模型时保留已加载的)、Context memory、Low-RAM mode(INT8 / Automatic 两档);右侧 Model files 显示模型文件目录 C:\Users\Administrator\Documents\Strata\Models,下面有 Storage settings 和 Other local models...(导入本地已有模型)。没有适配引擎时页面会明确提示"模型可以下载,但可能跑不起来,去 Settings → Engine 装引擎"。

DeepSeek V4.1-Flash:763B 模型塞进 12GB 显存

0.2.4 的核心是给 Terminal 端加上 DeepSeek V4.1-Flash 支持,用动态专家分页 + 自适应专家缓存,把 7630 亿参数 MoE 模型按需换入换出:GPU 是台面、内存是储物间、SSD 是档案库,每次生成只用全部专家的约 10 个。ISTA-DASLab 给了三个压缩档:IQ1_M(1.75bit,239GB,代码/智能体任务掉 9-10%)、IQ2_XXS(2.5bit,257GB,官方推荐,AIME25/GPQA-Diamond/LiveCodeBench v6 与基座持平)、IQ2_XS(2.25bit,274GB,perplexity 只差 7.3%)。底线配置是 12GB 显存 + 46-64GB 内存 + 239-274GB 磁盘,RTX 3060 上大约 8-10 token/s。终端运行:`strata launch --model ist-das-2.00bpw`。0.2.4.1 修掉了 Terminal 包缺 DeepSeek 准备脚本导致卡在"Preparing your model"的问题,老安装跑 `strata update` 即可。注意桌面 App 需要单独的引擎包(Settings → Engine 里 Update engine),App 本体不会在启动时自动下载引擎。

实测(桌面端两个主要功能)

实测环境里 App 首次启动会走四步引导(Welcome / Your model / Prepare / Make it yours),点「Go straight to the app」直接进主界面。主界面顶部是 New chat / No model loaded / Subagents;中间首页 Overview 面板是使用统计(Sessions、Messages、Total tokens、Active days,未使用都是 0,Peak hour 和 Favorite model 待定),带时间筛选 All/30d/7d,下方是 Choose a model 和 Select a folder,底部输入框提示 "Try /time-skip, or load a model to chat..."。

下载地址

官方发布页:https://github.com/Niko1221/Strata/releases

| Windows x64 | 123云盘 | https://1626683.share.123pan.cn/123pan/ekeA-Wu5I?pwd=8888# | 8888 |

蓝奏:安装包约 106.5MB,超过 100MB,不传。

实测

环境:Windows 10 企业版 LTSC 19044(64 位);Strata-0.2.3-windows-update.exe(Strata 0.2.4 官方 Windows 安装器);111,646,432 字节(约 106.5 MB)

已打开:Strata Setup(安装向导);Strata(桌面 App 主窗口)

看到:点了左侧栏「Models」,模型管理页出现当前模型 Qwen3.8-Flash-Next、COMPUTER USE 性能档(Leave 20% for my work / Full performance)、「Tune model」「Download & load」按钮、Expert settings(Run multiple models、Context memory、Low-RAM mode INT8/Automatic)、模型文件路径 C:\Users\Administrator\Documents\Strata\Models 与 Storage settings;页面提示本机未识别到引擎,模型可下载但需在 Settings → Engine 安装适配引擎才能运行

看到:点了「New chat」,顶部出现「New conversation」按钮、左侧会话列表新增「New conversation / just now」条目;首页 Overview 面板显示 Sessions/Messages/Total tokens/Active days 均为 0、时间范围 Apr 26 - Oct 27、Choose a model 按钮与 Select a folder、输入框提示 "Try /time-skip, or load a model to chat..."

软件信息

· 版本:0.2.4(Terminal 0.2.4.2;Windows 桌面 App 安装器文件版本 0.2.3)

· 更新日期:2026-10-24

· 授权:开源免费(MIT)

· 官网:https://github.com/Niko1221/Strata

左右滑动换一页 · 点赞优先