轻薄本屏幕上开着终端与笔记窗口,桌面放着草稿纸
18:41
1080P

ai在线:把大模型留在自己的电脑里,办公流从提示词走到本地部署

86.4 万次播放 · 3.2 万条弹幕 · 2026-11-08 20:16 发布 · 字幕修订 2026-11-19

UP 主林知夏的头像

林知夏

42.7 万粉丝

先能复现,再谈玄学。笔记比口号耐放。

关注

观看数据

86.4万播放
4.8万点赞
1.6万收藏
9420转发

本期说明

这一期把办公室里最常被问到的三件事摊开讲:模型选云端还是留在本地、提示词怎样从随口聊天变成可复用工序、敏感材料为什么不该再往公网送。画面里是一台 32G 内存的轻薄本,跑的是量化后的开源对话模型,一侧开着检索笔记,一侧是表格导出。

不是在比参数规模,而是把能用拆成可以回看的步骤:环境、权重来源、上下文长度,以及一次失败之后如何退回上一档。片尾放了仍在维护的命令清单。若部门规定原稿不得外发,这条本地流程至少能让初稿留在自己的硬盘里。

  • 先核对许可证和显存,再谈中文指令稳不稳
  • 提示词固定四行:材料、限制、格式、失败例子
  • 变笨或跑飞时,先砍上下文,再换量化档位

评论


评论者头像
小满不将就

本地跑通之后,不能出网的周报终于能先梳一稿,比去年那些云端横评耐用。

2026-11-09点赞 1204
评论者头像
北海有风

量化到较狠的一档之后,回答会不会明显发飘?我这台 16G 有点虚。

2026-11-09点赞 386
林知夏 回复:16G 别把上下文拉太长,P5 有对照,短指令差不多,长文会松一点。
评论者头像
晚自习结束了

十八分钟左右那个检索笔记的文件夹,我照着建完,少踩了一个路径坑。

2026-11-10点赞 512
评论者头像
陈年显卡

1080P 里终端字还是偏小,要是能单独切一段只拍命令行就好了。

2026-11-10点赞 97
评论者头像
木子李

投币了。把提示词写成检查清单,比再收藏一个万能模板靠谱得多。

2026-11-11点赞 860
评论者头像
阿梨画地图

同事非要上最贵的闭源接口,我把片尾那段一个月的成本账转了过去。

2026-11-12点赞 241
评论者头像
回声信封

签名那句先能复现再谈玄学,我抄在工位便签上了,开会少扯很多。

2026-11-13点赞 155
评论者头像
周舟

同系列里数据集清洗一笔带过,如果能再拆半集,财务表那摊会更清楚。

2026-11-14点赞 73
林知夏 回复:下周三的加更就切脏表,这集先把部署主线收住,避免又讲散。