内容聚合站 · 最新收录

9月14日周一今天 1 条

运行本地大模型没有合适的硬件？5000元内升级方案！

。

推荐理由本文涵盖「本地大模型」、「Qwen3.8-27b」、「阮咸AI助手」等多个主题，重点关注本地大模型。

#本地大模型#阮咸科技#Qwen3.8-27b#阮咸AI助手

9月12日周六 2 条

09-12

11:59

小谢取证小谢取证 227 字

AI取证实战第09期：利用本地离线大模型做题

WorkBuddy 5.5.4 更新后多了个本地大模型，我拿数证杯的服务器题测了一把。官方要求 16G 显存，我这只有 12G，但 64G 内存撑着，硬上！一开始啥规则都不设，让离线模型自己跑。结果光 SSH 连服务器就卡了四十多分钟——引号转义老出错，命令反复失败。最后 18 道题跑了整整两个多小时才勉强跑完。…

推荐理由本文涵盖「AI取证」、「WorkBuddy」、「本地大模型」等多个主题，重点关注 AI取证。

#本地大模型#SSH#AI取证#WorkBuddy

09-12

11:54

小谢取证小谢取证 1400 字

AI取证实战第09期：利用本地离线大模型做题的优化实践

又又纯手敲码了一期本地离线大模型优化做题的实践方案。

推荐理由本文涵盖「AI取证」、「WorkBuddy」、「本地大模型」等多个主题，重点关注 AI取证。

#DeepSeek#Qwen#本地大模型#AI取证#WorkBuddy

9月7日周一 1 条

09-07

15:59

AI丽丝的人偶工坊 AI丽丝的人偶工坊 2909 字

本地大模型电子数据取证竞赛评测（ZCode VS QwenCode）（含提示词分享）

测评本地AI大模型做取证比赛的水平

推荐理由本文涵盖「渗透测试」、「电子数据取证」、「Qwen3.8」等多个主题，重点关注渗透测试。

#渗透测试#电子数据取证#Qwen3.8#ZCode#本地大模型 +1

9月4日周五 1 条

09-04

11:03

河北阮咸科技有限公司河北阮咸科技有限公司 296 字

重磅！！！通过混合量化，单卡16GB 跑Qwen3.8-27b本地大模型，120K上下文，实现高精度自动编程。

固有思维，Q4精度以下量化，简单聊天、语义纠错还可以，针对编程、数据分析等应用场景来讲基本上就是不可用状态，Qwen3.8-27b采用Q4量化的模型权重基本上都在14G-17G之间，16G显存GPU基本上处于不可用状态，而精度更高的Q6 Q8 FP8精度的权重在20GB-30GB之间，16G显存的GPU更是无缘。…

推荐理由本文涵盖「本地大模型」、「混合量化」、「Qwen3.8-27b」等多个主题，重点关注本地大模型。

#本地大模型#混合量化#Qwen3.8-27b#自动编程#阮咸AI助手