Cstudent 发表于 2025-11-11 00:04:02

有没有适合跑本地大语言模型的笔记本电脑

最近调岗去做AI项目,啥都不懂,想自学先部署大语言模型,求懂行的兄弟推荐

ridden 发表于 2025-11-11 08:10:29

笔记本不适合跑大模型，配置再好的了不起能运行14b，那个效果基本不可用，:lol还是远程调用吧

Cstudent 发表于 2025-11-11 00:05:26

我自己研究了一下 似乎这颗APU比较适合本地部署大语言模型
但是围绕这颗APU打造的笔记本我只找到rog幻x2025 太贵了要2万块 有没有更加性价比高一点的推荐?

Cstudent 发表于 2025-11-11 00:15:51

求老司机推荐:'(

Backfire 发表于 2025-11-11 00:23:25

:lol:lol:lol 看你跑多大的模型

Cstudent 发表于 2025-11-11 00:42:18

Backfire 发表于 2025-11-11 00:23
看你跑多大的模型

70B及以下

xy3666 发表于 2025-11-11 01:01:19

Cstudent 发表于 2025-11-11 00:42
70B及以下

你这个太难了，量化24g显存跑个14b可能差不多
笔记本显存大的就5090 4090 16g 3万多，我感觉性价比不高建议2080 ti22g魔改卡2k多自己配台式机，跑ai应聘岗位一定要用nv，别用amd的apu

Cstudent 发表于 2025-11-11 01:06:41

xy3666 发表于 2025-11-11 01:01
你这个太难了，量化24g显存跑个14b可能差不多
笔记本显存大的就5090 4090 16g 3万多，我感觉性价比不高建 ...

我不需要训练模型 我只是部署别人公司开源的大模型跑起来 做做工作流什么的
我查了一下这个APU似乎很适合干这个 支持96G显存

hdwzk2 发表于 2025-11-11 08:07:26

7B和14B可以可以看看。70B还想用笔记本跑，算了吧

小元姬 发表于 2025-11-11 08:23:06

目前个人跑大模型性价比最高设备之一的是Mac Studio M3 Ultra，512GB统一内存，最少也得要六七万
即使是稍低一点的256GB统一内存版本，也要四万起步
以你这个预算来看，要不去图吧问问？垃圾佬或许能满足这个需求
页: [1] 2
查看完整版本: 有没有适合跑本地大语言模型的笔记本电脑