如果你的电脑CPU的NPU算力在40TOPS以上,内存至少16GB,那么你可以在本地比较流畅的运行体验轻量级AI模型(3B-4B),而中量级AI模型(8B-9B)仅是勉强可用。
以英特尔Core Ultra 5 226V处理器、Windows 11操作系统的笔记本电脑为例,使用LM Studio部署AI模型运行环境。
提示:LM Studio同时支持AMD Ryzen AI NPU和Intel处理器的NPU。
安装部署LM Studio
第一步:下载与安装 LM Studio
1、访问官网:打开 LM Studio 官网(https://lmstudio.ai/)下载 Windows 版本安装包。
2、安装:双击下载的 .exe 文件,按照提示完成安装。
乔大海个人网站 https://qiaodahai.com/