0:00
/
0:00

Paid episode

The full episode is only available to paid subscribers of newtype

一键启动本地大模型,当作本地AI助理用

通过创建快捷方式,可以在Windows系统上快速启动Ollama并运行指定的大模型(如Qwen2.5 7B)。

Key Takeaway

  • 通过创建快捷方式,可以在Windows系统上快速启动Ollama并运行指定的大模型(如Qwen2.5 7B)。

  • 为解决Ollama模型加载慢的问题,可以通过设置`OLLAMA_KEEP_ALIVE=-1`环境变量,让模型常驻内存,实现“随叫随到”。

  • 用户可以利用罗技鼠标的Smart Action等工具,进一步自动化本地大模型的启动过程。

This post is for paid subscribers