Brave
Key Takeaway
- Brave浏览器通过与本地大模型(如Ollama)打通,实现了浏览器内置AI功能,提升了用户上网冲浪时的效率和便捷性。
- Brave的AI功能支持直接对话、选中文字总结以及将当前网页内容作为大模型参考。
- 文章强调了浏览器与AI打通的必要性,并认为Brave在大方向上是正确的,但未来大厂(如Chrome与Gemini)的跟进将带来竞争。
- 尽管Brave的AI功能仍处于测试阶段,但其本地化部署和与开源大模型的结合,为用户提供了更多选择和自由度。
Full Content
所有软件都应该跟AI打通。比如我们最常用的浏览器。
当你上网冲浪,突然想问些什么或者想生成点什么,这时还要特意打开个网页(比如ChatGPT),或者切换到别的APP(比如Obsidian),这就特别麻烦、有点不爽。
于是,Brave浏览器就来了。这款产品存在应该有好几年了。免广告之类的常规功能就不说了,它最吸引我的点在于,可以跟本地大模型打通,比如在自己的电脑上运行千问之类的,然后去实现我刚才说的那些场景功能。
大家想尝试的话,记得下载Nightly版本。这是测试版本,每晚更新。下载好了一路安装。搞定之后,来到设置页面,点击这个Leo——这是他们给自己的AI Assistant起的名字。然后在添加模型的设置里,跟Ollama关联上。
Ollama是目前特别主流的在本地跑开源大模型的工具。你可以去他们官网下载软件,然后在终端里通过一行命令就可以下载你想要的大模型,比如我用得最多的qwen2。
当软件和模型都准备完成后,打开Ollama,你会看到,它会驻留在状态栏里。每当要调用大模型的时候,它才会启动。好处是可以一直挂着,坏处是第一次启动的时候可能得稍等个差不多10秒,需要把大模型加载一下。一旦启动起来就特别快了,真的比云端的爽多了。
要把Brave跟Ollama关联上很简单。如果你像我一样没有对Ollama做一些设置调整的话,那就按照提示,把地址填进去,把要跑的模型名称填进去。只要名称对得上,那基本不会有问题。
回到前端的交互页面,从侧边栏可以打开Leo AI。官方有提供大模型,不过咱们这边是要用本地的,所以选择刚才设置好的千问。直接对话交流完全没问题。要结合正在浏览的网页的话,有两个方式:
第一,可以在网页当中选中一部分文字,右键就能看到官方预设好的AI功能,比如总结之类的。
第二,把输入框上边这个按钮勾选上之后,就会自动把当前浏览的网页给到大模型作为回答参考。
不过我发现,这不是我们平时用RAG的那种处理方法。因为我试过,如果是一篇长文章的网页,它会提示只阅读了一部分,这说明它的方法很简单粗暴,就是把所有内容都作为上下文给过去。当超出上下文窗口的限制了,才会提示没有读完。
但话又说回来,如果真用RAG那套东西的话,还要搞Embedding什么的,就会变得特别重,不适合浏览网页这个场景。因为用户会不断打开新网页,并且来回切换的。
目前Brave浏览器的AI功能还属于测试阶段。就像前边说的,我觉得浏览器和AI打通特别有必要。Brave这个大方向是OK的。不过,大厂肯定会跟进,比如Chrome,绝对会通过Gemini实现同样的功能。对于Brave这种产品来说,活下来的一个方法是,给到用户更多自由。我特别希望它后续能加上更多自定义功能,至少把模型提示词先放出来,肯定能提升日常使用频率。
OK,以上就是本期内容。大家想找我的话,来newtype社群,我都在。那咱们下期见!