最适合使用 Ollama 本地运行的效果最好的 LLM 模型

前言 以往想离线运行 LLM 模型,离不开大显存的显卡,还需要手动下载和管理 LLM 模型,推理环境也需要比较繁杂的安装配置,例如安装驱动、安装依赖,有些方案还需要自己执行编译命令。 这一切都非常耗时,哪怕是经验丰富的人也会觉得繁琐。 但是现在 Ollama 的出现让这一切都变得更简单,只需要一条命令即可在本地运行模型: ➜ ollama run openchat >>> Send a message (/? for help) 正因为它的操作如此简便,将复杂的安装和准备环节封装成简单的命令,Ollama 可以称为 LLM 模型版本的 Docker。 介绍 它可以大幅度简化 LLM 的安装、运行、环境配置,你只需要选择一个合适的本地模型,再配合 OpenWebUI 这个前台服务可以达到低配版 ChatGPT Plus 的效果。可以生成图片、可使用 RAG 来索引本地的文件、还可以生成类似 GPTs 的针对特定任务的模型配置。 ...

三月 27, 2024 · 4 分钟 · 1532 字 · Jiale Liu

我偶然发现的被忽视的省钱秘诀

前言 写本文的原因是最近做了一些事情,省了大概 5000 块。数一下发现生活中还有很多事情可以省钱,而可能很多人会忽略掉。因此将我的省钱方法汇总成文,分享给大家。 清点闲置账户、闲置物品 工作一段时间后,不知不觉中会有很多闲置的账户,这些账户可能是理发店的会员卡、很久不用的公交卡,食堂饭卡等等,这其中可能有一些被遗忘的资金。 另外我有一些吃灰许久的游戏机,甚至很多游戏卡带买回来就没有玩过。由于数量不少,人的精力是无法支持同时玩这么多游戏机的,摆在那里只是满足了拥有的感觉。 ...

三月 27, 2024 · 5 分钟 · 2497 字 · Jiale Liu

Miyoo Mini Plus 黑屏变砖怎么办?问题分析和修复方法

前言 Miyoo Mini Plus 是一款造型小巧可爱的复古掌机,能够游玩 GBA 等多种复古平台的游戏。 买过 Miyoo Mini Plus 的偶尔会碰到开机时黑屏,最终无法开机的情况。我最近也碰到了这个问题,本文意图收集互联网上相关的资料,减少大家的查询时间。 注意:本文仅仅是一个方法汇总,我自己尝试失败了已经走售后了,主要是没有多余的 SD 卡能成功刷机 现象 首先检查机器状态是否符合以下情况。 在未插电源的情况下,现在状态应该是屏幕黑屏,没有声音也没有画面,顶部最右侧的灯亮。那么我们先长按电源键 10 秒强制关机,进行下一条操作 在关机状态下,保持 SD 卡插入,并插入电源。如果观察到机器顶部三个灯中,最左侧和最右侧灯都亮,但是屏幕持续黑屏,没有画面也没有 LOGO。基本可以判断是变砖了 接着判断在无 SD 卡的情况下的启动情况。先强制关机,再把 SD 卡拔掉,然后插上电源,看是不是仍然没有启动画面 如果能看到有画面,但是不断地重启,并且你的机器已经刷过 OniunOS,并且启用了开机时自动开启游戏的功能,导出出现了启动循环,请参考 OnionOS 的文档。 如果确定是砖了,我们进入到下一节,简单解释下这个问题的原因和解决思路 ...

一月 29, 2024 · 3 分钟 · 1494 字 · Jiale Liu

在 2024 年每个月给开源项目捐赠 20 美元

TL:DR; 使用 ChatGPT 绘制的捐赠图片 作者设立了一个每月 20 美元的预算,用于贡献给自己经常使用、能够节省时间、或者有重大意义的开源项目。钱虽然不多,也是一种用真金白银来鼓励开源软件作者的行为,最终目的是促进社区繁荣。 问题 想要参与开源社区,但是不知道从何开始 很多人觉得自由开源软件是一个很好的事情,却不知道如何去参与这个社区,因为参与一个长期维护的项目还是比较困难的,而且开源软件的项目特别多,很多人会在参与开源社区这件事情上无从下手,不知道该怎么做。 ...

一月 3, 2024 · 6 分钟 · 2640 字 · Jiale Liu

我希望 20 岁的自己知道的事情

零、前言 成长之路:二十岁的智慧与三十岁的反思 一边听着窗外的雨声,人生的第三个十年已经转瞬即逝。人生果然是如白驹过隙。 今年是比较有重大意义的一年。原本举国期待的经济大复苏并没有到来,人口增长率、老龄化趋势不断加强,而此时国际形势也愈加复杂:全球军事冲突扩散、即将到来的全球选举年。这给后续的 2024 年的中国经济发展带来了很多不确定性。 ...

七月 4, 2023 · 12 分钟 · 5747 字 · Jiale Liu