搜索：
搜索到 68 篇与 的结果-
在树莓派5上跑起Gemma 4：我的实验记录 开篇聊聊动机嘿，朋友，我最近在折腾点儿新玩意儿 — — 把 Gemma 4 这个小模型塞进我的树莓派 5。说干就干，过程像是点燃一根小火柴，又带点儿不确定性。在我这儿，树莓派 5 已经是我的小型服务器，装了 Ubuntu Server，只有几条命令行工具，没装图形界面，SSH 成了我的唯一通道。于是我决定挑战一下：能不能在这样简陋的机器上跑起 Gemma 4 的最小版本 E2B？准备工作：给树莓派装点儿软件第一步，我得把 LM Studio 的 CLI 版装上。官方给了个自动脚本，点几下就搞定。装好后它会建议立刻启动 daemon，我就照着做。 打开终端，运行官方脚本完成安装。 启动 daemon，检查可用命令。 把模型存放目录换到外接 SSD，这样即使卡掉也不会把宝贵的模型塞进 SD 卡里。 下载最小的 Gemma 4 模型接下来是下载 4.5GB 大小的 E2B 模型。下载期间，我给大家科普一下 Huul 官方说的三个亮点： 整个 Gemma 4 家族都是为 Agent 工作流设计的，原生支持 Function Calling。 模型能识别图像、视频，甚至小型模型还支持原生语音处理，能直接听懂人声。 上下文窗口长到 128k Token，几乎支持所有语言。 好消息是，Gemma 4 采用 Apache 2.0 开源许可，你可以自由玩、自由商用。模型加载和启动 API下载完成后，模型大约有 40 亿参数，已经装在了 SSD 上。随后我加载模型，看到它顺利跑进 RAM，随后启动 API 服务器监听 4000 端口。为确保能从本地网络访问，我把服务器重新启动并把 host 参数换成 0.0.0.0，理论上应该可以从任何机器发请求。可惜官方没给 host 参数，只能通过端口转发来实现。于是我使用 SoChat 这一小工具，把内部 4000 端口映射到外部 4001，形成桥梁，外部机器的请求就能被转发进去。从外部机器访问模型把映射设置好后，我关掉树莓派的 SSH 会话，回到我的 MacBook。用 curl 发送一次 GET 请求到树莓派的 4001 端口，列出可用模型。返回的 JSON 里果然能看到我刚刚下载的 Gemma 4，说明一切工作正常。now 我把服务器再次重启，这次加上 host=0.0.0.0，确保所有网络接口都能接受请求。在编辑器里和模型聊天因为 LM Studio 的服务器兼容 OpenAI API，任何支持自定义 endpoint 的工具都能用。我选用了 Zed 编辑器。在 Zed 的设置里，我添加了一个新的 LLM 配置： 服务器地址指向树莓派的 IP。 端口填 4000。 模型名称写成 Gemma 4。 保存后，我在聊天窗口里选上这个模型，发送一个简短的提示：“写一段关于春天的诗”。模型开始“思考”，随后输出了诗句，过程像是慢慢在脑子里翻书。实测性能： CPU 炸裂 & 回答速度为了看看模型到底占多少资源，我打开 htop 监控。在生成回答的瞬间，四个 CPU 内核全部满载，内存占用也快到了极限。第一次测试是让它写一个排序函数。它先“思考”，再生成代码。整个过程大约 6 分钟，感觉像是等咖啡慢慢滴滤。第二次测试是让它想出三个 Web App 的创意。思考阶段稍快，生成文本约 5 分钟，内容详细，每个创意都配上了简短描述。总的来说，虽然速度不算快，但对非实时任务或者自动化脚本来说已经足够用了。如果不想要“思考”阶段，关闭 reasoning 模式可以把时间缩短不少，但相应的输出质量也会下降一点。感想与展望通过这次实验，我发现即使是最小的 Gemma 4 也能在树莓派 5 上跑起来，而且还能通过本地网络供其他设备调用。这种“把 AI 模型放在边角料硬件上”的玩法，其实打开了很多可能性：比如在家庭服务器、离线摄像头、智能家居网关上跑小模型，省掉对大云服务器的依赖。未来，我打算继续玩跑满参数更大的模型，或者把模型部署到其他低功耗设备上，看看能否在更小的空间里实现更强的能力。如果你对这篇实验感兴趣，别忘了点个赞、关注，我会继续分享更多实战技巧。 -
把最强AI装进手机：无需联网，完全免费，我的手机成精了！ 嘿，最近在网上冲浪的时候，有没有被AI的消息刷屏？是不是觉得那些高大上的大模型，离咱们普通人的手机太远了？今天我就想跟你掏心窝子聊聊一个挺颠覆的事儿：如果你手里有一台手机——不管是安卓还是苹果，居然能直接运行谷歌最新、最强的Gemini 4模型！而且，重点是完全免费，还能离线使用！听起来是不是像科幻片？但这事儿真的被搞定了，而且操作比你想的简单得多。### 为什么我们要折腾这个？你可能会问，我为什么要费劲在手机上装个模型？直接用云端的不香吗？其实，理由很简单：隐私和自由。现在的AI大多是云端的，你问什么，都要传到别人的服务器去。但如果你跑在手机本地，那就是真真正正的“私人AI”。哪怕你把手机开了飞行模式，断掉所有网络，它依然能帮你写小说、做逻辑推理、识别照片里的东西，完全不用担心聊天记录泄露。而且，它是真的不花钱，想用多久用多久，简直是咱们这种“精打细算”党的福音。### 手把手带你实现“手机AI自由”咱们先说说安卓。这其实就像装个普通App一样。你需要去下载对应的安装包，装好之后，它会根据你手机的配置，给你推荐一个合适大小的模型版本。如果你手机配置高，就装个高清版；如果手机稍微旧一点，像我用的这款，系统会自动推荐一个1.2G左右的量化版，运行起来完全没压力。安装好以后，你可以像建文件夹一样，把模型载入进去，甚至还可以自定义输出长度。这就像是给自己手机换了个聪明的“大脑”。iOS的操作逻辑也差不多，去对应的应用商城下载个工具，进去之后，系统会自动跳出Gemini 4的选择界面。下载完那几百兆或者几个G的模型包，你的苹果手机瞬间就有了“读心术”和“分析能力”。### 它到底有多聪明？这才是最关键的，对吧？我特意拿它做了好几个测试：第一，拍照识别。我把桌面上的一堆乱七八糟的东西——手机、保护壳、护肤品，甚至还有几颗西瓜子，全摆在镜头前。它不仅精准识别出了大部分物体，连护肤品是干嘛的都能说得头头是道。虽然在数西瓜子个数的时候，它和GPT-4一样，偶尔也会犯点“数数难”的小毛病，但这已经很惊人了，不是吗？第二，逻辑推理。我祭出了那道经典的“蒙提霍尔问题”（就是那个三扇门换不换车的问题）。它反应很快，不仅答对了，还把逻辑拆解得明明白白。能处理这种反直觉的概率题，说明它不是简单的“背书”，是真的有逻辑底层的。第三，代码和创作。我让它写个3D鱼缸场景的网页代码，它几秒钟就搞定了HTML和CSS样式，在电脑上跑起来效果还真挺像回事。最让我惊喜的是写小说，在完全离线、飞行模式下，它能一章接一章地编故事，那文笔，写个短篇恐怖小说完全够用。### 一点“心里话”当然，我必须得诚实地告诉你，现在的手机本地AI，还不是那种全知全能的“神”。它偶尔会看错物体，也会在数数时“眼花”。但换个角度想想，把如此庞大的智能模型塞进咱们方寸之间的手机里，还是纯本地运行，这本身就是一件划时代的进步。哪怕它有时候会犯点小错，但这并不妨碍它成为我们日常生活中最好的“数字助理”。它不仅保护了我们的隐私，更让我们在断网的时候，依然拥有一个随时待命、能写诗、能编程、能帮我们分析复杂问题的智慧大脑。现在的技术发展速度快到令人心跳，既然有这种不用花钱、又能保护隐私的好工具，为什么不试着装进手机里，去体验一下呢？没准，它能成为你工作生活中，那个最懂你的“无声伴侣”。如果有机会，你也赶紧动动手指头去试试，看看能不能帮你省下不少麻烦事儿！如果你操作的时候遇到什么坑，或者有什么好玩的新发现，随时回来告诉我。毕竟，咱们玩科技的初衷，不就是为了让生活变得更有趣吗？
-
【硬核折腾】旧安卓手机复活：本地部署 OpenClaw AI 智能体 让闲置安卓设备变身边缘计算节点：PicoClaw 实践抽屉里那些屏幕完好、却因为系统臃肿而卡顿的旧手机，其实还没死。它们曾经是主力机，现在成了电子垃圾，但只要给它们换个轻量级的“大脑”，这些旧硬件完全能胜任自动化任务。这次我们聊聊 PicoClaw——一个专为极简与高效设计的智能体框架。不用去想什么最新的芯片，把这些闲置设备变成边缘智能节点，不仅能折腾出新花样，还能让旧物发挥点余热。算力就在手边每年电子垃圾的规模惊人。其实，即便五年前的手机，处理简单的自动化逻辑也绰绰有余。PicoClaw 的核心逻辑是“执行力”和“响应速度”。它不追求大而全的生态，而是专注于本地任务。把目光从云端收回到本地，你会发现，这些旧手机是绝佳的自动化控制中心、家庭监控终端，或者是私人助理。为什么是 PicoClaw？在资源受限的环境下，软件的体积决定了存亡。 Go 语言原生性能：PicoClaw 用 Go 编写，直接编译成二进制文件，不需要笨重的 JVM 或解释器。 极致轻量：常驻内存占用不到 10MB。即便在 1GB 内存的旧设备上，它也跑得稳稳当当。 启动即响应：没有冗长的加载过程，初始化几乎在毫秒级完成。 全架构适配：无论你是高通骁龙、Intel Atom 平板，还是 RISC-V 开发板，编译一次就能跑。 为什么要在安卓上折腾？这不只是为了省钱，更是一种极客式的反叛。 绿色科技：让设备多服役三年，就是最实在的环保。 数据隐私：把 PicoClaw 当作家庭日志或隐私分析器，数据不出域，物理安全。 技术成就感：看着一台五年前的旧手机跑着最新的自动化逻辑，这种满足感，买新手机是给不了的。 部署路径：在安卓上安家安卓系统的层级太臃肿，我们直接通过 Termux 或 UserLAnd 绕过 UI，在 Linux 内核上运行。简单的部署思路： 准备环境：从 F-Droid 安装 Termux，给足存储权限。 编译二进制：在电脑上针对 linux-arm64 或 linux-arm 交叉编译好 PicoClaw。 传输与运行：用 adb push 把文件扔进 Termux，chmod +x 给执行权限。 后台守护：写个简单的 Bash 脚本，配合 Termux 的开机自启功能，让它在后台稳稳运行。 接口交互：直接通过本地 API 对它下指令，或者让它定时执行任务。 这样做，等于是在 Linux 内核上直接压榨硬件性能，效率极高。结语：硬件复兴我们不需要盲目追逐算力溢出，我们需要的是对算力的精确掌控。看着那台屏幕带点划痕的旧手机，在 PicoClaw 的驱动下静静地处理着家庭数据，你会意识到：AI 并不一定非得在大厂的 GPU 集群上跑。它可以在被遗忘的角落，在微小的硅片上闪烁智慧。旧设备没过时，它们只是在等一个契机。而 PicoClaw，就是那把钥匙。
