本地AI工具新玩法:从磁盘清理到PPT生成

0 阅读

本地AI工具的新实践

最近社区里关于本地AI的讨论越来越务实——大家不再只盯着模型参数或跑分,而是琢磨怎么把AI真正用起来。从清理硬盘到做PPT,再到让智能体记住东西,这些看似琐碎的需求反而成了AI落地的突破口。

大黑

EverOS 接入 Milvus,给智能体加“记忆”

EverOS 1.3.0 的更新有点意思。它现在支持把 Milvus 向量数据库作为智能体的记忆后端。简单说,就是让AI不仅能读你写的Markdown笔记,还能把这些内容向量化存起来,下次对话时能快速召回相关上下文。

这种设计的好处是兼顾了可读性和检索效率。Markdown依然是事实的原始来源,人可以直接编辑;而Milvus负责高速语义搜索。如果你在搭一个需要长期记忆的Agent系统,这个组合挺合适。

不过要注意,这并不是自动记忆所有对话。目前仍需明确将哪些内容存入知识库,避免信息过载或隐私泄露。社区有人测试后反馈,配合Obsidian使用时,笔记和AI记忆能形成闭环,查资料、写总结都更连贯。

实用技巧:清理与创作

Disk Raccoon:一键清出100GB

Mac用户常遇到的问题是:明明没装多少软件,硬盘却悄悄满了。有开发者写了叫 Disk Raccoon 的Skill(技能模块),配合Mole工具扫描大文件,一次操作就能清理掉上百GB的冗余数据。

具体做法是让AI识别哪些是可安全删除的缓存、日志或重复文件。比如飞书、Chrome和终端的历史记录往往是“空间杀手”。作者实测清理后腾出了127GB,而且全程自动化,不用手动翻找。

项目已开源,适合喜欢折腾本地工具链的人。不过建议首次使用前先备份重要数据——毕竟自动删除总有误判可能。

Youmind 做PPT:保留模板风格的巧招

开会要用指定PPT模板?很多人头疼怎么让AI生成的内容不破坏原有设计。有个教程给出了取巧办法:先把模板里的文字全删掉,只留Logo和版式,然后截图保存。接着让AI根据主题整理大纲,再把大纲和截图一起交给Youmind,让它按图生成内容。

这样生成的PPT基本能保持原模板的配色、字体和布局。万一某页排版乱了,还能单独重做那一页,不用全部推倒重来。虽然不算完美自动化,但在现有工具限制下算是个实用解法。

硬件与部署优化

7900 XTX 多卡版 llama.cpp

AMD显卡用户有好消息。社区有人发布了专为 Radeon RX 7900 XTX 多卡配置优化的 llama.cpp 定制版。这个版本针对 PCIe x4 带宽限制、张量并行策略和显存卸载做了调优。

测试数据显示,在运行Qwen等大模型时,吞吐量比通用版本提升明显。尤其适合想用消费级显卡跑本地大模型的人——毕竟7900 XTX的20GB显存对很多模型来说已经够用,多卡叠加后更能应对更大参数量。

项目地址在Reddit上公开,附带详细编译和运行说明。不过要注意,这仍是实验性构建,稳定性不如官方版,适合愿意调试的用户。

行业动态

Domyn 用 Nemotron 做合规AI

NVIDIA最近介绍了Domyn公司的案例:他们用Nemotron框架为金融、法律等强监管行业构建专用AI系统。重点不是模型多强,而是如何满足合规要求——比如数据不出域、推理可审计、输出可追溯。

这类场景下,通用大模型往往行不通。Domyn的做法是把行业知识库、合规规则和Nemotron结合,让AI在限定范围内工作。例如,法律AI只能引用最新法规条文,不能自由发挥。

这其实代表了一种趋势:垂直领域的AI价值不在“通用”,而在“可控”。未来可能会有更多类似Nemotron的工具链出现,专门服务高合规门槛行业。

第二届 GEO 大会定档深圳

对地理空间AI(GEO AI)感兴趣的人可以 mark 一下日历:第二届GEO大会将于11月21日至22日在深圳南山区举办。去年第一届在北京,不少南方从业者专程飞过去,反馈收获很大。

这次主办方计划全程直播,并设置实操 workshop。议题可能涵盖遥感图像分析、位置智能、时空预测模型等。如果你在做智慧城市、环境监测或物流路径优化,这类会议的信息密度通常比泛AI大会更高。

小结

这一期的亮点在于“小而实”——没有宏大叙事,全是能马上试的工具和技巧。无论是清理硬盘、做PPT,还是优化本地模型部署,都体现了社区对AI实用性的追求。

有意思的是,这些需求往往来自真实工作流中的痛点。比如PPT模板限制是职场常态,Mac硬盘满是日常困扰。AI如果能解决这些小事,反而比空谈“颠覆行业”更有说服力。

接下来值得关注的是,像EverOS+Milvus这样的组合会不会成为本地智能体的标准架构?以及,随着7900 XTX等高显存显卡普及,本地大模型的体验能否进一步接近云端?

至少现在,动手派们已经有足够多的积木可以拼了。