{ "version": "https://jsonfeed.org/version/1.1", "title": "ShareAI · 技术与分享", "home_page_url": "https://shareai.icu/", "feed_url": "https://shareai.icu/feed.json", "description": "AI 工程化、前端实践与 DevOps 心得分享", "items": [ { "title": "车机端侧 RAG 选型实录", "url": "https://shareai.icu/articles/2026-10-16-n52eow.html", "id": "https://shareai.icu/articles/2026-10-16-n52eow.html", "summary": "# 本地 vs 云端的 6 个方案、3 个真坑、1 个最终决定\n一句话结论\n"切本地 RAG 会更快"是个错觉。 我们 AiosAgent 主链路 11.4 秒一次完整对话，RAG（embed）只占 5.2 秒，剩下 6.2 秒全在 1.5B 本地模型 CPU 解码。把 RAG 砍到 0 也只省 45%，而且切本地大概率会让 LLM...", "content_html": "\n

一句话结论

\n

"切本地 RAG 会更快"是个错觉。 我们 AiosAgent 主链路 11.4 秒一次完整对话，RAG（embed）只占 5.2 秒，剩下 6.2 秒全在 1.5B 本地模型 CPU 解码。把 RAG 砍到 0 也只省 45%，而且切本地大概率会让 LLM 变慢——因为两个模型抢同一组 CPU 核心。

\n

真要快，做这三件事：流式输出（TTFT 3s → <500ms）、砍 Planner 循环（5 轮 → 1 轮）、LLM 量化（1.5B → 1.5B-Q4）。

\n

​但本地 RAG 仍有它的位置​：离线、隐私、延迟稳定性。这三件事值得做。

\n

下面把账算清楚。

\n", "date_published": "2026-10-16T00:00:00.000Z", "authors": [ { "name": "snow" } ], "tags": [] }, { "title": "在高通 SA8295P（Hexagon V73）上跑 LiteRT-LM + QNN", "url": "https://shareai.icu/articles/2026-10-13-w7caaj.html", "id": "https://shareai.icu/articles/2026-10-13-w7caaj.html", "summary": "在高通 SA8295P（Hexagon V73）上跑 LiteRT-LM + QNN 端侧 NPU\n\n\n摘要：把 LiteRT-LM 接到 App 进程内走 QNN/HTP 真·出字，理论上在 Snapdragon 8 Gen 2/3 上能跑；但当目标是车机 SoC SA8295P（Hexagon V73）时，会撞上 Google 2026-01 公开...", "content_html": "\n

\n
\n

摘要：把 LiteRT-LM 接到 App 进程内走 QNN/HTP 真·出字，理论上在 Snapdragon 8 Gen 2/3 上能跑；但当目标是车机 SoC SA8295P（Hexagon V73）时，会撞上 Google 2026-01 公开承认的"SA8295P not ready yet"。本文把从注册 Qualcomm ID、下载 QAIRT、推库、对接 LiteRT-LM、到 NPU 真·出字判据的全过程按时间线复盘一遍，附原始证据与下一步可破局路径。

\n
\n", "date_published": "2026-10-13T00:00:00.000Z", "authors": [ { "name": "snow" } ], "tags": [] }, { "title": "车载 Android（8295）本地 Qwen 模型集成方案调研文档", "url": "https://shareai.icu/articles/2026-10-12-8k4wm7.html", "id": "https://shareai.icu/articles/2026-10-12-8k4wm7.html", "summary": "车载 Android（8295）本地 Qwen 模型集成方案调研文档\n文档信息\n\n目标：车载端侧 Qwen 本地模型多技术路线评估，用于方案选型汇报\n硬件：SA8295\n业务底座：Koog / MCP Agent 框架\n评估维度：设备可用性、NPU/CPU 支持、团队自服务能力、Koog/MCP 改动量、量产友好度、工作量、当前状态、主要风险\n\n一、方...", "content_html": "\n

文档信息

\n\n

一、方案总览表

\n

表格

\n

| 方案 ID | 方案主类 | 子型 | 设备可用性（本机） | NPU 支持 | CPU 支持 | 团队能否自服务 | Koog/MCP 改动 | 量产友好度 | 工作量 | 当前状态 | 主要风险 | |\n|

\n", "date_published": "2026-10-12T00:00:00.000Z", "authors": [ { "name": "snow" } ], "tags": [] }, { "title": "车载aios agent预研架构方案", "url": "https://shareai.icu/articles/2026-10-12-hq5zev.html", "id": "https://shareai.icu/articles/2026-10-12-hq5zev.html", "summary": "车载aios agent预研架构方案\nAIOS 应用系统架构与详细设计（终态架构视角）\n\n一汽智能座舱 AI Agent（AIOS） —— 一份面向研发与分享的全应用系统架构文档\n版本：当前阶段（2026-10，基于实读代码） ｜ 形态：内部技术分享，经脱敏可对外发布\n参照基线：（终态目标设计，本文 §0 与其对齐）\n配套深读：（端云 LLM 接入专项...", "content_html": "\n

AIOS 应用系统架构与详细设计（终态架构视角）

\n
\n

一汽智能座舱 AI Agent（AIOS） —— 一份面向研发与分享的全应用系统架构文档

\n

版本：当前阶段（2026-10，基于实读代码） ｜ 形态：内部技术分享，经脱敏可对外发布\n参照基线：../AIOS_终态目标.md（终态目标设计，本文 §0 与其对齐）\n配套深读：../端云双栈LLM架构设计/（端云 LLM 接入专项）

\n
\n", "date_published": "2026-10-12T00:00:00.000Z", "authors": [ { "name": "snow" } ], "tags": [] }, { "title": "安卓车机 Qwen+QNN 自研方案，到底在讲什么？", "url": "https://shareai.icu/articles/2026-10-08-oc4ek1.html", "id": "https://shareai.icu/articles/2026-10-08-oc4ek1.html", "summary": "​先记一句话：​不依赖高通的现成封装，自己基于 QNN 底层 API，把 Qwen 大模型做转换、量化、图优化和硬件调参，最终稳稳跑在 SA8295 车机的 HTP（NPU）上，做车机端本地大模型推理。简单说就是——自己动手，把车机这颗 NPU 用到极致。\n先记住一句话，别被名词吓到\n这套方案里其实只有三个角色：Qwen 是那棵大模型，HTP 是车机芯...", "content_html": "

​先记一句话：​不依赖高通的现成封装，自己基于 QNN 底层 API，把 Qwen 大模型做转换、量化、图优化和硬件调参，最终稳稳跑在 SA8295 车机的 HTP（NPU）上，做车机端本地大模型推理。简单说就是——自己动手，把车机这颗 NPU 用到极致。

\n

先记住一句话，别被名词吓到

\n

这套方案里其实只有三个角色：Qwen 是那棵大模型，HTP 是车机芯片里专门算 AI 的"小马达"（NPU），QNN 是芯片厂商给开发者的底层接口。所谓"自研"，就是不让现成的第三方框架代劳，而是由我们自己的代码，从模型到硬件一步一步接管。

\n

下面这张图是整条链路：你问一句，Qwen 大模型在车机本地被加载，经过自研推理框架调度，通过 QNN 翻译成 HTP 能执行的指令，最后由这颗 NPU 算完并把结果交回给你。

\n

\n

三个词，逐个拆开讲

\n

| 名词 | 是什么 | 打个比方 |\n|

\n", "image": "https://my.feishu.cn/space/api/box/stream/download/asynccode/?code=ZjNmMTcyMDkzMzhmODU2OWZiMzI3ZjgzYjEwZmZiZWVfSzdLbWpCTDFpTkVVdkN1Z2hPUVdha1doZ2x2MzV2MHdfVG9rZW46RGFxUmJ6Q1FFb2gyeG94eGVoOGNmcUtRbm5DXzE3OTE0Mjg3NTM6MTc5MTQzMjM1M19WNA&add_watermark=true&scene_type=CCM_DOUBAO", "date_published": "2026-10-08T00:00:00.000Z", "authors": [ { "name": "snow" } ], "tags": [] }, { "title": "轻量服务器建站的几个踩坑点", "url": "https://shareai.icu/articles/2026-10-02-devops-tips.html", "id": "https://shareai.icu/articles/2026-10-02-devops-tips.html", "summary": "阿里云轻量应用服务器搭博客的几个常见坑 —— 从安全组到 SSL 续期", "content_html": "\n

记录下用阿里云轻量应用服务器搭博客时遇到的几个真实坑。

\n

坑 1：ufw 不是标配

\n

轻量服务器（Alibaba Cloud Linux 3）默认没有 ufw。\n外部防火墙在控制台，不在服务器里。\n折腾半天才发现安全组要手动放行 443。

\n

坑 2：acme.sh 默认 CA 是 ZeroSSL

\n

新版 acme.sh 默认走 ZeroSSL，国内网络偶尔会卡。\n指定 --server letsencrypt 切回 LE，稳很多。

\n

坑 3：Nginx 1.30+ 不再支持 listen ... http2

\n
# 旧写法（仍工作但报 warn）\nlisten 443 ssl http2;\n\n# 新写法\nlisten 443 ssl;\nhttp2 on;\n
\n

坑 4：rsync 同步需要写对路径

\n
# 错的：多一层目录\nrsync ... docs/.vuepress/dist/ user@host:/var/www/blog/\n\n# 对的：直接同步内容到目录\nrsync ... docs/.vuepress/dist/ user@host:/var/www/blog/\n
\n

注意结尾的 /，带 / 是同步目录内容，不带 / 是同步目录本身。

\n

坑 5：公安备案 30 天内必须做

\n

工信部备案通过后 30 天内必须做公安备案，\n否则被查到会下架。\n阿里云一般有邮件提醒，记得处理。

\n", "image": "https://shareai.icu/covers/devops.svg", "date_published": "2026-10-02T00:00:00.000Z", "authors": [ { "name": "snow" } ], "tags": [] }, { "title": "ShareAI 上线了", "url": "https://shareai.icu/articles/2026-09-30-hello-world.html", "id": "https://shareai.icu/articles/2026-09-30-hello-world.html", "summary": "个人站从零搭建的第一篇记录，含完整流程与踩坑记录", "content_html": "\n

这是我第一个真正意义上的个人技术博客。

\n

为什么做这个站

\n\n

技术选型

\n\n

接下来的计划

\n
    \n
  1. 写一篇《AI 工程化的三个关键原则》专栏开篇文章
    2. \n
  2. 写一篇《Vue 3 + TypeScript 最佳实践》系列开篇
    3. \n
  3. 把之前公众号的存货迁移过来
    4. \n
\n
\n

域名 shareai.icu，有兴趣可以订阅 RSS。

\n
\n", "image": "https://shareai.icu/covers/hello.svg", "date_published": "2026-09-30T00:00:00.000Z", "authors": [ { "name": "snow" } ], "tags": [] } ] }