为什么给小程序接 AI

大模型能力越来越便宜、越来越好接。给小程序加一点 AI，往往能把原来要写一堆规则的事——智能问答、内容生成、客服回复——变成「调个接口」。最直接的两个用处：智能客服和内容辅助。

但别为了接而接。先想清楚你的用户到底需要 AI 干什么：是答常见问题，还是帮他生成内容？想清楚场景，再接，别接完发现没人用。

AI 是把已有体验做得更聪明，不是为了炫技而堆功能。

对小程序来说，AI 最实在的落点往往不是「炫技的大功能」，而是把原来客服要重复答的问题、用户要反复找的入口，用一句对话就解决。先从小处接起。

本文核心知识点
  • 接入方式AI 插件开箱即用，直接调接口更灵活。
  • 对话流程前端发消息，服务端转大模型，流式回前端。
  • 智能客服先把高频问题接住，兜底转人工。
  • 成本边界控制调用量，别让接口费失控。
小程序 AI 能力示意：蓝调渐变背景上的对话气泡、大脑节点与数据流组成的扁平科技插画
一次对话：前端发、服务端转、大模型答，AI 就活在小程序里了。

接入方式：插件还是直接调接口

常见两条路：用平台现成的 AI 插件，开箱快但灵活度有限；或者自己的服务端直接调大模型接口，可控但要自己搭后端。

方式特点
AI 插件接入快，适合先试水温
自接接口灵活、可定制，需要后端

如果你的后端已经有服务，直接调接口最灵活：可以自由设计对话格式、接自己的知识库。插件胜在快，适合先验证需求，真要做重了还是得自接。

一次对话的完整流程

不要让前端直接拿大模型的密钥去调接口——那会泄露密钥、也过不了审核。正确做法是：前端把用户消息发给自己的服务端，服务端再带着密钥去调大模型，把回答流式回给前端。

// 前端：把问题发给自己的后端
wx.request({
  url: BASE + "/api/chat",
  method: "POST",
  data: { question: text }
});
// 服务端：拿密钥调大模型，再返回
// 密钥只留在服务端，绝不下发前端

长回答建议用流式输出：一个字一个字回，用户体感会快很多。别等整段生成完再一次性吐出来，那几秒的干等最劝退。

鉴权也别省。谁在问这个问题、要不要登录后才能用 AI 功能，都在服务端判断，别把额度白白送给没登录的访客。

智能客服：先接住常见问题

智能客服最务实的做法，不是让它什么都懂，而是先把最高频的几十个问题答好。答不上来的，兜底转人工。

  • 把常见问题做成知识库喂给模型。
  • 答不准时引导用户找人工。
  • 别让 AI 瞎说，敏感问题兜底。

知识库不用一开始就很全。先把客服工单里高频出现的问题整理进去，覆盖住八成咨询就够用了。剩下两成转人工，体验反而更好。

成本与安全边界

大模型按调用量计费，放开不管很容易烧钱。要在服务端限流：同一个用户单位时间能问几次，超长输入直接截断。

// 服务端做限流和长度控制
// 每用户每分钟 N 次，输入超长则截断

内容上也要过安全检测，别让模型输出违规内容，这和上一篇讲的内容安全是同一套逻辑。

成本之外还有个合规点：用户和 AI 的对话内容本身也属于收集的信息，隐私协议里要说明白。别只想着省钱，忘了这块。