Computer >> Hướng Dẫn Máy Tính >  >> Lập Trình >> Redis

Xây Dựng Hệ Thống Gợi Ý Bài Viết Thời Gian Thực Với Upstash & Node.js

Giới Thiệu

Bạn đã từng dùng Google hay Perplexity.ai? Bạn thắc mắc họ hiển thị kết quả tìm kiếm mới nhất kèm link bài viết như thế nào? Trong hướng dẫn này, bạn sẽ học cách tự xây dựng một hệ thống như vậy — tạo gợi ý dựa trên link bài viết bạn thêm vào kho kiến thức ngày càng lớn.

Yêu Cầu Tiên Quyết

  • Node.js 18 trở lên
  • Tài khoản Upstash
  • Tài khoản OpenAI
  • Tài khoản Fly.io

Công Nghệ Sử Dụng

Công NghệMô Tả
UpstashNền tảng DB serverless. Sử dụng Upstash Vector để lưu vector embedding và metadata.
RemixFramework full-stack tập trung vào Web Standards.
OpenAILab nghiên cứu AI phát triển công nghệ AI tiên tiến.
LangChainFramework phát triển ứng dụng dựa trên mô hình ngôn ngữ.
Vercel AI SDKThư viện open-source xây dựng UI hỗ trợ AI.
TailwindCSSFramework CSS thiết kế tùy chỉnh.
Fly.ioNền tảng chạy full-stack app và database gần người dùng.
PrettierCode formatter đảm bảo phong cách nhất quán.

Các Bước Thực Hiện

  • Tạo OpenAI Token
  • Tạo Upstash Vector Index
  • Thiết lập dự án
  • Khởi tạo OpenAI API Client
  • Tạo OpenAI Embeddings Client
  • Tạo Upstash Vector Client
  • Tạo Context API Endpoint
  • Tạo Chat API Endpoint
  • Triển khai lên Fly.io
  • Tham khảo
  • Kết luận

Tạo OpenAI Token

Sử dụng OpenAI API để lấy vector embedding bài viết và tạo phản hồi chatbot. Mọi request đến OpenAI cần authorization token. Vào API Keys trong tài khoản OpenAI, nhấn Create new secret key. Sao chép và lưu an toàn để dùng làm biến môi trường OPENAI_API_KEY.

Tạo Upstash Vector Index

Đăng nhập Upstash, vào tab Vector và nhấn Create Index.

Xây Dựng Hệ Thống Gợi Ý Bài Viết Thời Gian Thực Với Upstash & Node.js

Đặt tên index (ví dụ: article) và đặt vector dimensions = 1536.

Xây Dựng Hệ Thống Gợi Ý Bài Viết Thời Gian Thực Với Upstash & Node.js

Cuộn xuống phần Connect, nhấn nút .env. Sao chép nội dung và lưu lại.

Xây Dựng Hệ Thống Gợi Ý Bài Viết Thời Gian Thực Với Upstash & Node.js

Thiết Lập Dự Án

Clone repo và làm theo hướng dẫn:

# Clone project
git clone https://github.com/rishi-raj-jain/article-recommendation-system
cd article-recommendation-system
# Cài dependencies
pnpm install

Tạo file .env với các key sau:

# .env
# OpenAI API Key
OPENAI_API_KEY="sk-..."
# Upstash Vector Keys
UPSTASH_VECTOR_REST_URL="https://...-us1-vector.upstash.io"
UPSTASH_VECTOR_REST_TOKEN="...="

Chạy ứng dụng:

pnpm run build && pnpm run start

Truy cập localhost:3000 để xem ứng dụng chạy.

Khởi Tạo OpenAI API Client

Với package openai, tương tác OpenAI REST API chỉ trong vài dòng code. File app/lib/openai/completion.server.ts:

// File: app/lib/openai/completion.server.ts
import OpenAI from 'openai'

export default new OpenAI({
  apiKey: process.env.OPENAI_API_KEY,
})

Lưu ý: Thêm .server.ts vào tên file trong Remix để buộc code chạy server-side, không bundle vào client.

Tạo OpenAI API Embeddings Client

Dùng @langchain/openai với class OpenAIEmbeddings để tạo vector embedding. File app/lib/openai/embedding.server.ts:

// File: app/lib/openai/embedding.server.ts
import { OpenAIEmbeddings } from '@langchain/openai'

export default new OpenAIEmbeddings({
  modelName: 'text-embedding-3-small',
  openAIApiKey: process.env.OPENAI_API_KEY,
})

Tạo Upstash Vector Client

Sử dụng @upstash/vector và @langchain/community/vectorstores/upstash để tạo client connectionless cho Remix, cho phép lưu, xóa, truy vấn vector embedding từ Upstash Vector index. File app/lib/upstash/vectorStore.server.ts:

// File: app/lib/upstash/vectorStore.server.ts
import embeddings from '~/lib/openai/embedding.server'
import { Index as UpstashIndex } from '@upstash/vector'
import { UpstashVectorStore } from '@langchain/community/vectorstores/upstash'

const index = new UpstashIndex({
  url: process.env.UPSTASH_VECTOR_REST_URL as string,
  token: process.env.UPSTASH_VECTOR_REST_TOKEN as string,
})

export default new UpstashVectorStore(embeddings, { index })

Tạo Context API Endpoint

Ứng dụng Remix có textbox nhận nhiều URL bài viết. Những bài viết này sẽ được thêm vào kiến thức chatbot để tạo phản hồi cá nhân hóa cho tìm kiếm sau này. Endpoint context (app/routes/api_.context.tsx) nhận các URL, lấy nội dung, tạo vector embedding, lưu vào Upstash Vector Index động.

// File: app/routes/api_.context.tsx
import { Document } from 'langchain/document'
import { ActionFunctionArgs } from '@remix-run/node'
import vectorServer from '~/lib/vector/vectorStore.server'
import { CheerioWebBaseLoader } from 'langchain/document_loaders/web/cheerio'

export const action = async ({ request }: ActionFunctionArgs) => {
  const formData = await request.formData()
  const articlesToEmbed = formData.get('articles') as string

  if (articlesToEmbed) {
    const documents: any[] = []
    await Promise.all(
      articlesToEmbed.split(',').map(async (link) => {
        const loader = new CheerioWebBaseLoader(link.trim())
        const scraper = await loader.scrape()
        const name = scraper('title').html()
        const pageContent = scraper.text()
        const metadata = { link, name }
        documents.push(new Document({ pageContent, metadata }))
      }),
    )
    await vectorServer.addDocuments(documents.filter(Boolean))
  }
}

Trong Remix Action này:

  • Parse form data từ POST request đến /api/context.
  • Lặp qua các link bài viết cách nhau bởi dấu phẩy.
  • Tạo pageContent từ nội dung text trang web.
  • Tạo name từ title trang web.
  • Tạo LangChain Document với text, reference và tên bài viết.
  • Thêm document vào mảng documents.

Cuối cùng, insert tất cả document vào Upstash Vector Index. Vector embedding được tạo tự động từ property pageContent.

Tạo Chat API Endpoint

Endpoint chat API (app/routes/api_.chat.tsx) tạo phản hồi kiểu search engine với gợi ý bài viết liên quan đến tìm kiếm của người dùng. Các bài viết liên quan được tìm bằng cách query top-K vector gần nhất từ vector index. Title và link từ metadata vector được truyền cho OpenAI API làm context, cho phép chatbot kèm link bên ngoài khi trả lời.

Tìm Vector Embedding Liên Quan Bằng Similarity Search

Duyệt toàn bộ kho kiến thức cho mỗi tìm kiếm là tốn kém. Thu hẹp xuống top 3 bài viết liên quan cao bằng cách query vector trong Upstash Vector Index, lọc giữ vector có độ tương đồng ≥ 70%.

// File: app/routes/api_.chat.tsx
import vectorServer from '~/lib/upstash/vectorStore.server'
import type { ActionFunctionArgs } from '@remix-run/node'

export const action = async ({ request }: ActionFunctionArgs) => {
  const { messages = [] } = await request.json()
  const searchQuery = messages[messages.length - 1].content

  const queryResult = await vectorServer.similaritySearchWithScore(searchQuery, 3)
  const results = queryResult
    .filter((i) => i[1] >= 0.7)
    .map((i) => i[0].metadata)

  // Tiếp tục tạo phản hồi...
}

Tạo System Context và Hướng Dẫn Cho Chatbot

Sau khi có tập vector liên quan, cần chatbot biết và trích dẫn các bài viết liên quan trước khi trả lời. Với model gpt-3.5-turbo của OpenAI, tạo message object với role = system chứa hướng dẫn:

  • Phản hồi như Google
  • Định dạng 100% markdown compatible
  • Có hyperlink đến bài viết
  • Vượt quá chỉ đưa reference, thêm nội dung chung liên quan đến query
// File: app/routes/api_.train.tsx
import { OpenAIStream, StreamingTextResponse } from 'ai'
import completionServer from '~/lib/openai/completion.server'

export const action = async ({ request }: ActionFunctionArgs) => {
  // ...
  const completionResponse = await completionServer.chat.completions.create({
    stream: true,
    model: 'gpt-3.5-turbo',
    messages: [
      {
        role: 'system',
        content: `Behave like a Google. You have the knowledge of the following articles: ${JSON.stringify(results)}. Each response should be in 100% markdown compatible format and should have hyperlinks in it. Be precise. Do add some general text in the response related to the query.`,
      },
      ...messages,
    ],
  })
  const stream = OpenAIStream(completionResponse)
  return new StreamingTextResponse(stream)
}

Với code này, bạn stream kết quả từ OpenAI có context-aware, gợi ý bài viết liên quan đến tìm kiếm của người dùng.

Triển Khai Lên Fly.io

Repo có sẵn cấu hình Fly.io:

  • Dockerfile
  • fly.toml
  • .dockerignore

Sau khi có tài khoản Fly.io, tạo app tại thư mục root:

# Tạo app dựa trên cấu hình sẵn
fly launch

Triển khai:

fly deploy

Tham Khảo

  • GitHub Repository
  • Upstash Vector Store Integration with LangChain
  • System Instructions in OpenAI's Chat Completions API
  • Load data from webpages using Cheerio in LangChain
  • Creating AI Chat UI in React apps

Kết Luận

Trong hướng dẫn này, bạn đã học cách xây dựng hệ thống gợi ý bài viết sử dụng Vector Embeddings và OpenAI Completion API với system context tạo động. Với Upstash Vector và LangChain, bạn có khả năng lưu vector trong index, thực hiện truy vấn top-K vector search và tạo context liên quan cho mỗi tìm kiếm — tất cả chỉ trong vài dòng code.

Nếu có câu hỏi hoặc góp ý, hãy liên hệ qua GitHub.