Computer >> Hướng Dẫn Máy Tính >  >> Lập Trình >> Redis

Xây dựng Story Generator AI với OpenAI, Upstash và Next.js

Cho bài viết này, chúng ta sẽ làm một vài giả định trước khi tiếp tục, nhưng lý tưởng nhất bạn nên có:

  • Tài khoản Upstash với instance Redis và QStash đã tạo
  • Tài khoản OpenAI với quyền truy cập API key
  • Dự án Next.js nơi chúng ta sẽ tạo chức năng story generator
  • Tài khoản Vercel để triển khai dự án

Giới thiệu

Bạn đã bao giờ muốn tạo câu chuyện của riêng mình bằng AI? Với OpenAI completions API và QStash, Redis của Upstash, giờ đây dễ dàng hơn bao giờ hết để tạo câu chuyện tùy chỉnh dùng natural language processing. Trong hướng dẫn này, chúng ta sẽ đi qua quy trình thiết lập và dùng các công cụ này để tạo câu chuyện độc特 và hấp dẫn.

Xây dựng Story Generator AI với OpenAI, Upstash và Next.js

Xem thêm hình ảnh app:

  • Create Story Form
  • Generating Story State
  • Generated Story Displayed

Kiến trúc

Bạn có thể hiểu tốt cách app được thiết lập từ đọc code, nhưng như tổng quan cấp cao hơn, có hình dưới đây cho thấy một số phần của luồng ứng dụng và cách chúng giao tiếp.

Xây dựng Story Generator AI với OpenAI, Upstash và Next.js

Thiết lập dự án

Trước hết chúng ta muốn tạo dự án Next.js. Điều này có thể làm bằng cách chạy lệnh sau để tạo dự án Next.js mới với TypeScript. Bạn có thể tìm bước thiết lập Next.js ở đây.

Cho hướng dẫn này, chúng ta cũng cài Tailwind CSS (forms và typography), nhưng hoàn toàn tùy chọn và chỉ cho styling frontend form.

Tiếp theo chúng ta muốn cài thư viện QStash và Redis của Upstash:

npm install @upstash/qstash
npm install @upstash/redis

Bây giờ bạn muốn tạo tệp .env.local và điền các khóa sau (và giá trị từ nơi liên quan).

SITE_URL=https://your-project-url.vercel.app
OPENAI_API_KEY=
QSTASH_TOKEN=
UPSTASH_REDIS_REST_URL=
UPSTASH_REDIS_REST_TOKEN=

Bạn có thể tìm QStash và Redis token trong Upstash console, OpenAI API key ở đây, và site URL trong Vercel dashboard khi bạn đã tạo dự án và triển khai dự án Next.js cơ bản.

Thiết lập Frontend

Tiếp theo chúng ta sẽ tạo trang và form cho nhập story prompt. Bạn cần text field cho prompt và nút submit.

Tạo Story

File: pages/index.tsx

import { RefObject, useRef, useState } from "react";
import Head from "next/head";
import useInterval from "../hooks/useInterval";
export default function Home() {
  const [generating, setGenerating] = useState<boolean>(false);
  const [messageId, setMessageId] = useState<string | null>(null);
  const [story, setStory] = useState<string[]>([]);
  const themeRef: RefObject<HTMLInputElement> = useRef(null);
  const characterRef: RefObject<HTMLInputElement> = useRef(null);
  const moralRef: RefObject<HTMLInputElement> = useRef(null);
  useInterval(
    async () => {
      await fetch(`/api/poll?id=${messageId}`)
        .then((res: any) => res.json())
        .then((data: any) => {
          if (!data.choices) {
            return;
          }
          setGenerating(false);
          setMessageId(null);
          setStory(data.choices[0].text.split("\n\n"));
        })
        .catch((err: any) => console.error(err));
    },
    messageId ? 1000 : null,
  );
  async function generateStory(event: any) {
    event.preventDefault();
    setGenerating(true);
    await fetch("/api/create", {
      method: "POST",
      body: JSON.stringify({
        theme: themeRef.current?.value,
        character: characterRef.current?.value,
        moral: moralRef.current?.value,
      }),
      headers: {
        "Content-Type": "application/json",
      },
    })
      .then((res: any) => res.json())
      .then((data: any) => setMessageId(data.id))
      .catch((err: any) => console.error(err));
  }
  return (
    <>
      
        StoryTime
        
        
        
      
      

StoryTime

{story.length > 0 && (
{story.map((paragraph: string, index: number) => (

{paragraph}

))}
)} {story.length == 0 && (
)}
); }

File này định nghĩa component React hiển thị form cho phép người dùng nhập theme, character, và moral cho story. Khi form submit, nó gửi yêu cầu POST đến endpoint /api/create với theme, character và moral đã nhập làm body.

Component sau đó chuyển sang trạng thái polling gửi yêu cầu GET đến endpoint /api/poll mỗi giây cùng với message identifier nhận được trong yêu cầu tạo story trước, cho phép chúng ta theo dõi yêu cầu tạo story đến story chúng ta đang poll để kiểm tra khi nào nó hoàn thành được tạo bởi OpenAI.

Khi phản hồi từ endpoint /api/poll chứa thuộc tính choices, chúng ta biết yêu cầu polling đã trả về story tạo thành công, nên component dừng polling và hiển thị văn bản story bằng cách chia thành đoạn và render từng đoạn riêng biệt.

Interval Hook

File: hooks/useInterval.ts

import { useEffect, useRef } from "react";
function useInterval(callback: () => void, delay: number | null) {
  const savedCallback = useRef(callback);
  useEffect(() => {
    savedCallback.current = callback;
  }, [callback]);
  useEffect(() => {
    if (!delay && delay !== 0) {
      return;
    }
    const id = setInterval(() => savedCallback.current(), delay);
    return () => clearInterval(id);
  }, [delay]);
}
export default useInterval;

Hook useInterval dùng useEffect và useRef để quản lý interval và callback function hoạt động liền mạch với vòng đời component React, cũng như cung cấp cách thuận tiện quản lý interval và callback trong component React, tối ưu hiệu suất và làm codebase dễ maintain hơn. Bạn có thể tìm thêm info về hook này ở đây và đây.

Thiết lập API

Trước hết chúng ta sẽ tạo file callback, poll và create, cũng như dùng thư viện Redis và QStash.

Tạo Story

File: pages/api/create.ts

import type { NextApiRequest, NextApiResponse } from "next";
import qstashClient from "../../lib/qstash";
export default async function handler(
  req: NextApiRequest,
  res: NextApiResponse,
) {
  if (req.method !== "POST") {
    return res.status(400).json({ message: `Invalid request method: ${req.method}.`, });
  }
  const { theme, character, moral }: any = req.body;
  qstashClient
    .publishJSON({
      url: "https://api.openai.com/v1/completions",
      method: "POST",
      headers: {
        Authorization: `Bearer ${process.env.QSTASH_TOKEN}`,
        "Content-Type": "application/json",
        "Upstash-Callback": `${process.env.SITE_URL}/api/callback`,
        "Upstash-Forward-Authorization": `Bearer ${process.env.OPENAI_API_KEY}`,
      },
      body: {
        model: "text-davinci-003",
        prompt: `Write a children's story about ${theme}, which has a main character who is ${character} with the moral of the story being ${moral}.`,
        max_tokens: 500,
        temperature: 0.75,
      },
    })
    .then((data: any) => {
      return res.status(202).json({ id: data.messageId });
    })
    .catch((error: any) => {
      return res.status(500).json({ message: error.message });
    });
}

Chúng ta trước tiên kiểm tra request method là POST, và gửi phản hồi status 400 (client error) nếu không. Chúng ta sau đó destructure theme, character, và moral từ body yêu cầu.

Tiếp theo chúng ta gọi phương thức publishJSON trên đối tượng qstashClient, gửi yêu cầu POST đến OpenAI API với JSON body chứa prompt tạo children's story dựa trên theme, character, và moral. Nó cũng đặt một số header, bao gồm authorization header với token trong biến môi trường QSTASH_TOKEN, và forwarded authorization header để truyền OPENAI_API_KEY sẽ dùng cùng yêu cầu OpenAI API.

Chúng ta sau đó trả về message ID của yêu cầu nếu cuộc gọi publishJSON thành công, sẽ dùng cho polling kiểm tra khi nào yêu cầu xong. Nếu lỗi xảy ra, gửi phản hồi status 500 (server error) và thông báo lỗi.

Callback

File: pages/api/callback.ts

import type { NextApiRequest, NextApiResponse } from "next";
import redis from "../../lib/redis";
export default async function handler(
  req: NextApiRequest,
  res: NextApiResponse,
) {
  const { body }: any = req;
  try {
    const decoded = Buffer.from(body.body, "base64").toString("utf-8");
    await redis.set(body.sourceMessageId, decoded);
    return res.status(200).send(decoded);
  } catch (error) {
    return res.status(500).json({ error });
  }
}

Trước hết, chúng ta thử decode body yêu cầu đến, là chuỗi base64-encoded, và nếu thành công, lưu chuỗi đã decode trong Redis dưới cùng key như khi gửi yêu cầu ban đầu đến QStash.

Cuối cùng, gửi phản hồi status 200 (thành công) và chuỗi đã decode. Nếu lỗi, trả về status 500 (server error) và thông báo lỗi.

Polling

File: pages/api/poll.ts

import type { NextApiRequest, NextApiResponse } from "next";
import redis from "../../lib/redis";
export default async function handler(
  req: NextApiRequest,
  res: NextApiResponse,
) {
  const { id }: any = req.query;
  try {
    const data = await redis.get(id);
    if (!data) {
      return res
        .status(404)
        .json({ message: "Data for supplied ID not found" });
    }
    return res.status(200).json(data);
  } catch (error: any) {
    return res.status(500).json({ message: error.message });
  }
}

Trước hết, destructure id từ query object của yêu cầu. Chúng ta sau đó thử truy xuất dữ liệu lưu trong Redis dưới id destructure và nếu không tìm thấy dữ liệu, gửi phản hồi status 404 (không tìm thấy) và thông báo.

Nếu tìm thấy dữ liệu thuộc key đã cho, gửi phản hồi status 200 (thành công) và dữ liệu tìm thấy. Nếu lỗi, trả về status 500 (server error) và thông báo lỗi.

Libs

Tiếp theo, tạo hai file cho client QStash và Redis, dùng trong quá trình tạo story. Cả hai file export object dùng để tương tác với dịch vụ bên ngoài.

File: lib/qstash.ts

import { Client } from "@upstash/qstash";
const qstashClient = new Client({ token: process.env.QSTASH_TOKEN as string });
export default qstashClient;

QStash client được khởi tạo với token trong biến môi trường QSTASH_TOKEN. Object này dùng để gửi HTTP request đến dịch vụ Upstash QStash.

File: lib/redis.ts

import { Redis } from "@upstash/redis";
const redis = new Redis({
  url: process.env.UPSTASH_REDIS_REST_URL as string,
  token: process.env.UPSTASH_REDIS_REST_TOKEN as string,
});
export default redis;

Redis client được khởi tạo với URL và token trong biến môi trường UPSTASH_REDIS_REST_URL và UPSTASH_REDIS_REST_TOKEN. Object này dùng để lưu và truy xuất dữ liệu trong database Redis qua Upstash Redis REST API.

Kết luận

Với OpenAI completions API, cũng như QStash và Redis của Upstash, dễ dàng tạo custom stories dùng natural language processing. Bằng cách làm theo hướng dẫn này, bạn bây giờ nên có thể thiết lập hệ thống tạo story dùng các công cụ này, và tự thay đổi, cải tiến.

Bạn có thể xem source code đầy đủ ở đây.

Cải tiến thêm

Dưới đây là vài ý tưởng về điều bạn có thể làm tiếp, dùng story generator này làm điểm xuất phát:

  • Cập nhật styling frontend đẹp mắt và nhiều màu sắc hơn
  • Thêm Dall-E image generation dùng OpenAI vào story dựa trên prompt
  • Kết nối output với dịch vụ in sách qua API, để user order sách vật lý

Có rất nhiều khả năng và hướng bạn có thể lấy, vì vậy hãy vui vẻ và tận hưởng quá trình. Bạn thậm chí có thể dùng công việc cho đến nay làm base cho dự án khác dùng OpenAI, QStash và Redis.