Ai 智能模块

COOL

v1.1.1 更新于2024-07-17 17:41

说明文档
回复列表 (0)

介绍

AI 知识库模块,基于检索增强生成(RAG)技术,能够为智能问答、客服和智能推荐等场景提供准确、个性化的信息回应。这一模块结合向量数据检索和自然语言生成,优化了信息的相关性和质量,提升用户体验。

对外提供的接口

点击查看 API 接口文档

演示

技术栈

安装

1、复制模块

  • 复制midway文件夹中的模块(注:非 midway 文件夹)到后端 midway 项目的src/modules目录下
  • 复制vue文件夹中的模块(注:非 vue 文件夹)到前端 vue 项目的src/modules
  • 复制uniapp文件夹中的模块(注:非 uniapp 文件夹)到前端 uniapp 项目的uni_modules目录下

2、安装依赖

后端依赖

{
  "dependencies": {
    "chromadb": "^1.8.1",
    "@socket.io/redis-adapter": "^8.2.1",
    "@midwayjs/socketio": "^3.15.0",
    "ioredis": "^5.3.2"
  }
}

复制到package.json文件的dependencies后推荐使用pnpm安装

pnpm i

前端依赖

在 uniapp 中安装

  • @hyoga/uni-socket.io@3.0.4
  • marked@4.3.12
pnpm i @hyoga/uni-socket.io@3.0.4 marked@4.3.12

在 vue 中安装

  • socket.io-client@4.7.2
  • highlight.js@11.9.0
  • marked@11.1.1
pnpm i socket.io-client highlight.js marked

3、开启 socket 服务和安装向量数据库

  • 后端需要开启 socket 服务具体可以查看文档
  • 安装向量数据库ChromaDB,之后修改本模块的配置文件config.ts中的chroma.url配置

也可以 docker 安装,docker-compose.yml

version: "3.9"

networks:
  net:
    driver: bridge
services:
  server:
    image: ghcr.io/chroma-core/chroma:latest
    environment:
      - IS_PERSISTENT=TRUE
    volumes:
      # Default configuration for persist_directory in chromadb/config.py
      # Currently it's located in "/chroma/chroma/"
      - chroma-data:/chroma/chroma/
    ports:
      - 8000:8000
    networks:
      - net

volumes:
  chroma-data:
    driver: local
docker-compose up -d --build

4、启动项目

启动项目后,会自动导入模块的菜单和数据。

更新

  • v1.1.0(2024-04-21)

    • uniapp(v7.3.0)调整,添加自动导入 pages.json
  • v1.0.1(2024-04-11)

    • 新增支持ollama本地大模型
  • v1.0.0(2024-03-04)

    • 初始版本

写回复

回复(0)

写的没人看得懂 ??