Tienson Qin před 2 roky
rodič
revize
d7c180a02f
1 změnil soubory, kde provedl 0 přidání a 23 odebrání
  1. 0 23
      scripts/ai/main.py

+ 0 - 23
scripts/ai/main.py

@@ -1,23 +0,0 @@
-from typing import Optional, List
-
-from fastapi import FastAPI
-from pydantic import BaseModel
-from sentence_transformers import SentenceTransformer
-
-class Texts(BaseModel):
-    texts: List[str]
-
-app = FastAPI()
-
-model = SentenceTransformer('all-MiniLM-L6-v2')
-
-pool = model.start_multi_process_pool()
-
-def encode(texts: List[str]):
-    data = model.encode_multi_process(texts, pool, batch_size=8).tolist()
-    return data
-
[email protected]("/embedding/")
-async def embedding(texts: Texts):
-    data = encode(texts.texts)
-    return data