Hogyan használjunk helyi AI modellt SMS üzenetek megválaszolására

Ebben a cikkben végigvezetjük Önt a helyi AI modell beállításának folyamatán, amely automatikusan válaszol SMS üzenetekre az Ozeki AI Server és az Ozeki SMS Gateway segítségével. Ez a beállítás lehetővé teszi egy AI-alapú chatbot üzembe helyezését, amely hatékonyan kezelheti a bejövő SMS lekérdezéseket.

Mi az a helyi AI modell?

A helyi AI modell egy mesterséges intelligencia modell, amely helyileg van telepítve, tárolva és futtatva egy helyi gépen vagy szerveren, a felhőalapú rendszerekre való támaszkodás helyett. Lehetővé teszi a felhasználók számára, hogy offline futtassanak AI alkalmazásokat, teljes ellenőrzést biztosítva az adatvédelem, a biztonság és a testreszabás felett.

Mi az az Ozeki AI Server?

Az Ozeki AI Server egy hatékony szoftverplatform, amely integrálja a mesterséges intelligenciát (AI) a kommunikációs rendszerekkel, lehetővé téve a vállalkozások számára az AI-alapú alkalmazások fejlesztését és üzembe helyezését. Támogat különféle automatizálási feladatokat, mint például a szöveges üzenetküldés, hanghívások, chatbotok és gepi tanulási folyamatok. Az AI és a kommunikációs hálózatok kombinálásával javítja a ügyfélszolgálatot, egyszerűsíti a munkafolyamatokat és javítja a felhasználói interakciókat különböző iparágakban. Az Ozeki AI Server átfogó megoldást kínál azoknak a szervezeteknek, amelyek az AI technológia segítségével szeretnék növelni a kommunikációs hatékonyságot.

Mi az az Ozeki SMS Gateway?

Az Ozeki SMS Gateway egy sokoldalú szoftvermegoldás, amely lehetővé teszi a vállalkozások számára, hogy küldjenek és fogadjanak SMS üzeneteket több kommunikációs csatornán keresztül. Zökkenőmentesen integrálható alkalmazásokkal, adatbázisokkal és API-kkal, olyan funkciókat kínálva, mint az automatizált üzenetküldés, kétirányú kommunikáció és tömeges SMS küldés. Gyakran használják értesítések, riasztások, marketing és ügyfélszolgálat céljára, megbízható eszközt nyújtva az SMS technológia segítségével történő kommunikáció javításához.

Hogyan töltsünk le egy GGUF modellt a Huggingface-ről (Gyors lépések)

  1. Nyissa meg a Huggingface weboldalt
  2. Válassza ki a GGUF modelleket
  3. Keressen rá a modellre
  4. Töltse le a modellfájlt
  5. Mentse el a modellfájlt

Hogyan konfiguráljunk helyi AI chatbotot az Ozeki SMS Gateway-ben (Gyors lépések)

  1. Nyissa meg az Ozeki AI Server-t
  2. Hozzon létre új AI modellt
  3. Válassza ki a modellfájlt
  4. Nyissa meg az Ozeki SMS Gateway-t
  5. Adjon hozzá új alkalmazást
  6. Telepítse az AI chatbotot
  7. Válassza ki az AI modellt
  8. Engedélyezze a chatbotot

Küldjön teszt SMS üzenetet, amelyre az AI chatbot válaszol (Gyors lépések)

  1. Nyissa meg az AI chatbotot
  2. Konfigurálja a rendszer promptot
  3. Küldjön teszt SMS-t
  4. Kapjon AI választ

Hogyan töltsünk le egy GGUF modellt a Huggingface-ről (Videó útmutató)

Ebben a videóban megtanulhatja, hogyan tölthet le egy GGUF modellfájlt a Huggingface weboldaláról, és hová helyezheti el helyesen a rendszerén az Ozeki AI Server használatához.

1. lépés - Nyissa meg a huggingface.co oldalt

Először lépjen a Huggingface weboldalra. Hasonló oldalt kell látnia (1. ábra).

Nyissa meg a huggingface.co oldalt
1. ábra - Nyissa meg a huggingface.co oldalt

2. lépés - Válassza ki a GGUF modelleket

Válassza ki a Models menüt az ablak tetején, majd a Libraries lehetőséget, és szűrjön GGUF fájlokra (2. ábra).

Válassza ki a GGUF modelleket
2. ábra - Válassza ki a GGUF modelleket

3. lépés - Válassza ki a modell könyvtárat

A keresősávba írja be a következőt: "Meta-Llama-3.1-8B-Instruct-hf-Q4_K_M-GGUF" és válassza ki a "Meta-Llama-3.1-8B-Instruct-hf-Q4_K_M-GGUF" című modellt. Ezt a modellt fogjuk használni (3. ábra).

Válassza ki a modell könyvtárat
3. ábra - Válassza ki a modell könyvtárat

4. lépés - Töltse le a modellfájlt

Kattintson a "Files and versions" fülre, válassza ki a "meta-llama-3.1-8b-instruct-hf-q4_k_m.gguf" verziót és töltse le, a letöltés a lefelé mutató nyíl segítségével lehetséges (4. ábra).

Töltse le a modellfájlt
4. ábra - Töltse le a modellfájlt

5. lépés - Másolja a GGUF modellfájlt a C:\AIModels mappába

Helyezze a korábban letöltött .gguf fájlt a következő útvonalra: C:\AIModels (5. ábra).

5. ábra - Másolja a GGUF modellfájlt a C:\AIModels mappába

Hogyan konfiguráljunk helyi AI chatbotot az Ozeki SMS Gateway-ben (Videó útmutató)

Ebben a videóban megtanulhatja, hogyan konfigurálhat egy helyi AI chatbotot az Ozeki SMS Gateway-ben a korábban letöltött GGUF modell segítségével. A lépésről lépésre szóló útmutató bemutatja, hogyan integrálhatja helyesen az AI modellt az Ozeki AI Server-rel, hogy lehetővé tegye a bejövő SMS üzenetek automatikus válaszolását.

6. lépés – Az Ozeki AI Server megnyitása

Indítsa el az Ozeki 10 alkalmazást. Ha még nincs meg, innen letöltheti. Ezután nyissa meg az Ozeki AI Server programot (6. ábra).

Open AI Server
6. ábra – Az Ozeki AI Server megnyitása

7. lépés – Új GGUF AI modell létrehozása

Az Ozeki AI Server felülete most már látható a képernyőn. Új GGUF modell létrehozásához kattintson a képernyő tetején található "AI Models" menüpontra, majd a "Create a new AI Model" feliratú kék gombra. A jobb oldali panelen válassza ki a "GGUF" menüt (7. ábra).

Create newm GGUF AI model
7. ábra – Új GGUF AI modell létrehozása

8. lépés – Modellfájl kiválasztása

A "GGUF" menü kiválasztása után a "General" lapon válassza ki a "C:\AIModels\Meta-Llama-3.1-8B-Instruct-Q4_K_M.gguf" modellfájlt, majd kattintson az "Ok" gombra (8. ábra).

Select model file
8. ábra – Modellfájl kiválasztása

9. lépés – SMS Gateway megnyitása

Indítsa el az Ozeki SMS Gateway programot az Ozeki 10-ben (9. ábra).

Open SMS Gateway
9. ábra – SMS Gateway megnyitása

10. lépés – Új felhasználó/alkalmazás hozzáadása

Az Ozeki SMS Gateway elindítása után a jobb oldali panelen, a "Users and Applications" alatt kattintson a "Add new user/application..." gombra egy új alkalmazás létrehozásához (10. ábra).

Add newm user/application
10. ábra – Új felhasználó/alkalmazás hozzáadása

11. lépés – AI chatbot telepítése

A rendelkezésre álló lehetőségek közül a "Chat bots" részben válassza ki az "AI Chat Bot" lehetőséget, majd kattintson a "Install" gombra (11. ábra).

Install AI chatbot
11. ábra – AI chatbot telepítése

12. lépés – AI modell kiválasztása

A "General" lapon törölje a "Send welcome message" jelölőnégyzetet, és válassza ki a megfelelő modellt, jelen esetben a "GGUF_Model_1" lehetőséget. Végül kattintson az "Ok" gombra (12. ábra).

Select AI model
12. ábra – AI modell kiválasztása

13. lépés – Chatbot engedélyezése

A kapcsolat létrehozásához a bal oldalon kapcsolja zöldre a kapcsolót (13. ábra).

Enable chatbot
13. ábra – Chatbot engedélyezése

Az SMPP kliens kapcsolat beállítása AI SMS-hez (Videó útmutató)

Ebben a videóban végigvezetjük Önt az SMPP kliens létrehozásán, konfigurálásán és csatlakoztatásán az AI SMS használatához. Megtanulja, hogyan állíthatja be lépésről lépésre az SMPP kliens kapcsolatot, konfigurálja a szükséges beállításokat, és sikeresen integrálhatja azt az AI SMS rendszerrel.

14. lépés – Új kapcsolat hozzáadása

Új kapcsolat létrehozásához a bal oldalon, a "Management" lapon kattintson a "Add new connection..." gombra (14. ábra).

Add new connection
14. ábra – Új kapcsolat hozzáadása

15. lépés – SMPP kliens telepítése

Az "IP SMS connections (SMS)" részben keresse meg az "SMPP client" lehetőséget, és kattintson a "Install" gombra a folytatáshoz (15. ábra).

Install SMPP Client
15. ábra – SMPP kliens telepítése

16. lépés – SMPP kliens konfigurálása

Konfigurálja az "SMPP client" programot a "General" lapon található mezők kitöltésével: Host, Port, Username, Password (16. ábra).

Configure SMPP client
16. ábra – SMPP kliens konfigurálása

17. lépés – Naplózás engedélyezése

Az "Advanced" lapon, a "Log level" alatt jelölje be mind a négy naplózási lehetőséget (17. ábra).

Enable logging
17. ábra – Naplózás engedélyezése

18. lépés – SMPP kliens csatlakoztatva

A kapcsolat létrehozásához a bal oldalon kapcsolja zöldre a "Connection" kapcsolót. Sikeres csatlakozás után a naplókat az "Events" lapon tekintheti meg (18. ábra).

SMPP Client connected
18. ábra – SMPP kliens csatlakoztatva

19. lépés – Új bejövő útvonal létrehozása

Új bejövő útvonal beállításához kattints a képernyő tetején található "Útvonalak" gombra. Ezután válaszd ki a "Új útvonal létrehozása" lehetőséget, és konfiguráld a küldő és fogadó útvonalakat a jobb oldalon (19. ábra).

Új bejövő útvonal létrehozása
19. ábra – Új bejövő útvonal létrehozása

20. lépés – Új kimenő útvonal létrehozása

Új kimenő útvonal létrehozásához ismét kattints a "Új útvonal létrehozása" lehetőségre, de ezúttal cseréld fel a küldő és fogadó beállításokat (20. ábra).

Új kimenő útvonal létrehozása
20. ábra – Új kimenő útvonal létrehozása

Teszt SMS küldése, amelyre az AI chatbot válaszol (Videós útmutató)

Ebben a videóban végigvezetjük a rendszer prompt beállításán, és bemutatjuk, hogyan működik az SMS küldés és fogadás valós időben. Megtanulod, hogyan állíthatod be a rendszer promptot az AI által generált válaszokhoz, és figyelheted meg az SMS-ek küldésének és fogadásának teljes munkafolyamatát.

21. lépés – AI chatbot megnyitása

A chatbot beállításához válaszd ki a jobb oldalon található AI_Bot_1 elemet, és kattints rá (21. ábra).

AI chatbot megnyitása
21. ábra – AI chatbot megnyitása

22. lépés – Rendszer prompt konfigurálása

A chatbot konfigurálásához navigálj a "Beállítások" lapra, és válaszd ki az "AI" szekciót. A "Rendszer prompt" mezőbe írd be a kívánt utasítást, amely irányítja a chatbot válaszait, majd jelöld be a "Rendszer prompt használata" lehetőséget (22. ábra).

Rendszer prompt konfigurálása
22. ábra – Rendszer prompt konfigurálása

23. lépés – SMS küldése

Ha eljutottál idáig, itt az ideje a rendszer tesztelésének. Küldj egy SMS-t, és figyelheted az üzenet feldolgozását az SMPP kliens naplójában (23. ábra).

SMS küldése
23. ábra – SMS küldése

24. lépés – AI által generált válasz fogadása

Miután elküldted az SMS-t, megkapod a chatbot válaszát a telefonodon, és a válasz megtekinthető az AI_Bot_1 naplójában is (24. ábra).

AI által generált válasz fogadása
24. ábra – AI által generált válasz fogadása

More information