Kako koristiti lokalni AI model za odgovaranje na SMS poruke

U ovom članku ćemo vas provesti kroz proces postavljanja lokalnog AI modela za automatsko odgovaranje na SMS poruke koristeći Ozeki AI Server i Ozeki SMS Gateway. Ova postavka omogućuje vam implementaciju AI chatbota koji može učinkovito upravljati dolaznim SMS upitima.

Što je lokalni AI model?

Lokalni AI model je model umjetne inteligencije koji je instaliran, pohranjen i izvršava se izravno na lokalnom računalu ili poslužitelju, umjesto da se oslanja na sustave u oblaku. Omogućuje korisnicima pokretanje AI aplikacija izvan mreže, pružajući potpunu kontrolu nad privatnošću podataka, sigurnošću i prilagodbom.

Što je Ozeki AI Server?

Ozeki AI Server je moćna softverska platforma koja integrira umjetnu inteligenciju (AI) s komunikacijskim sustavima, omogućujući tvrtkama razvoj i implementaciju AI vođenih aplikacija. Podržava različite zadatke automatizacije kao što su tekstualne poruke, glasovni pozivi, chatbotovi i procesi strojnog učenja. Kombiniranjem AI s komunikacijskim mrežama, poboljšava korisničku uslugu, pojednostavljuje tijekove rada i poboljšava interakcije s korisnicima u različitim industrijama. Ozeki AI Server pruža sveobuhvatno rješenje za organizacije koje žele povećati učinkovitost komunikacije koristeći AI tehnologiju.

Što je Ozeki SMS Gateway?

Ozeki SMS Gateway je svestrana softverska rješenja dizajnirana da omogući tvrtkama slanje i primanje SMS poruka putem više komunikacijskih kanala. Besprijekorno se integrira s aplikacijama, bazama podataka i API-jima, nudeći značajke poput automatskog slanja poruka, dvosmjerne komunikacije i masovnog slanja SMS poruka. Često se koristi za obavijesti, upute, marketing i korisničku podršku, pružajući pouzdan alat za poboljšanje komunikacije putem SMS tehnologije.

Kako preuzeti GGUF model s Huggingfacea (Brzi koraci)

1. Otvorite web stranicu Huggingface
2. Odaberite GGUF modele
3. Pretražite model
4. Preuzmite datoteku modela
5. Spremite datoteku modela

Kako konfigurirati lokalni AI chatbot u Ozeki SMS Gateway (Brzi koraci)

1. Otvorite Ozeki AI Server
2. Kreirajte novi AI model
3. Odaberite datoteku modela
4. Otvorite Ozeki SMS Gateway
5. Dodajte novu aplikaciju
6. Instalirajte AI chatbot
7. Odaberite AI model
8. Omogućite chatbot

Pošaljite testnu SMS poruku na koju odgovara AI chatbot (Brzi koraci)

1. Otvorite AI chatbot
2. Konfigurirajte sistemski prompt
3. Pošaljite testnu SMS poruku
4. Primite AI odgovor

Kako preuzeti GGUF model s Huggingfacea (Video tutorial)

U ovom videu ćete naučiti kako preuzeti GGUF datoteku modela s web stranice Huggingface i gdje je ispravno smjestiti na vaš sustav za korištenje s Ozeki AI Serverom.

Korak 1 - Otvorite stranicu huggingface.co

Prvo, idite na web stranicu Huggingface. Trebali biste vidjeti sličnu stranicu (Slika 1).

Korak 2 - Odaberite GGUF modele

Odaberite izbornik Models na vrhu prozora, zatim Libraries, a zatim filtrirajte za GGUF datoteke (Slika 2).

Korak 3 - Odaberite biblioteku modela

U tražilicu upišite "Meta-Llama-3.1-8B-Instruct-hf-Q4_K_M-GGUF" i odaberite model pod nazivom "Meta-Llama-3.1-8B-Instruct-hf-Q4_K_M-GGUF". To je model koji ćemo koristiti (Slika 3).

Korak 4 - Preuzmite datoteku modela

Kliknite na karticu "Files and versions", odaberite verziju "meta-llama-3.1-8b-instruct-hf-q4_k_m.gguf" i preuzmite je, možete je preuzeti pomoću strelice prema dolje (Slika 4).

Korak 5 - Kopirajte GGUF datoteku modela u C:\AIModels

Postavite prethodno preuzetu .gguf datoteku na sljedeću putanju: C:\AIModels (Slika 5).

Kako konfigurirati lokalni AI chatbot u Ozeki SMS Gateway (Video tutorial)

U ovom video tutorialu naučit ćete kako konfigurirati lokalni AI chatbot unutar Ozeki SMS Gatewaya koristeći prethodno preuzeti GGUF model. Korak po korak vodič pokazat će vam kako pravilno integrirati AI model s Ozeki AI Serverom kako biste omogućili automatske odgovore na dolazne SMS poruke.

Korak 6 - Otvorite Ozeki AI Server

Pokrenite aplikaciju Ozeki 10. Ako je već nemate, možete je preuzeti ovdje. Zatim otvorite Ozeki AI Server (Slika 6).

Korak 7 - Kreirajte novi GGUF AI model

Sučelje Ozeki AI Server sada je vidljivo na ekranu. Da biste kreirali novi GGUF model, prvo kliknite na "AI Models" na vrhu ekrana. Zatim kliknite plavi gumb s oznakom "Create a new AI Model". Na desnoj strani sučelja vidjet ćete različite opcije, odaberite izbornik "GGUF" (Slika 7).

Korak 8 - Odaberite datoteku modela

Nakon što odaberete izbornik "GGUF", odaberite karticu "General", odaberite datoteku modela "C:\AIModels\Meta-Llama-3.1-8B-Instruct-Q4_K_M.gguf", a zatim kliknite "Ok" (Slika 8).

Korak 9 - Otvorite SMS Gateway

Pokrenite Ozeki SMS Gateway u Ozeki 10 (Slika 9).

Korak 10 - Dodajte novog korisnika/aplikaciju

Nakon pokretanja Ozeki SMS Gateway, idite na desni panel pod "Users and Applications" i kliknite na "Add new user/application..." da biste kreirali novu aplikaciju (Slika 10).

Korak 11 - Instalirajte AI chatbot

Od dostupnih opcija, idite na odjeljak "Chat bots" i odaberite "AI Chat Bot", zatim kliknite na "Install" (Slika 11).

Korak 12 - Odaberite AI model

Na kartici "General", poništite opciju "Send welcome message" i odaberite odgovarajući model, u ovom slučaju "GGUF_Model_1". Na kraju kliknite "Ok" (Slika 12).

Korak 13 - Omogućite chatbot

Da biste uspostavili vezu, prebacite prekidač u zeleno na lijevoj strani (Slika 13).

Kako konfigurirati SMPP klijentsku vezu za AI SMS (Video tutorial)

U ovom videu vodit ćemo vas kroz proces kreiranja, konfiguriranja i povezivanja SMPP klijenta za korištenje s AI SMS. Naučit ćete kako postaviti SMPP klijentsku vezu korak po korak, konfigurirati potrebne postavke i uspješno je integrirati s AI SMS sustavom.

Korak 14 - Dodajte novu vezu

Da biste kreirali novu vezu, kliknite na "Add new connection..." na lijevoj strani, na kartici "Management" (Slika 14).

Korak 15 - Instalirajte SMPP klijenta

U odjeljku "IP SMS connections (SMS)", pronađite opciju "SMPP client" i kliknite "Install" da biste nastavili (Slika 15).

Korak 16 - Konfigurirajte SMPP klijenta

Konfigurirajte "SMPP client" popunjavanjem sljedećih polja na kartici "General": Host, Port, Username, Password (Slika 16).

Korak 17 - Omogućite logiranje

Na kartici "Advanced", pod "Log level", označite sve četiri opcije za logiranje (Slika 17).

Korak 18 - SMPP klijent povezan

Da biste uspostavili vezu, prebacite prekidač "Connection" u zeleno na lijevoj strani. Nakon što se uspješno povežete, možete pregledati logove na kartici "Events" (Slika 18).

Za postavljanje nove dolazne rute, kliknite na gumb "Rute" koji se nalazi na vrhu zaslona. Zatim odaberite "Stvori novu rutu" i konfigurirajte pošiljatelja i primatelja na desnoj strani (Slika 19).

Korak 20 – Stvaranje nove odlazne rute

Za stvaranje nove odlazne rute, ponovno kliknite na "Stvori novu rutu", ali ovaj put zamijenite postavke pošiljatelja i primatelja (Slika 20).

Pošalji testnu SMS poruku na koju odgovara AI chatbot (Video vodič)

U ovom videu vodit ćemo vas kroz proces konfiguriranja sistemskog upita i pokazati kako funkcionira slanje i primanje SMS-a u stvarnom vremenu. Naučit ćete kako postaviti sistemski upit za generiranje odgovora potpomognutih AI-om i promatrati cjeloviti tijek slanja i primanja SMS poruka.

Korak 21 – Otvaranje AI chatbota

Za postavljanje chatbota, odaberite AI_Bot_1 s desne strane i kliknite na njega (Slika 21).

Korak 22 – Konfiguriranje sistemskog upita

Za konfiguriranje chatbota, idite na karticu "Konfiguriraj" i odaberite odjeljak "AI". U polje "Sistemski upit" unesite željeni upit koji će voditi odgovore chatbota i označite "Koristi sistemski upit" (Slika 22).

Korak 23 – Slanje SMS poruke

Ako ste stigli do ovog koraka, vrijeme je za testiranje sustava. Pošaljite SMS, a proces možete pratiti bilježenjem poruke unutar SMPP klijenta (Slika 23).

Korak 24 – Primljen AI generirani odgovor

Nakon što je SMS poslan, primit ćete odgovor chatbota na vašem telefonu, a također ga možete vidjeti zabilježenog u dnevniku AI_Bot_1 (Slika 24).