Kako koristiti lokalni AI model za odgovaranje na WhatsApp poruke

U ovom članku ćemo vas provesti kroz proces postavljanja lokalnog AI modela za automatsko odgovaranje na WhatsApp poruke koristeći Ozeki SMS Gateway. Integracijom lokalnog AI modela možete unaprijediti svoj sustav poruka s AI-powered chatbotovima koji mogu pružiti inteligentne, trenutne odgovore bez oslanjanja na cloud-based rješenja. Zaronimo u korak-po-korak proces!

Što je WhatsApp?

WhatsApp je popularna platforma za trenutno slanje poruka u vlasništvu Meta. Omogućuje korisnicima slanje tekstualnih poruka, glasovnih poruka, fotografija, videa i datoteka, kao i vođenje glasovnih i video poziva putem interneta. Dostupan na pametnim telefonima, desktop računalima i web preglednicima, WhatsApp se široko koristi za osobnu i poslovnu komunikaciju diljem svijeta zbog svoje end-to-end enkripcije, pouzdanosti i korisnički prijateljskog sučelja.

Što je lokalni AI model?

Lokalni AI model je model umjetne inteligencije koji je instaliran, pohranjen i izvršava se izravno na lokalnom računalu ili poslužitelju, umjesto da se oslanja na cloud-based sustave. Omogućuje korisnicima pokretanje AI aplikacija offline, pružajući potpunu kontrolu nad privatnošću podataka, sigurnošću i prilagodljivošću.

Što je Ozeki AI Server?

Ozeki AI Server je moćna softverska platforma koja integrira umjetnu inteligenciju (AI) s komunikacijskim sustavima, omogućujući tvrtkama razvoj i implementaciju AI-driven aplikacija. Podržava razne automatizirane zadatke poput slanja tekstualnih poruka, glasovnih poziva, chatbotova i strojnog učenja. Kombinirajući AI s komunikacijskim mrežama, poboljšava korisničku uslugu, pojednostavljuje tijekove rada i poboljšava interakcije korisnika u različitim industrijama. Ozeki AI Server pruža sveobuhvatno rješenje za organizacije koje žele povećati učinkovitost komunikacije koristeći AI tehnologiju.

Što je Ozeki SMS Gateway?

Ozeki SMS Gateway je svestrano softversko rješenje dizajnirano da omogući tvrtkama slanje i primanje SMS poruka putem više komunikacijskih kanala. Besprijekorno se integrira s aplikacijama, bazama podataka i API-jima, nudeći značajke poput automatiziranog slanja poruka, dvosmjerne komunikacije i masovnog slanja SMS-ova. Često se koristi za obavijesti, upozorenja, marketing i korisničku podršku, pružajući pouzdan alat za poboljšanje komunikacije putem SMS tehnologije.

Preuzimanje GGUF modela s Huggingfacea (Brzi koraci)

1. Otvorite web stranicu Huggingface
2. Odaberite GGUF modele
3. Odaberite biblioteku modela
4. Preuzmite datoteku modela
5. Spremite datoteku modela

Kako konfigurirati lokalni AI chatbot u Ozeki SMS Gatewayu (Brzi koraci)

1. Otvorite Ozeki AI Server
2. Kreirajte novi GGUF AI model
3. Odaberite datoteku modela
4. Otvorite SMS Gateway
5. Dodajte novu aplikaciju
6. Instalirajte AI chatbot
7. Odaberite AI model
8. Omogućite chatbot

Kako konfigurirati povezivanje WhatsApp računa za AI poruke (Brzi koraci)

1. Otvorite SMS Gateway
2. Dodajte novu vezu
3. Instalirajte WhatsApp račun
4. Konfigurirajte WhatsApp vjerodajnice
5. Postavite zadani predložak
6. Postavite telefonski broj
7. Omogućite WhatsApp vezu
8. Kreirajte nove rute

Slanje WhatsApp test poruke na koju odgovara AI chatbot (Brzi koraci)

1. Otvorite AI chatbot
2. Konfigurirajte sistemski prompt
3. Pošaljite WhatsApp poruku
4. Primite AI odgovor

Preuzimanje GGUF modela s Huggingfacea (Video tutorial)

Video ispod vas vodi kroz sve korake u pokretu, počevši od navigacije do web stranice, pa sve do premještanja LLM datoteke u odgovarajuću mapu. Vrijedno je vašeg vremena, budući da traje samo 75 sekundi, ali obuhvaća svaki važan korak detaljno.

Korak 1 - Otvorite stranicu huggingface.co

U svom pregledniku unesite huggingface.co u traku za pretraživanje. Trebali biste se naći na stranici sličnoj (Slika 1).

Korak 2 - Odaberite GGUF modele

Prvo, kliknite Models blizu gornjeg ruba ekrana. U lijevom panelu postavite filter na Libraries, zatim odaberite GGUF iz dostupnih opcija, kao što je prikazano u (Slika 2).

Korak 3 - Odaberite biblioteku modela

Odaberite svoj preferirani LLM model, za potrebe ovog tutoriala koristit ćemo sljedeći model: Meta-Llama-3.1-8B-Instruct-hf-Q4_K_M-GGUF (Slika 3).

Korak 4 - Preuzmite datoteku modela

Na stranici modela otvorite karticu "Files and versions" i potražite datoteku s .gguf formatom, označenu crvenom bojom u (Slika 4).

Korak 5 - Kopirajte GGUF datoteku modela u C:\AIModels

Preuzmite .gguf datoteku i premjestite je ili zalijepite u sljedeću mapu: C:\AIModels (Slika 5).

Kako konfigurirati lokalni AI chatbot u Ozeki SMS Gateway (Video tutorial)

U ovom video tutorialu, otkrit ćete kako postaviti lokalni AI chatbot u Ozeki SMS Gateway koristeći GGUF model koji ste prethodno preuzeli. Ovaj detaljan, korak po korak vodič će vas provesti kroz proces integracije AI modela s Ozeki AI Serverom, omogućujući vašem chatbotu da učinkovito automatski odgovara na dolazne SMS poruke.

Korak 6 - Otvorite Ozeki AI Server

Pokrenite aplikaciju Ozeki 10. Ako je već nemate, možete je preuzeti ovdje. Nakon što je otvorite, otvorite Ozeki AI Server (Slika 6).

Korak 7 - Kreirajte novi GGUF AI model

Sučelje Ozeki AI Servera sada je vidljivo na ekranu. Da biste kreirali novi GGUF model, počnite klikom na "AI Models" na vrhu ekrana. Zatim kliknite na plavi gumb s oznakom "Create a new AI Model". Na desnoj strani sučelja vidjet ćete razne opcije, odaberite izbornik "GGUF" (Slika 7).

Korak 8 - Odaberite datoteku modela

Nakon što odaberete izbornik "GGUF", odaberite karticu "General", odaberite datoteku modela "C:\AIModels\meta-llama-3.1-8b-instruct-hf-q4_k_m.gguf" zatim kliknite "Ok" (Slika 8).

Korak 9 - Otvorite SMS Gateway

Pokrenite Ozeki SMS Gateway u Ozeki 10 (Slika 9).

Korak 10 - Dodajte novog korisnika/aplikaciju

Nakon pokretanja Ozeki SMS Gatewaya, idite na desni panel pod "Users and Applications" i kliknite na "Add new user/application..." kako biste kreirali novu aplikaciju (Slika 10).

Korak 11 - Instalirajte AI chatbot

Od dostupnih opcija, idite na odjeljak "Chat bots" i odaberite "AI Chat Bot", zatim kliknite na "Install" (Slika 11).

Korak 12 - Odaberite AI model

Na kartici "General", poništite odabir "Send welcome message" i odaberite odgovarajući model, koji je u ovom slučaju "GGUF_Model_1". Na kraju, kliknite "Ok" (Slika 12).

Korak 13 - Omogućite chatbot

Da biste uspostavili vezu, prebacite prekidač u zeleno na lijevoj strani (Slika 13).

Kako konfigurirati Whatsapp račun za AI poruke (Video tutorial)

U ovom videu naučit ćete kako postaviti Whatsapp račun za AI poruke s Ozeki SMS Gatewayem. Ovaj sveobuhvatni, korak po korak tutorial će vas provesti kroz proces konfiguracije Whatsapp veze za poruke, omogućujući vam da jednostavno primate i odgovarate na poruke koristeći moćnu AI tehnologiju.

Detaljna Whatsapp konfiguracija:
Kako postaviti Whatsapp vezu za poruke
Primite Whatsapp poruke u SMS Gateway

Korak 14 - Otvorite SMS Gateway

Pokrenite Ozeki SMS Gateway u Ozeki 10 (Slika 14).

Korak 15 - Dodajte novu vezu

Da biste kreirali novu vezu, kliknite na "Add new connection..." na lijevoj strani, na kartici "Management" (Slika 15).

Korak 16 - Instalirajte Whatsapp račun

Pod "Chat connections", odaberite "WhatsApp account" i kliknite na "Install" kako biste instalirali uslugu (Slika 16).

Konfigurirajte WhatsApp vezu, pod "Vjerodajnice", postavite "WABA-ID" i "Pristupni token", zatim se pomaknite dolje za dodatne postavke (Slika 17).

Korak 18 - Konfigurirajte zadani predložak

"Zadani predložak" odgovoran je za definiranje standardne strukture poruke i oblikovanja koje se koristi prilikom odgovaranja na dolazne WhatsApp poruke. Postavljanjem Oznake 1 do Oznake 4, specificirate unaprijed definirane elemente poruke (Slika 18).

Korak 19 - Postavite telefonski broj

Zatim se ponovno pomaknite dolje do dna stranice, postavite "Telefonski broj" i kliknite "U redu" (Slika 19).

Korak 20 - Whatsapp račun povezan

Nakon postavljanja Vjerodajnica, Zadanog predloška, Telefonskog broja, provjerite je li "Veza" omogućena (Slika 20).

Korak 21 - Kreirajte novu dolaznu rutu

Da biste kreirali novu dolaznu rutu, kliknite na gumb "Rute" na vrhu zaslona, zatim "Kreiraj novu rutu" i postavite pošiljatelja i primatelja na desnoj strani (Slika 21).

Korak 22 - Kreirajte novu odlaznu rutu

Da biste kreirali novu odlaznu rutu, ponovno kreirajte novu rutu, samo ovaj put zamijenite pošiljatelja i primatelja (Slika 18).

Pošaljite Whatsapp testnu poruku na koju odgovara AI chatbot (Video tutorial)

U ovom videu pokazat ćemo vam kako testirati vezu i funkcionalnost odgovora vašeg AI chatbota u Ozeki SMS Gatewayu slanjem WhatsApp poruke i potvrđivanjem AI generiranog odgovora. Ova demonstracija pomoći će vam da potvrdite da je vaša postava pravilno konfigurirana i da učinkovito upravlja dolaznim porukama.

Korak 23 - Otvorite AI chatbot

Za postavljanje chatbota, odaberite AI_Bot_1 s desne strane i kliknite na njega (Slika 23).

Korak 24 - Konfigurirajte sistemski prompt

Za konfiguraciju chatbota, idite na karticu "Konfiguriraj" i odaberite odjeljak "AI". U polju "Sistemski prompt", unesite željeni prompt koji će voditi odgovore chatbota i označite "Koristi sistemski prompt" (Slika 24).

Korak 25 - Pošaljite Whatsapp poruku

Ako ste uspješno završili sve prethodne korake, vrijeme je da testirate svoju postavu. Da biste to učinili, pošaljite poruku ili postavite pitanje putem WhatsAppa na telefonski broj konfiguriran u Ozeki SMS Gatewayu. Nakon slanja poruke, možete provjeriti sistemske zapise kako biste potvrdili da je vaša poruka pravilno primljena i zabilježena (Slika 25).

Korak 26 - Primljen generirani odgovor

Nakon što pošaljete poruku, dobit ćete odgovor od AI chatbota, koji možete vidjeti izravno na svom WhatsApp računu. Dodatno, možete pratiti i pratiti odgovor chatbota u sistemskim zapisima kako biste potvrdili da proces komunikacije radi ispravno (Slika 26).