Ako používať lokálny AI model na odpovedanie na SMS správy

V tomto článku vás prevedieme procesom nastavenia lokálneho AI modelu na automatické odpovedanie na SMS správy pomocou Ozeki AI Server a Ozeki SMS Gateway. Toto nastavenie vám umožní nasadiť AI-powered chatbot, ktorý dokáže efektívne spracovávať prichádzajúce SMS dotazy.

Lokálny AI model je model umelej inteligencie, ktorý je inštalovaný, uložený a spúšťaný priamo na lokálnom počítači alebo serveri, namiesto toho, aby sa spoliehal na cloudové systémy. Umožňuje používateľom spúšťať AI aplikácie offline, čím poskytuje úplnú kontrolu nad súkromím dát, bezpečnosťou a prispôsobením.

Ozeki AI Server je výkonná softvérová platforma, ktorá integruje umelú inteligenciu (AI) s komunikačnými systémami, čím umožňuje firmám vyvíjať a nasadzovať AI-driven aplikácie. Podporuje rôzne automatizačné úlohy ako textové správy, hlasové hovory, chatboty a procesy strojového učenia. Kombináciou AI s komunikačnými sieťami zlepšuje zákaznícky servis, zjednodušuje pracovné postupy a zlepšuje interakcie s používateľmi v rôznych odvetviach. Ozeki AI Server poskytuje komplexné riešenie pre organizácie, ktoré chcú zvýšiť efektivitu komunikácie pomocou AI technológie.

Ozeki SMS Gateway je univerzálne softvérové riešenie navrhnuté tak, aby umožnilo firmám odosielať a prijímať SMS správy cez viaceré komunikačné kanály. Bezproblémovo sa integruje s aplikáciami, databázami a API, ponúkajúc funkcie ako automatizované správy, obojsmerná komunikácia a hromadné odosielanie SMS. Bežne sa používa na notifikácie, upozornenia, marketing a zákaznícku podporu, čím poskytuje spoľahlivý nástroj na zlepšenie komunikácie prostredníctvom SMS technológie.

1. Otvorte stránku Huggingface
2. Vyberte GGUF modely
3. Hľadajte model
4. Stiahnite súbor modelu
5. Uložte súbor modelu

1. Otvorte Ozeki AI Server
2. Vytvorte nový AI model
3. Vyberte súbor modelu
4. Otvorte Ozeki SMS Gateway
5. Pridajte novú aplikáciu
6. Inštalujte AI chatbot
7. Vyberte AI model
8. Povoľte chatbot

1. Otvorte AI chatbot
2. Nakonfigurujte systémový prompt
3. Odoslajte testovaciu SMS
4. Prijmite AI odpoveď

V tomto videu sa naučíte, ako stiahnuť GGUF model zo stránky Huggingface a kam ho správne umiestniť vo vašom systéme pre použitie s Ozeki AI Server.

Najprv prejdite na stránku Huggingface. Mali by ste vidieť podobnú stránku (Obrázok 1).

Vyberte ponuku Modely v hornej časti okna, potom Knižnice a následne filtrujte pre GGUF súbory (Obrázok 2).

Do vyhľadávacieho poľa zadajte "Meta-Llama-3.1-8B-Instruct-hf-Q4_K_M-GGUF" a vyberte model s názvom "Meta-Llama-3.1-8B-Instruct-hf-Q4_K_M-GGUF". Toto je model, ktorý budeme používať (Obrázok 3).

Kliknite na kartu "Súbory a verzie", vyberte verziu "meta-llama-3.1-8b-instruct-hf-q4_k_m.gguf" a stiahnite ju, môžete stiahnuť pomocou šípky nadol (Obrázok 4).

Umiestnite predtým stiahnutý súbor .gguf do nasledujúcej cesty: C:\AIModels (Obrázok 5).

V tomto video návode sa naučíte, ako nakonfigurovať lokálny AI chatbot v Ozeki SMS Gateway pomocou predtým stiahnutého GGUF modelu. Postupný návod vám ukáže, ako správne integrovať AI model s Ozeki AI Server, aby ste umožnili automatické odpovedanie na prichádzajúce SMS správy.

Krok 6 - Otvorte Ozeki AI Server

Spustite aplikáciu Ozeki 10. Ak ju ešte nemáte, môžete si ju stiahnuť tu. Potom otvorte Ozeki AI Server (Obrázok 6).

Rozhranie Ozeki AI Server je teraz viditeľné na obrazovke. Ak chcete vytvoriť nový GGUF model, začnite kliknutím na "AI Modely" v hornej časti obrazovky. Potom kliknite na modré tlačidlo s nápisom "Vytvoriť nový AI Model". Na pravej strane rozhrania uvidíte rôzne možnosti, vyberte ponuku "GGUF" (Obrázok 7).

Po výbere ponuky "GGUF" vyberte kartu "Všeobecné", vyberte súbor modelu "C:\AIModels\Meta-Llama-3.1-8B-Instruct-Q4_K_M.gguf" a potom kliknite na "OK" (Obrázok 8).

Spustite Ozeki SMS Gateway v Ozeki 10 (Obrázok 9).

Po spustení Ozeki SMS Gateway prejdite na pravý panel pod "Používatelia a aplikácie" a kliknite na "Pridať nového používateľa/aplikáciu..." aby ste vytvorili novú aplikáciu (Obrázok 10).

Z dostupných možností prejdite do sekcie "Chat boty" a vyberte "AI Chat Bot", potom kliknite na "Inštalovať" (Obrázok 11).

Na karte "Všeobecné" zrušte výber "Odoslať uvítaciu správu" a vyberte vhodný model, ktorým je v tomto prípade "GGUF_Model_1". Nakoniec kliknite na "OK" (Obrázok 12).

Ak chcete nadviazať spojenie, prepnite prepínač na zelenú na ľavej strane (Obrázok 13).

V tomto videu vás prevedieme procesom vytvorenia, konfigurácie a pripojenia SMPP klienta pre použitie s AI SMS. Dozviete sa, ako nastaviť pripojenie SMPP klienta krok za krokom, nakonfigurovať požadované nastavenia a úspešne ho integrovať so systémom AI SMS.

Ak chcete vytvoriť nové pripojenie, kliknite na "Pridať nové pripojenie..." na ľavej strane, na karte "Správa" (Obrázok 14).

V sekcii "IP SMS pripojenia (SMS)" nájdite možnosť "SMPP klient" a kliknite na "Inštalovať" aby ste pokračovali (Obrázok 15).

Nakonfigurujte "SMPP klienta" vyplnením nasledujúcich polí na karte "Všeobecné": Hostiteľ, Port, Používateľské meno, Heslo (Obrázok 16).

Na karte "Pokročilé", pod "Úroveň logovania", zaškrtnite všetky štyri možnosti pre logovanie (Obrázok 17).

Ak chcete nadviazať pripojenie, prepnite prepínač "Pripojenie" na zelenú na ľavej strane. Po úspešnom pripojení môžete zobraziť logy na karte "Udalosti" (Obrázok 18).

Krok 19 - Vytvorenie novej prichádzajúcej trasy

Ak chcete nastaviť novú prichádzajúcu trasu, kliknite na tlačidlo "Trasy" umiestnené v hornej časti obrazovky. Potom vyberte "Vytvoriť novú trasu" a nakonfigurujte odosielateľa a príjemcu na pravej strane (Obrázok 19).

Ak chcete vytvoriť novú odchádzajúcu trasu, kliknite znova na "Vytvoriť novú trasu", ale tentoraz prehoďte nastavenia odosielateľa a príjemcu (Obrázok 20).

V tomto videu vás prevedieme procesom konfigurácie systémového výzvy a ukážeme, ako funguje odosielanie a prijímanie SMS v reálnom čase. Dozviete sa, ako nastaviť systémovú výzvu na generovanie odpovedí s umelou inteligenciou a budete môcť pozorovať celý pracovný postup efektívneho odosielania a prijímania SMS správ.

Ak chcete nastaviť chatbot, vyberte AI_Bot_1 na pravej strane a kliknite naň (Obrázok 21).

Ak chcete nakonfigurovať chatbot, prejdite na kartu "Konfigurovať" a vyberte sekciu "AI". Do poľa "Systémová výzva" zadajte požadovanú výzvu, ktorá bude riadiť odpovede chatbotu, a začiarknite políčko "Použiť systémovú výzvu" (Obrázok 22).

Ak ste sa dostali až sem, je čas otestovať systém. Odošlite SMS a môžete sledovať proces zaznamenávania správy v rámci SMPP klienta (Obrázok 23).

Po odoslaní SMS dostanete odpoveď chatbotu na svoj telefón a môžete ju tiež vidieť zaznamenanú v protokole AI_Bot_1 (Obrázok 24).