Som trénoval AI chatbota na dokumentoch mojej spoločnosti za pätnásť minút

Fráza "trénovanie AI" si vyžaduje predstavy o obrovských dátových súboroch, GPU klastroch, odbornosti na strojové učenie a výpočtovom rozpočte, ktorý si môžu dovoliť iba dobre financované výskumné laboratóriá. Táto predstava je presná pri vytváraní základných modelov od nuly, ale je úplne zavádzajúca, pokiaľ ide o vytvorenie chatbota, ktorý rozumie vašemu konkrétnemu biznisu. Rozlíšenie je dôležité, pretože zabraňuje tisíckam spoločností v implementácii riešení konverzačnej AI, ktoré sú nielen dosahu, ale môžu byť nasadené za čas kratší, ako trvá napísanie programu na stretnutie.

Trénovanie chatbota na znalostiach špecifických pre spoločnosť nevyžaduje trénovanie jazykového modelu od nuly. Vyžaduje poskytnutie existujúceho jazykového modelu s kontextom, ktorý potrebuje na presné odpovedanie otázok týkajúcich sa vášho biznisu. Model už vie, ako pochopiť otázky, vytvoriť koherentné odpovede a udržiavať tok rozhovoru. To, čo mu chýba, je poznanie vašich špecifických produktov, politík, procedúr a terminológie. Poskytovanie tejto znalosti je záležitosťou nahratia dokumentov, nie spúšťania tréningových slučiek na tisícoch GPU. Proces je bližšie k orientácii nového zamestnanca pomocou zväzku s informáciami ako k čomukoľvek, čo by sa podobalo výskumu strojového učenia.

API ChatBot na yeb.to robí tento proces explicitný a zjednodušený. Nahraj svoje dokumenty so znalostami. Systém ich spracuje do prehľadnej znalostnej základne. Definuj prípady použitia, ktoré popisujú, čo by mal byť chatbot schopný robiť. Začni rozhovory. Chatbot čerpá zo nahraných znalostí, aby odpovedal otázkam, poskytoval informácie a viedol používateľov cez procesy, ktoré sú špecifické pre váš biznis. Pätnásť minút od prvého nahratia po prvý užitočný rozhovor nie je marketingový optimizmus. Je to skutočná časová os, keď sú dokumenty so znalostami už zorganizované a prípady použitia sú jasné.

Čo sa počíta za znalosti a ako funguje nahrávanie

Nahrávanie znalostí akceptuje rad formátov dokumentov, ktoré pokrývajú spôsoby, akými väčšina spoločností uchováva svoje inštitucionálne vedomosti. PDF produktových manuálov, dokumenty Word obsahujúce príručky politiky, textové súbory s kompilácií FAQ, súbory Markdown s technickou dokumentáciou a vývozy v čistom texte z wiki systémov slúžia ako platné zdroje znalostí. Systém prijíma tieto dokumenty, rozdeľuje ich na sémanticko koherentné časti a indexuje ich tak, že chatbot môže vyhľadať relevantné pasáže pri odpovedaní otázok.

Kvalita odpovedí chatbota priamo závisí od kvality a úplnosti nahraných znalostí. Produktový manuál, ktorý dôkladne opisuje vlastnosti, prípady použitia, obmedzenia a kroky na riešenie problémov, vytvárajú chatbota, ktorý môže odpovedať detailným otázkam produktu s presnosťou. Skúpy dokument, ktorý pokrýva iba základné vlastnosti, vytvárajú chatbota, ktorý môže odpovedať základným otázkam, ale odráža všetko špecifickejšie. Toto nie je obmedzenie technológie, ale odraz základného princípu, že chatbot pozná to, čo mu bolo povedané, a rozpovedanie mu viac vytvárajú lepšie výsledky.

Proces nahrávania spracováva formátovanie dokumentov automaticky, odstraňuje irelevantné informácie o rozvrhnutí pri zachovaní sémanticko štruktúry, ktorá je dôležitá pre porozumenie. Záhlavie sa stávajú hranicami sekcií. Body sa stávajú enumerovateľnými položkami. Tabuľky si udržiavajú vzťahy riadok-stĺpec. Cieľom je extrahovať obsah informácií z dokumentu, pričom sa odstraňuje vrstva prezentácie, pretože chatbot potrebuje pochopiť, čo dokument hovorí, nie aké pismo používa. Toto automatizované spracovanie eliminuje potrebu ručnej prípravy dokumentov, čo znamená, že existujúce dokumenty spoločnosti je možné nahrať tak, ako sú bez reformátovania.

Viaceré dokumenty je možné nahrať, aby sa vytvára komplexná znalostná báza, ktorá sa rozprestiera na rôzne aspekty biznisu. Kompletné nastavenie by mohlo zahrňovať katalóg produktov, príručku zákazníckych služieb, technické FAQ, sprievodcu ceníkom a dokument s prehľadom spoločnosti. Každý dokument prispieva k inému aspektu vedomostí chatbota a systém ich bezproblémovo integruje tak, aby jeden rozhovor mohol čerpať informácie z viacerých zdrojov. Zákazník, ktorý sa pýta na vlastnosť produktu a potom sa pýta na cenu, dostáva koherentné odpovede na obe otázky, aj keď informácie pochádzajú z rôznych nahraných dokumentov.

Prípady použitia a učenie chatbota, čo by mal robiť

Nahrávanie znalostí hovorí chatbotovi, čo pozná. Definovanie prípadov použitia hovorí, čo by mal robiť s tými vedomosťami. Prípad použitia je opisom konverzačného scenára, na ktorý by mal byť chatbot pripravený: odpovedať na otázky produktu, viesť používateľov cez proces nastavenia, kvalifikovať predajné vedenia, spracovať požiadavky na podporu alebo akýkoľvek iný konverzačný cieľ, ktorý sa zhoduje s potrebami biznisu.

Prípady použitia slúžia ako pokyny pre správanie, ktoré utvárajú spôsob, akým chatbot uplatňuje svoje znalosti. Bez definovaných prípadov použitia chatbot reaguje na otázky vyhľadávaním relevantných znalostí a ich prezentáciou. S definovanými prípadmi použitia chatbot rozumie nielen tomu, aké informácie poskytnúť, ale aj ako štruktúrovať rozhovor okolo týchto informácií. Prípad podpory by mohol poučovať chatbota, aby si pred poskytovaním riešení kladal ujasňujúce otázky. Prípad kvalifikácie predaja by ho mohol poučovať, aby zbieral informácie o potrebách potenciálneho zákazníka pred odporúčaním produktov. Prípad všeobecného FAQ by ho mohol poučovať, aby poskytoval priame odpovede bez rozsiahlych preámbulov.

Proces definovania prípadov použitia nevyžaduje programovanie alebo odbornosť v inžinierskom spracovaní výziev. Každý prípad použitia je opisovaný v prirodzenom jazyku: aký typ otázok alebo požiadaviek by mohol mať používateľ, aké informácie by mal chatbot poskytnúť, aký by mal byť tón a aké akcie by mal navrhúť. Systém tieto popisy prekladá na parametre správania, ktoré vedú odpovede chatbota. Netechnik majúci vlastníka biznisu môže definovať prípady použitia rovnako efektívne ako vývojár, pretože definície sú vyjadrené v prirodzenom jazyku, ktorý samotný chatbot používa.

Počet a špecifickosť prípadov použitia by mal odrážať zamýšľaný rozsah chatbota. Chatbot zákazníckej podpory by mohol potrebovať desať až pätnásť prípadov použitia pokrývajúcich rôzne kategórie podpory. Jednoduchý chatbot FAQ by mohol potrebovať tri alebo štyri. Chatbot kvalifikácie predaja by mohol potrebovať päť až sedem prípadov použitia pokrývajúcich rôzne produktové rady alebo segmenty zákazníkov. Začatie s menším počtom, širšími prípadmi použitia a zdokonaľovanie na základe skutočných modelov konverzácie je praktický prístup, ktorý rýchlo produkuje dobré výsledky a zlepšuje sa v priebehu času, keď údaje o použití odhalia, ktoré scenáre potrebujú podrobnejšie spracovanie.

Prvý rozhovor a čo chatbot naozaj pozná

Moment pravdy prichádza, keď je položená prvá skutočná otázka. Nie testovacia otázka, na ktorú vývojár už pozná odpoveď, ale skutočná otázka od niekoho, kto očakáva užitočnú odpoveď. Tu je čas, keď kvalita znalostnej základne a jasnosť prípadov použitia buď zaplatia, alebo odhalí medzery. Dobre pripravený chatbot spracuje prvú otázku s istotou, poskytnúť presného odpovedajúceho vyslúchnutého z nahraných znalostí a prezentovaného v tóne v súlade s definovanými prípadmi použitia. Zle pripravený chatbot klopúť, poskytujúc generické odpovede, ktoré by sa mohli vzťahovať na akúkoľvek spoločnosť alebo odkloniť variacií "prosím, kontaktujte podporu pre viac informácií."

Prvých niekoľko dní prevádzky sú najcennejšie na zlepšenie účinnosti chatbota. Rozhovory odhalia otázky, ktoré si skutočné používatelia skutočne kladú, čo sa často značne líši od otázok, ktoré podnik očakával. Chatbot produktu by mohol dostať viac otázok o cene a dostupnosti ako o vlastnostiach, čo naznačuje, že znalostná báza potrebuje silnejšiu dokumentáciu cien. Chatbot podpory by mohol dostať otázky sformulované spôsobmi, ktoré definície prípadov použitia neanticipovali, čo naznačuje zdokonalenie konverzačných pokynov.

Iterácia na znalostnej základni a prípadoch použitia na základe skutočných údajov o rozhovore je kľúčom k rýchlému zlepšeniu. Každý rozhovor, ktorý produkuje neuspokojivú odpoveď, identifikuje konkrétnu medzeru: buď znalostná báza chýba relevantným informáciám, alebo definícia prípadu použitia nevedenie chatbota na správne použitie dostupných informácií. Riešenie týchto medzier je prírastkové práce, pridávame dokument tu, zdokonaľujeme prípad použitia tam, a každé zlepšenie prospievajú všetkým budúcim rozhovorom, ktoré sa dotýkajú tej istej témy. Chatbot sa zmysluplne zlepšuje s každým kolom zdokonalenia a tempo zlepšenia je najrýchlejšie v prvých niekoľko týždňov, keď sa identifikujú a vypĺňajú najčastejšie medzery.

Krivka učenia pre správcov chatbota je rovnako rýchla. Do konca prvého týždňa osoba, ktorá spravuje chatbota, rozumie, aký druh znalostí produkuje najlepšie odpovede, ako špecifické definície prípadov použitia musia byť a ktoré konverzačné vzory potrebujú pozornosť. Táto pracovná znalosť, získaná priamou skúsenosťou než čítaním dokumentácie, je to, čo transformuje chatbota z nástroja nastavenia a zabudnutia na nepretržite sa zlepšujúci majetok, ktorý sa s každým týždňom stáva cennejší pre biznis.

Nie je potrebná žiadna odbornosť ML a čo to skutočne znamená

Tvrdenie, že nie je potrebná žiadna odbornosť na strojové učenie, si zaslúži rozbalenie, pretože to znie ako marketingový jazyk a je dôležité vysvetliť, prečo je to skutočne pravda. ChatBot API spracováva všetky technicky zložité operácie interné: delenie dokumentu, vektorové vloženie, sémantické vyhľadávanie, správu okna kontextu, konštrukciu výzvy a generovanie odpovede. Toto sú operácie, ktoré vyžadujú znalosti ML na implementáciu od nuly. Nevyžadujú vedomosti ML na používanie prostredníctvom API, ktoré ich abstrahuje za jednoduchý rozhranie.

Zručnosti potrebné na nastavenie a údržbu chatbota prostredníctvom tohto systému sú úplne netechnické: schopnosť zorganizovať znalosti spoločnosti do dokumentov, schopnosť opisovať konverzačné scenáre v prirodzenom jazyku a schopnosť čítať denníky rozhovorov a identifikovať, kde odpovede nezlyhali. Toto sú zručnosti, ktoré má každý obchodný manažér, vedúci zákazníckej podpory alebo odborník na marketing. Technická infraštruktúra sa spravuje prostredníctvom API a obchodná inteligencia sa spravuje ľuďmi, ktorí rozumejú biznisu.

Toto rozdelenie zodpovedností je to, čo robí pätnásť minút nasadzovacieho času reálnym namiesto aspiračného. Technicky ťažké časti sú už vyriešené a pracujú ako služba. Časti špecifické pre podnik, ktoré môže poskytnúť iba podnik, sú jednoduché na dodanie prostredníctvom nahravania dokumentov a definícií prípadov používania v prirodzenom jazyku. Priesečník týchto dvoch vstupov vytvára chatbota, ktorý kombinuje konverzačné schopnosti veľkého jazykového modelu so špecifickými znalostami a pokynmi na správanie biznisu bez toho, aby ktokoľvek museli pochopiť, ako interný jazykový model alebo systém vyhľadávania znalostí funguje.

Výsledkom je chatbot, ktorý pozná vaše produkty, hovorí tónom vašej značky, spracováva scenáre, ktoré definujete, a zlepšuje sa, keď mu poskytnete lepšie znalosti a jasnejšie pokyny. Celý pipeline ML beží za zákulisím, neviditeľný pre obchodného používateľa, čo je presne tak, ako by to malo fungovať. Podnik nemusí pochopiť transformátory a vloženia viac ako vodič musí pochopiť inžinierstvo vstreku paliva a prenosu. Vozidlo pracuje. Dosiahne sa cieľ. Detaily motora sú starosť niekoho iného.

Často kladené otázky