Egy AI Chatbot-ot tanítottam vállalati dokumentumainkra tizenöt perc alatt

Az "AI tanítása" kifejezés hatalmas adathalmazokat, GPU klasztereket, gépi tanulási szakértelmet és a számítási költségvetést hordozza magában, amelyet csak jól finanszírozott kutatási laboratóriumok engedhetnek meg. Ez a megítélés, bár pontos a nulláról kezdődő alapmodellekhez, rendkívül félrevezető egy olyan chatbot létrehozásában, amely megérti az Ön specifikus üzletét. A különbség azért fontos, mert meggátol több ezer vállalatot abban, hogy olyan beszélgetésekhez szükséges AI megoldásokat valósítsanak meg, amelyek nemcsak elérhetőek számukra, hanem kevesebb idő alatt telepíthetők, mint amennyi az értekezlet napirendjének megírásához szükséges.

Egy chatbot tanítása céges specifikus tudáson nem igényli a nyelvmodell nulláról való tanítását. Csupán egy meglévő nyelvmodellt kell olyan kontextussal ellátni, amely szükséges az Ön üzletével kapcsolatos kérdések pontos megválaszolásához. A modell már tudja, hogyan értsék meg a kérdéseket, hogyan készítsenek koherens válaszokat, és hogyan tartsák fenn a beszélgetés folyamatát. Amit hiányzik, az az Ön specifikus termékeinek, szabályzatainak, eljárásainak és terminológiájának ismerete. Ennek a tudásnak a biztosítása a dokumentumok feltöltéséről szól, nem pedig az ezer GPU-n futó képzési hurkokról. Az eljárás közelebb van egy új alkalmazottnak az orientációs mappát átadásához, mint bármilyen gépi tanulási kutatáshoz.

A ChatBot API az yeb.to-n ezt a folyamatot világosan és egyszerűsítve teszi lehetővé. Töltsd fel tudásdokumentidat. A rendszer feldolgozza őket egy kereshető tudásbázisba. Határozz meg felhasználási eseteket, amelyek leírják, hogy a chatbot-nak mit kell tudnia csinálni. Kezdj beszélgetéseket. A chatbot az feltöltött tudásra támaszkodva válaszol kérdésekre, információt nyújt, és végigvezet az üzletedet specifikus folyamatokon. A első feltöltéstől az első hasznos beszélgetésig tizenöt perc nem marketing optimizmus. Ez az aktuális időintervallum, ha a tudásdokumentumok már organizáltak és a felhasználási esetek világosak.

Mit számít tudásnak és hogyan működik a feltöltés

A tudásfeltöltés a dokumentumformátumok széles körét fogadja el, amely lefedi a módokat, ahogyan a legtöbb vállalat az intézményi tudást tárolta. A termékútmutatók PDF-jei, az irányelveket tartalmazó Word dokumentumok, az GYIK összeállítás szöveges fájljai, a műszaki dokumentációt tartalmazó Markdown fájlok és a wiki rendszerekből származó egyszerű szöveges exportok mind érvényes tudásforrásként szolgálnak. A rendszer feldolgozza ezeket a dokumentumokat, szemantikailag koherens darabokra bontja őket, és olyan módon indexeli őket, amely lehetővé teszi a chatbot számára, hogy lekérje a releváns részleteket kérdések megválaszolásában.

A chatbot válaszainak minősége közvetlenül a feltöltött tudás minőségétől és teljességétől függ. Egy olyan termékútmutató, amely alaposan leírja a funkciókat, felhasználási eseteket, korlátozásokat és hibaelhárítási lépéseket, egy olyan chatbot-ot hoz létre, amely pontos válaszokkal tud részletes termékre vonatkozó kérdésekre válaszolni. Egy olyan ritka dokumentum, amely csak az alapvető funkciókat fedi le, egy olyan chatbot-ot hoz létre, amely az alapvető kérdésekre tud válaszolni, de a specifikusabb kérdésekre halad. Ez nem a technológia korlátozása, hanem annak a alapelvnek a visszatükrözése, hogy a chatbot azt tudja, amit elmond neki, és ha többet mond neki, jobb eredményeket ér el.

A feltöltési folyamat automatikusan kezeli a dokumentumok formázását, eltávolítja az irreleváns elrendezési információkat, miközben megőrzi a megértéshez szükséges szemantikai szerkezetet. A fejlécek szekció határokká válnak. A felsoroláspontok számbavehető elemekké válnak. A táblázatok megőrzik sor-oszlop kapcsolataikat. A cél az információtartalom kivonatása a dokumentumból, miközben eldobja a prezentációs réteget, mert a chatbot-nak meg kell értenie, hogy a dokumentum mit mond, nem azt, hogy milyen betűtípust használ. Ez az automatizált feldolgozás kiküszöböli az manuális dokumentumkészítés szükségességét, ami azt jelenti, hogy a meglévő céges dokumentumok úgy tölthetők fel, ahogy vannak, anélkül, hogy újra formáznák őket.

Több dokumentum feltölthetők egy olyan átfogó tudásbázis felépítéséhez, amely az üzlet különböző aspektusait öleli fel. Egy teljes beállítás tartalmazhat egy termékkatalógust, egy ügyfélszolgálati kézikönyvet, egy technikai GYIK-ot, egy árlista útmutatót és egy vállalati áttekintést. Minden dokumentum a chatbot tudásának egy másik aspektusához járul hozzá, és a rendszer zökkenőmentesen integrálja őket, így egy egyetlen beszélgetés több forrásból származó információkra támaszkodhat. Egy ügyfél, aki egy termékfunkcióról kérdez, majd az árról kérdez, koherens válaszokat kap mindkét kérdésre, még akkor is, ha az információ különböző feltöltött dokumentumokból származik.

Felhasználási esetek és a tanítás abban, amit a chatbot-nak csinálnia kell

A tudásfeltöltés azt jelenti, hogy a chatbot mit tud. A felhasználási esetek meghatározása azt jelenti, hogy az mit csináljon azzal a tudással. A felhasználási eset egy beszélgetési forgatókönyv leírása, amelyre a chatbot-nak fel kell készülnie: termékre vonatkozó kérdések megválaszolása, felhasználók bevezetési folyamatában való útmutatás, értékesítési potenciális ügyfelek minősítése, támogatási kérések kezelése vagy bármilyen egyéb beszélgetési cél, amely igazodik az üzlet igényeihez.

A felhasználási esetek viselkedési útmutatóként szolgálnak, amelyek alakítják azt, hogy a chatbot hogyan alkalmazza tudását. Meghatározott felhasználási esetek nélkül a chatbot a kérdésekre a releváns tudás lekérésével és bemutatásával válaszol. Meghatározott felhasználási esetek mellett a chatbot nemcsak azt érti, hogy milyen információt nyújtson, hanem azt is, hogyan strukturálja a beszélgetést az információ körül. Egy támogatási eset utasíthatja a chatbot-ot, hogy tisztázó kérdéseket tegyen fel, mielőtt megoldásokat nyújtana. Egy értékesítési minősítési eset utasíthatja, hogy gyűjtse össze az információkat az ügyfél igényeiről, mielőtt termékeket ajánlana. Egy általános GYIK eset utasíthatja, hogy adjon közvetlen válaszokat széleskörű bevezetés nélkül.

A felhasználási eset meghatározási folyamata nem igényli programozási vagy prompt engineering szakértelmet. Minden felhasználási eset természetes nyelven van leírva: milyen típusú kérdések vagy kérések lehetnek, milyen információt nyújtson a chatbot, milyen tónust használjon, és milyen intézkedéseket javasol. A rendszer ezeket a leírásokat viselkedési paraméterekkel fordítja le, amelyek irányítják a chatbot válaszait. Egy nem technikai üzleti tulajdonos éppúgy meg tudja határozni a felhasználási eseteket, mint egy fejlesztő, mert a meghatározások ugyanaz a természetes nyelvben fejeződnek ki, amelyet a chatbot maga is használ.

A felhasználási esetek száma és specificitása az chatbot szándékolt hatókörét tükröznie kell. Egy ügyfélszolgálati chatbot-nak tizenöt felhasználási esetre lehet szüksége, amely különböző támogatási kategóriákat fed le. Egy egyszerű GYIK chatbot-nak három vagy négy esetre lehet szüksége. Egy értékesítési minősítési chatbot-nak öt vagy hét esetre lehet szüksége, amely különböző termékvonalakat vagy ügyfélszegmentumokat fed le. Kevesebb, szélesebb körű felhasználási esetek kezdéséből és az aktuális beszélgetési minták alapján részletesebbekké történő finomítása egy olyan praktikus megközelítés, amely gyorsan jó eredményeket hoz létre, és az idő múlásával javul, ahogy a használati adatok feltárják, mely forgatókönyvek igényelnek részletesebb kezelést.

Az első beszélgetés és amit a chatbot ténylegesen tud

Az igazság pillanata akkor érkezik, amikor az első igazi kérdést teszik fel. Nem egy teszt kérdés, amelyre a fejlesztő már ismeri a választ, hanem egy valódi kérdés valakitől, aki hasznos választ vár. Ez az a pont, ahol a tudásbázis minősége és a felhasználási esetek tisztasága vagy megválik vagy hiányosságokat tár fel. Egy jól felkészített chatbot önbizalommal kezeli az első kérdést, pontos választ nyújt, amely a feltöltött tudásból származik, és olyan tónusban van bemutatva, amely összhangban van a meghatározott felhasználási esetekkel. Egy rosszul felkészített chatbot rövid, olyan általános válaszokat nyújt, amelyek bármely vállalatokra alkalmazhatók, vagy olyan összetett választ ad, mint a "kérjük, forduljon az ügyfélszolgálathoz további információért."

Az éles üzem első néhány napja a legértékesebb a chatbot hatékonyságának javításához. A beszélgetések feltárják azokat a kérdéseket, amelyeket a valódi felhasználók ténylegesen felteszik, amely gyakran nagyon eltér az kérdésektől, amelyeket az üzlet várt. Egy termék chatbot több kérdést kaphat az árról és a rendelkezésre állásról, mint a funkcióról, amely azt sugallja, hogy a tudásbázisnak erősebb árdokumentációra van szüksége. Egy támogatási chatbot kérdéseket kaphat olyan módon, amelyet a felhasználási eset meghatározások nem vártak, amely a beszélgetési útmutató finomítására utal.

A valós beszélgetésadatok alapján iterálva a tudásbázison és felhasználási eseteken a kulcs a gyors javítás. Minden olyan beszélgetés, amely nem kielégítő választ hoz létre, egy specifikus hiányosságot azonosít: vagy a tudásbázisnak hiányzik a releváns információ, vagy a felhasználási eset meghatározása nem irányítja a chatbot-ot az elérhető információ helyes alkalmazásához. Ezeknek a hiányosságoknak a kezelése fokozatos munka, egy dokumentum hozzáadása itt, egy felhasználási eset finomítása ott, és mindegyik javulás előnyös az összes jövőbeli beszélgetésre, amely az ugyanahhoz a témához érinti. A chatbot minden finomítási körrel érdemben javul, és a javulás üteme a legszorosabb az első néhány hétben, amikor a legtöbb általános hiányosságot azonosítanak és kitöltik.

A chatbot karbantartóinak tanulási görbéje egyformán gyors. Az első hét végére a chatbot-ot kezelő személy megérti, milyen tudás hozza a legjobb válaszokat, mennyire specifikusnak kell lennie a felhasználási eset meghatározásoknak, és mely beszélgetési minták igényelnek figyelmet. Ez az operatív ismerkedés, amely közvetlen tapasztalatból szerzett, nem dokumentációs olvasásból, az, amely átváltoztatja a chatbot-ot egy beállítás-és-felejtés eszközből egy folyamatosan javuló eszközbe, amely az üzlet számára egyre értékesebb lesz az egyes eltelt hetekkel.

Nincs szükség ML szakértelemre és amit ez ténylegesen jelent

Az a kijelentés, hogy nincs szükség gépi tanulási szakértelemre, megérdemli a kifejtést, mert marketing nyelvnek hangzik, és fontos megmagyarázni, miért igaz ez valóban. A ChatBot API az összes technikailag összetett műveletet belsőleg kezeli: dokumentumok darabolása, vektor beágyazás, szemantikai keresés, kontextusablak kezelése, prompt konstruálása és válaszgenerálás. Ezek azok a műveletek, amelyek ML tudást igényelnek a nulláról való megvalósításhoz. Nem igényelnek ML tudást ahhoz, hogy egy API-n keresztül használják őket, amely egy egyszerű felületre absztrahálja őket.

A chatbot ezen a rendszeren keresztüli beállításához és karbantartásához szükséges készségek teljesen nem technikai: a céges tudás dokumentumokba rendezésének képessége, a beszélgetési forgatókönyvek természetes nyelvben való leírásának képessége, valamint a beszélgetési naplók olvasásának és annak azonosításának képessége, ahol a válaszok rövid voltak. Ezek olyan készségek, amelyeket bármely üzleti vezető, ügyfélszolgálati vezető vagy marketing szakember rendelkezik. A technikai infrastruktúra az API-n keresztül kerül kezelésre, és az üzleti intelligencia az üzletet megértő emberek által kerül kezelésre.

A felelősség ezen megosztása az, ami a tizenöt perces üzembe helyezést realistikussá teszi, nem pedig aspirációsnak. A technikailag nehéz részek már megoldhatók és szolgáltatásként futnak. Az üzletspecifikus részek, amelyeket csak az üzlet nyújthat, egyértelműek a dokumentum feltöltésen és természetes nyelvi felhasználási eset meghatározásokon keresztül. Ezen két bemenet a metszéspontja egy chatbot-ot hoz létre, amely egy nagy nyelvi modell beszélgetésképességeit a vállalat specifikus tudásával és viselkedési útmutatóival kombinálja, anélkül, hogy bárki, aki részt vesz, megértené, hogy a nyelvi modell vagy a tudáskeresés rendszer belsőleg hogyan működik.

Az eredmény egy chatbot, amely tudja az Ön termékeket, az Ön márka tónusában beszél, az Ön által meghatározott forgatókönyveket kezeli, és javul, ahogy jobb tudást és világosabb útmutatást biztosítanak neki. Az egész ML folyamat a jelenetekben fut, láthatatlan az üzleti felhasználó számára, amely pontosan az, ahogyan működnie kell. Az üzletnek nem kell megérteni a transzformátorokat és beágyazásokat, pont úgy, ahogy az autósnak nem kell megértenie a tüzelőanyag-befecskendezést és a sebességváltó mérnöki részleteit. Az autó működik. A cél elérhető. A motor részletei valaki más feladata.