Ik heb een AI-chatbot in vijftien minuten op mijn bedrijfsdocumenten getraind

De uitdrukking "een AI trainen" roept associaties op met enorme datasets, GPU-clusters, expertise op het gebied van machine learning en het soort computerbegrotingen die alleen goed gefinancierde onderzoekslaboratoria zich kunnen veroorloven. Deze perceptie, hoewel nauwkeurig voor het bouwen van basismodellen vanaf nul, is ernstig misleidend als het gaat om het creëren van een chatbot die uw specifieke bedrijf begrijpt. Het onderscheid is belangrijk omdat het duizenden bedrijven ervan weerhoudt conversational AI-oplossingen in te voeren die niet alleen binnen hun bereik liggen, maar in minder tijd kunnen worden geïmplementeerd dan het duurt om een vergaderagenda op te stellen.

Een chatbot trainen op bedrijfsspecifieke kennis vereist niet het trainen van een taalmodel vanaf nul. Het vereist het voorzien van een bestaand taalmodel van de context die het nodig heeft om accurate vragen over uw bedrijf te beantwoorden. Het model weet al hoe het vragen moet begrijpen, samenhangende antwoorden moet formuleren en de gespreksvoering moet handhaven. Wat het mist is kennis van uw specifieke producten, beleidsregels, procedures en terminologie. Deze kennis verstrekken is een kwestie van het uploaden van documenten, niet van het uitvoeren van trainingslusssen op duizenden GPU's. Het proces lijkt meer op het geven van een oriëntatiemapje aan een nieuwe werknemer dan op iets wat op machine learning-onderzoek lijkt.

De ChatBot API op yeb.to maakt dit proces expliciet en gestroomlijnd. Upload uw kennisdocumenten. Het systeem verwerkt deze in een doorzoekbare kennisbank. Definieer gebruiksscenario's die beschrijven wat de chatbot moet kunnen doen. Start gesprekken. De chatbot maakt gebruik van de geüploade kennis om vragen te beantwoorden, informatie te verstrekken en gebruikers door processen te leiden die specifiek voor uw bedrijf zijn. Vijftien minuten van eerste upload tot eerste nuttig gesprek is geen marketingoptimisme. Het is het werkelijke tijdschema wanneer de kennisdocumenten al zijn georganiseerd en de gebruiksscenario's duidelijk zijn.

Wat telt als kennis en hoe het uploaden werkt

De kennisupload accepteert een reeks documentindelingen die de manieren dekken waarop de meeste bedrijven hun institutionele kennis opslaan. PDF's van producthandleidingen, Word-documenten met beleidshandboeken, tekstbestanden met FAQ-samenstelling, Markdown-bestanden met technische documentatie en gewone tekstexportaties uit wiki-systemen dienen allemaal als geldige kennisbronnen. Het systeem verwerkt deze documenten, deelt ze op in semantisch samenhangende chunks en indexeert ze op een manier die de chatbot in staat stelt relevante passages op te halen bij het beantwoorden van vragen.

De kwaliteit van de reacties van de chatbot hangt rechtstreeks af van de kwaliteit en volledigheid van de geüploade kennis. Een producthandleiding die functies, gebruiksscenario's, beperkingen en stappen voor probleemoplossing grondig beschrijft, produceert een chatbot die productgerelateerde vragen met nauwkeurigheid kan beantwoorden. Een spaarzaam document dat alleen basisfuncties behandelt, produceert een chatbot die basale vragen kan beantwoorden maar zich onthouden bij specifiekere zaken. Dit is niet een beperking van de technologie, maar een weerspiegeling van het fundamentele principe dat de chatbot weet wat het is verteld, en het meer vertellen produceert betere resultaten.

Het uploadproces handelt documentopmaak automatisch af, waarbij irrelevante lay-outinformatie wordt verwijderd terwijl de semantische structuur die voor begrip belangrijk is behouden blijft. Koppen worden sectiegrenzen. Opsommingstekens worden opsommingselementen. Tabellen behouden hun rij-kolom-relaties. Het doel is de informatie-inhoud uit het document te extraheren terwijl de presentatielaag wordt weggegooid, omdat de chatbot moet begrijpen wat het document zegt, niet welk lettertype het gebruikt. Deze geautomatiseerde verwerking elimineert de behoefte aan handmatige documentvoorbereiding, wat betekent dat bestaande bedrijfsdocumenten zonder herindeling kunnen worden geüpload.

Meerdere documenten kunnen worden geüpload om een uitgebreide kennisbank op te bouwen die verschillende aspecten van het bedrijf omvat. Een volledige instellingen zou een productcatalogus, een klantenservicehandboek, een technische FAQ, een prijsgids en een bedrijfsoverzichtsdocument kunnen omvatten. Elk document draagt bij aan een ander aspect van de kennis van de chatbot, en het systeem integreert ze naadloos zodat een enkel gesprek informatie uit meerdere bronnen kan gebruiken. Een klant die een vraag over een productfunctie stelt en vervolgens een vraag over prijsstelling stelt, ontvangt samenhangende antwoorden op beide vragen, ook al komt de informatie uit verschillende geüploade documenten.

Gebruiksscenario's en de chatbot leren wat het moet doen

Het uploaden van kennis vertelt de chatbot wat het weet. Het definiëren van gebruiksscenario's vertelt het wat het met die kennis moet doen. Een gebruiksscenario is een beschrijving van een gespreksscenario dat de chatbot moet kunnen hanteren: antwoorden op productvragen, gebruikers door een installatieproces leiden, verkoopkandidaten kwalificeren, ondersteuningsvragen afhandelen of een ander gespreksoel dat aansluit bij de behoeften van het bedrijf.

Gebruiksscenario's dienen als gedragsrichtlijnen die vorm geven aan hoe de chatbot zijn kennis toepast. Zonder gedefinieerde gebruiksscenario's reageert de chatbot op vragen door relevante kennis op te halen en te presenteren. Met gedefinieerde gebruiksscenario's begrijpt de chatbot niet alleen welke informatie moet worden verstrekt, maar ook hoe het gesprek rond die informatie moet worden opgebouwd. Een ondersteuningsscenario zou de chatbot kunnen instrueren verduidelijkende vragen te stellen voordat u oplossingen verstrekt. Een verkoopaanqualificatiescenario zou het kunnen instrueren informatie over de behoeften van het prospect te verzamelen voordat u producten aanbeveelt. Een algemeen FAQ-scenario zou het direct antwoorden kunnen bieden zonder veel preambule.

Het definitieproces voor gebruiksscenario's vereist geen programmeer- of prompt-engineeringexpertise. Elk gebruiksscenario wordt in natuurlijke taal beschreven: welk soort vragen of verzoeken de gebruiker mogelijk stelt, welke informatie de chatbot moet verstrekken, welke toon het moet gebruiken en welke acties het moet voorstellen. Het systeem zet deze beschrijvingen om in gedragsparameters die de reacties van de chatbot begeleiden. Een niet-technische bedrijfseigenaar kan gebruiksscenario's net zo effectief definiëren als een ontwikkelaar, omdat de definities in dezelfde natuurlijke taal worden uitgedrukt die de chatbot zelf gebruikt.

Het aantal en de specificiteit van gebruiksscenario's moeten de beoogde reikwijdte van de chatbot weerspiegelen. Een klantenondersteuningschatbot kan tien tot vijftien gebruiksscenario's nodig hebben die verschillende ondersteuningscategorieën dekken. Een eenvoudige FAQ-chatbot kan er drie of vier nodig hebben. Een verkoopaanqualificatiechatbot kan vijf tot zeven gebruiksscenario's nodig hebben die verschillende productlijnen of klantsegmenten dekken. Starten met minder, bredere gebruiksscenario's en verfijnen naar specifiekere scenario's op basis van werkelijke gesprekspatronen is een praktische benadering die snel goede resultaten oplevert en in de loop der tijd verbeteringen doorvoert naarmate gebruiksgegevens onthullen welke scenario's meer gedetailleerde afhandeling nodig hebben.

Het eerste gesprek en wat de chatbot werkelijk weet

Het moment van waarheid arriveert wanneer de eerste echte vraag wordt gesteld. Niet een testvraag waarvan de ontwikkelaar al het antwoord kent, maar een echte vraag van iemand die een nuttig antwoord verwacht. Dit is waar de kwaliteit van de kennisbank en de duidelijkheid van de gebruiksscenario's hun vruchten afwerpen of hiaten blootleggen. Een goed voorbereide chatbot beantwoordt de eerste vraag zelfverzekerd, verstrekt een exact antwoord op basis van de geüploade kennis en gepresenteerd in een toon die consistent is met de gedefinieerde gebruiksscenario's. Een slecht voorbereide chatbot struikelt, verstrekt generieke antwoorden die op elk bedrijf van toepassing kunnen zijn of leidt af met variaties op "neem contact op met ondersteuning voor meer informatie".

De eerste paar dagen van live-werking zijn het waardevollst voor het verbeteren van de effectiviteit van de chatbot. Gesprekken onthullen de vragen die echte gebruikers werkelijk stellen, die vaak aanzienlijk afwijken van de vragen die het bedrijf verwachtte. Een productchatbot kan meer vragen over prijzen en beschikbaarheid ontvangen dan over functies, wat suggereert dat de kennisbank sterker prijsdocumentatie nodig heeft. Een ondersteuningschatbot kan vragen ontvangen die op manieren zijn geformuleerd die de gebruiksscenariodefinities niet hadden voorzien, wat verfijningen van de conversatierichtlijnen suggereert.

Itereren op de kennisbank en gebruiksscenario's op basis van echte gespreksgegevens is de sleutel tot snelle verbetering. Elk gesprek dat een onvoldoende antwoord produceert, identificeert een specifiek gat: ofwel de kennisbank mist de relevante informatie, of de gebruiksscenariodefinitie begeleidt de chatbot niet om beschikbare informatie correct toe te passen. Deze gaten verhelpen is incrementeel werk: een document hier toevoegen, een gebruiksscenario daar verfijnen, en elke verbetering komt alle toekomstige gesprekken ten goede die hetzelfde onderwerp raken. De chatbot wordt met elke verfijningsronde betekenisvol beter, en het tempo van verbetering is het snelst in de eerste paar weken wanneer de meest voorkomende gaten worden geïdentificeerd en ingevuld.

De leercurve voor de onderhoudspersoneel van de chatbot is even snel. Aan het einde van de eerste week begrijpt degene die de chatbot beheert welk soort kennis de beste reacties produceert, hoe specifiek gebruiksscenariodefinities moeten zijn en welke gesprekspatronen aandacht vereisen. Deze operationele vertrouwdheid, opgedaan door directe ervaring in plaats van documentatielezen, is wat de chatbot transformeert van een opstel-en-vergeten-tool in een voortdurend verbeterd actief dat met elke verstrijkende week waardevoller voor het bedrijf wordt.

Geen ML-expertise vereist en wat dat werkelijk betekent

De claim dat geen machine learning-expertise is vereist, verdient enige uitleg omdat het klinkt als marketingtaal en het is belangrijk uit te leggen waarom het werkelijk waar is. De ChatBot API handelt alle technisch complexe bewerkingen intern af: documentchunking, vector-inbedding, semantische zoekopdracht, contextvenster-management, prompt-constructie en antwoordgeneratie. Dit zijn de bewerkingen die ML-kennis vereisen om van nul af aan te implementeren. Ze vereisen geen ML-kennis om via een API te gebruiken die ze achter een eenvoudige interface verbergt.

De vaardigheden die nodig zijn om een chatbot in te stellen en te onderhouden via dit systeem zijn volledig niet-technisch: de mogelijkheid om bedrijfskennis in documenten te organiseren, de mogelijkheid om gespreksscenario's in natuurlijke taal te beschrijven en de mogelijkheid om gesprekslogboeken te lezen en te identificeren waar reacties tekort schoten. Dit zijn vaardigheden die elke bedrijfsmanager, klantenondersteuningsleider of marketingprofessional bezit. De technische infrastructuur wordt verwerkt door de API, en de bedrijfsintelligentie wordt verwerkt door de mensen die het bedrijf begrijpen.

Deze verantwoordelijkheidsverdeling is wat vijftien minuten implementatie realistisch in plaats van ambitieus maakt. De technisch moeilijke onderdelen zijn al opgelost en draaien als service. De bedrijfsspecifieke delen, die alleen het bedrijf kan verstrekken, zijn eenvoudig te leveren door documentupload en natuurlijke taal gebruiksscenariodefinities. Het snijpunt van deze twee ingangen produceert een chatbot die de conversationele mogelijkheden van een groot taalmodel combineert met de specifieke kennis en gedragsrichtlijnen van het bedrijf, zonder dat iemand die betrokken is, moet begrijpen hoe het taalmodel of het kennisophaalsysteem intern werkt.

Het resultaat is een chatbot die uw producten kent, in de toon van uw merk spreekt, de scenario's die u definieert afhandelt en verbeteringen doorvoert naarmate u het betere kennis en duidelijkere richtlijnen voert. De volledige ML-pijplijn draait achter de schermen, onzichtbaar voor de zakelijke gebruiker, wat precies is hoe het zou moeten werken. Het bedrijf hoeft transformers en inbeddingen niet te begrijpen net zoals een bestuurder niet hoeft te begrijpen hoe brandstofinjectie en versnellingsbak werken. Het voertuig werkt. De bestemming is bereikt. De engineerdetails zijn iemand anders verantwoordelijkheid.