Wytrenowałem chatbota AI na dokumentach mojej firmy w piętnaście minut

Fraza "trenowanie sztucznej inteligencji" nosi ze sobą skojarzenia z ogromnym zestawem danych, klastrami GPU, ekspertyzą w dziedzinie uczenia maszynowego oraz budżetem obliczeniowym, na który stać mogą tylko dobrze finansowane laboratoria badawcze. To postrzeganie, choć dokładne dla tworzenia modeli fundamentalnych od podstaw, jest bardzo mylące, jeśli chodzi o tworzenie chatbota, który rozumie Twoją konkretną działalność. Różnica jest istotna, ponieważ powstrzymuje tysiące firm przed wdrażaniem rozwiązań do komunikacji konwersacyjnej, które nie tylko są w ich zasięgu, ale mogą być wdrożone w mniej czasu niż zajmuje napisanie agendy spotkania.

Trenowanie chatbota na wiedzy specyficznej dla firmy nie wymaga trenowania modelu języka od zera. Wymaga dostarczenia istniejącemu modelowi języka kontekstu, którego potrzebuje, aby dokładnie odpowiadać na pytania dotyczące Twojej działalności. Model już wie, jak rozumieć pytania, konstruować spójne odpowiedzi i utrzymywać przepływ rozmowy. To, czego mu brakuje, to wiedza o Twoich konkretnych produktach, zasadach, procedurach i terminologii. Dostarczenie tej wiedzy to kwestia załadowania dokumentów, a nie uruchamiania pętli treningowych na tysiącach GPU. Ten proces jest bardziej podobny do udzielenia nowemu pracownikowi przewodnika orientacyjnego niż do czegokolwiek zbliżonego do badań nad uczeniem maszynowym.

Interfejs ChatBot API na yeb.to czyni ten proces jawnym i usprawniony. Załaduj dokumenty wiedzy. System przetwarza je na przeszukiwaną bazę wiedzy. Zdefiniuj przypadki użycia, które opisują, co chatbot powinien być w stanie robić. Rozpocznij rozmowy. Chatbot czerpie z załadowanej wiedzy, aby odpowiadać na pytania, dostarczać informacje i prowadzić użytkowników przez procesy specyficzne dla Twojej działalności. Piętnaście minut od pierwszego załadowania do pierwszej pożytecznej rozmowy to nie marketingowy optymizm. To rzeczywisty harmonogram, gdy dokumenty wiedzy są już zorganizowane, a przypadki użycia są jasne.

Co liczy się jako wiedza i jak działa załadowanie

Załadowanie wiedzy akceptuje zakres formatów dokumentów, które obejmują sposoby, w jakie większość firm przechowuje swoją wiedzę instytucjonalną. Pliki PDF instrukcji produktów, dokumenty Word zawierające podręczniki zasad, pliki tekstowe z kompilacjami FAQ, pliki Markdown z dokumentacją techniczną i zwykłe eksporty tekstowe z systemów wiki służą jako ważne źródła wiedzy. System absorpcji te dokumenty, dzieli je na semantycznie spójne fragmenty i indeksuje je w taki sposób, że chatbot może pobierać odpowiednie fragmenty podczas odpowiadania na pytania.

Jakość odpowiedzi chatbota zależy bezpośrednio od jakości i kompletności załadowanej wiedzy. Podręcznik produktu, który dokładnie opisuje funkcje, przypadki użycia, ograniczenia i kroki rozwiązywania problemów, tworzy chatbota, który może odpowiadać na szczegółowe pytania dotyczące produktów z dokładnością. Rzadki dokument, który obejmuje tylko podstawowe funkcje, tworzy chatbota, który może odpowiadać na podstawowe pytania, ale odkłada wszystko bardziej szczegółowe. To nie jest ograniczenie technologii, ale odzwierciedlenie fundamentalnej zasady, że chatbot wie, co mu powiedziano, a powiedzenie mu więcej daje lepsze wyniki.

Proces załadowania obsługuje automatycznie formatowanie dokumentu, usuwając nieistotne informacje o układzie, zachowując strukturę semantyczną, która ma znaczenie dla zrozumienia. Nagłówki stają się granicami sekcji. Punkty listy stają się elementami wyliczalnymi. Tabele zachowują swoje relacje wierszy do kolumn. Celem jest wyodrębnienie zawartości informacyjnej z dokumentu przy jednoczesnym odrzuceniu warstwy prezentacji, ponieważ chatbot musi zrozumieć, co dokument mówi, a nie jaką czcionkę używa. To zautomatyzowane przetwarzanie eliminuje potrzebę ręcznego przygotowania dokumentu, co oznacza, że istniejące dokumenty firmy mogą być załadowane bez zmian.

Wiele dokumentów można załadować, aby zbudować kompleksową bazę wiedzy obejmującą różne aspekty działalności. Kompletna konfiguracja może zawierać katalog produktów, podręcznik obsługi klienta, techniczne FAQ, przewodnik cenowy i dokument przeglądu firmy. Każdy dokument przyczynia się do innego aspektu wiedzy chatbota, a system integruje je bezprzerwnie, tak że pojedyncza rozmowa może czerpać informacje z wielu źródeł. Klient pytający o funkcję produktu, a następnie pytający o cenę, otrzymuje spójne odpowiedzi na oba pytania, nawet jeśli informacje pochodzą z różnych załadowanych dokumentów.

Przypadki użycia i nauczanie chatbota, co powinien robić

Załadowanie wiedzy mówi chatbotowi, co wie. Zdefiniowanie przypadków użycia mówi mu, co powinien z tą wiedzą robić. Przypadek użycia to opis scenariusza rozmowy, do którego chatbot powinien być przygotowany: odpowiadanie na pytania dotyczące produktów, prowadzenie użytkowników przez proces konfiguracji, kwalifikowanie potencjalnych klientów, obsługa zapytań pomocy technicznej lub jakikolwiek inny cel rozmowy, który jest zgodny z potrzebami biznesu.

Przypadki użycia służą jako wytyczne dotyczące zachowania, które kształtują sposób, w jaki chatbot stosuje swoją wiedzę. Bez zdefiniowanych przypadków użycia chatbot odpowiada na pytania, pobierając odpowiednią wiedzę i ją prezentując. Ze zdefiniowanymi przypadkami użycia chatbot rozumie nie tylko, jakie informacje dostarczać, ale jak strukturyzować rozmowę wokół tych informacji. Przypadek obsługi może instruować chatbota, aby zadawał pytania wyjaśniające przed podaniem rozwiązań. Przypadek kwalifikacji sprzedaży może instruować go, aby zbierał informacje o potrzebach potencjalnego klienta przed zarekomendowaniem produktów. Przypadek ogólnego FAQ może instruować go, aby podawał bezpośrednie odpowiedzi bez rozbudowanego wstępu.

Proces definicji przypadku użycia nie wymaga umiejętności programowania lub tworzenia podpowiedzi. Każdy przypadek użycia jest opisany w naturalnym języku: jakie pytania lub żądania użytkownik może mieć, jakie informacje chatbot powinien dostarczać, jaki ton powinien używać i jakie działania powinien sugerować. System tłumaczy te opisy na parametry behawioralne, które kierują odpowiedziami chatbota. Nietechniczny właściciel firmy może zdefiniować przypadki użycia równie efektywnie jak programista, ponieważ definicje są wyrażone w tym samym naturalnym języku, którego używa sam chatbot.

Liczba i specyfika przypadków użycia powinny odzwierciedlać zamierzone zastosowanie chatbota. Chatbot obsługi klienta może wymagać dziesięciu do piętnastu przypadków użycia obejmujących różne kategorie wsparcia. Prosty chatbot FAQ może wymagać trzech lub czterech. Chatbot kwalifikacji sprzedaży może wymagać pięciu do siedmiu przypadków użycia obejmujących różne linie produktów lub segmenty klientów. Rozpoczęcie z mniejszą liczbą, szerszych przypadków użycia i dostosowanie do bardziej konkretnych na podstawie rzeczywistych wzorców rozmów to praktyczne podejście, które szybko daje dobre wyniki i ulepsza się z czasem, gdy dane dotyczące użytkowania ujawniają, które scenariusze wymagają bardziej szczegółowej obsługi.

Pierwsza rozmowa i to, co chatbot rzeczywiście wie

Moment prawdy przychodzi, gdy pierwsze naprawdę pytanie jest zadane. Nie pytanie testowe, na które programista już zna odpowiedź, ale autentyczne pytanie od kogoś, kto oczekuje pożytecznej odpowiedzi. To jest miejsce, gdzie jakość bazy wiedzy i przejrzystość przypadków użycia albo spłacają się, albo ujawniają luki. Dobrze przygotowany chatbot obsługuje pierwsze pytanie pewnie, podając dokładną odpowiedź wyciągniętą z załadowanej wiedzy i przedstawioną tonem zgodnym z zdefiniowanymi przypadkami użycia. Źle przygotowany chatbot chwieje się, podając ogólne odpowiedzi, które mogą dotyczyć dowolnej firmy, lub odkładając z wariacjami "proszę skontaktować się z pomocą techniczną, aby uzyskać więcej informacji".

Pierwsze kilka dni operacji na żywo to najcenniejsze dla poprawy efektywności chatbota. Rozmowy ujawniają pytania, które użytkownicy rzeczywiście zadają, które często znacznie różnią się od pytań, które biznes oczekiwał, że będą zadawane. Chatbot produktu może otrzymywać więcej pytań o cenę i dostępność niż o funkcje, sugerując, że baza wiedzy potrzebuje silniejszej dokumentacji cenowej. Chatbot obsługi może otrzymywać pytania sformułowane w taki sposób, którego definicje przypadków użycia nie przewidywały, sugerując udoskonalenia wytycznych konwersacyjnych.

Iteracja bazy wiedzy i przypadków użycia na podstawie rzeczywistych danych rozmów to klucz do szybkiego doskonalenia. Każda rozmowa, która daje niezadowalającą odpowiedź, identyfikuje konkretną lukę: albo baza wiedzy pozbawiona jest odpowiedniej informacji, albo definicja przypadku użycia nie kieruje chatbotem do prawidłowego zastosowania dostępnych informacji. Rozwiązanie tych luk to praca przyrostowa, dodanie dokumentu tutaj, udoskonalenie przypadku użycia tam, i każde ulepszenie korzysta wszystkim przyszłym rozmowom, które dotykają tego samego tematu. Chatbot staje się znacznie lepszy z każdą rundą ulepszenia, a tempo ulepszeń jest najszybsze w pierwszych kilku tygodniach, gdy najbardziej typowe luki są identyfikowane i wypełniane.

Krzywa uczenia dla osób obsługujących chatbota jest równie gwałtowna. Na koniec pierwszego tygodnia osoba zarządzająca chatbotem rozumie, jaki rodzaj wiedzy daje najlepsze odpowiedzi, jak konkretne definicje przypadków użycia muszą być i które wzorce rozmów wymagają uwagi. Ta znajomość operacyjna, zdobyta poprzez bezpośrednie doświadczenie, a nie czytanie dokumentacji, to to, co przekształca chatbota z narzędzia konfiguracji i zapomnienia w ciągle ulepszający się zasób, który staje się bardziej wartościowy dla biznesu z każdym mijającym tygodniem.

Nie wymagana jest wiedza z zakresu ML i co to naprawdę oznacza

Twierdzenie, że wiedza z zakresu uczenia maszynowego nie jest wymagana, zasługuje na rozpakowanie, ponieważ brzmi jak język marketingowy i ważne jest wyjaśnienie, dlaczego jest to naprawdę prawda. Interfejs ChatBot API obsługuje wszystkie technicznie złożone operacje wewnętrznie: dzielenie dokumentu, osadzanie wektora, wyszukiwanie semantyczne, zarządzanie oknem kontekstu, konstruowanie zachęty i generowanie odpowiedzi. To są operacje, które wymagają wiedzy ML do wdrożenia od podstaw. Nie wymagają wiedzy ML do użycia poprzez interfejs API, który je abstrakcjonuje za prostym interfejsem.

Umiejętności wymagane do konfiguracji i utrzymania chatbota poprzez ten system są całkowicie nietechniczne: zdolność do zorganizowania wiedzy firmy w dokumenty, zdolność do opisania scenariuszy rozmów w naturalnym języku i zdolność do czytania dzienników rozmów i identyfikacji, gdzie odpowiedzi zawiodły. To są umiejętności, które posiada każdy menedżer biznesu, lider obsługi klienta lub profesjonalista marketingu. Infrastruktura techniczna jest obsługiwana przez interfejs API, a inteligencja biznesowa jest obsługiwana przez osoby, które rozumieją biznes.

Ten podział odpowiedzialności to to, co czyni wdrażanie w piętnaście minut realistycznym, a nie aspiracyjnym. Technicznie trudne części są już rozwiązane i działają jako usługa. Części specyficzne dla biznesu, które może dostarczyć tylko biznes, są proste do dostarczenia poprzez załadowanie dokumentu i definicje przypadków użycia w naturalnym języku. Przecięcie tych dwóch wejść daje chatbota, który łączy możliwości konwersacyjne dużego modelu języka z konkretną wiedzą i wytycznymi behawioralnymi biznesu, bez konieczności, aby ktokolwiek zaangażowany rozumiał, jak działa wewnętrznie zarówno model języka, jak i system wyszukiwania wiedzy.

Rezultatem jest chatbot, który zna Twoje produkty, mówi tonem marki Twojej firmy, obsługuje scenariusze, które definiujesz, i ulepsza się, gdy dostarczasz mu lepszą wiedzę i wyraźniejsze wytyczne. Cały potok ML działa za sceną, niewidoczny dla użytkownika biznesu, co jest dokładnie tym, jak powinno być. Biznes nie musi rozumieć transformatorów i osadzeń bardziej niż kierowca musi rozumieć wtrysk paliwa i inżynierię transmisji. Pojazd działa. Cel jest osiągnięty. Szczegóły silnika to czyjś inny problem.