Tôi đã huấn luyện một Chatbot AI trên các tài liệu công ty của mình trong mười lăm phút

Cụm từ "huấn luyện một AI" gợi lên những nội dung liên quan đến tập dữ liệu khổng lồ, cụm GPU, chuyên môn học máy, và loại ngân sách tính toán mà chỉ những phòng thí nghiệm nghiên cứu tài trợ tốt mới có thể chi trả. Nhận thức này, mặc dù chính xác khi xây dựng các mô hình nền từ đầu, lại rất sai lệch khi nói đến việc tạo một chatbot hiểu được kinh doanh cụ thể của bạn. Sự khác biệt này quan trọng vì nó ngăn cản hàng ngàn công ty triển khai các giải pháp AI hội thoại không chỉ nằm trong khả năng của họ mà còn có thể được triển khai trong thời gian ít hơn để viết một chương trình họp.

Huấn luyện một chatbot trên kiến thức cụ thể công ty không yêu cầu huấn luyện một mô hình ngôn ngữ từ đầu. Nó yêu cầu cung cấp cho một mô hình ngôn ngữ hiện có bối cảnh cần thiết để trả lời chính xác những câu hỏi về kinh doanh của bạn. Mô hình đã biết cách hiểu câu hỏi, xây dựng những phản hồi mạch lạc, và duy trì dòng hội thoại. Những gì nó thiếu là kiến thức về các sản phẩm, chính sách, quy trình và thuật ngữ cụ thể của bạn. Cung cấp kiến thức này là một vấn đề tải lên tài liệu, không phải chạy các vòng lặp huấn luyện trên hàng ngàn GPU. Quá trình này gần giống với việc cho một nhân viên mới một tập tài liệu hướng dẫn hơn là bất kỳ thứ gì giống với nghiên cứu học máy.

ChatBot API tại yeb.to làm cho quá trình này rõ ràng và hợp lý. Tải lên các tài liệu kiến thức của bạn. Hệ thống xử lý chúng thành một cơ sở kiến thức có thể tìm kiếm. Xác định các trường hợp sử dụng mô tả những gì chatbot nên có khả năng làm. Bắt đầu trò chuyện. Chatbot rút ra từ kiến thức được tải lên để trả lời câu hỏi, cung cấp thông tin, và hướng dẫn người dùng qua các quy trình cụ thể cho kinh doanh của bạn. Mười lăm phút từ tải lên đầu tiên đến cuộc trò chuyện hữu ích đầu tiên không phải là lạc quan trong tiếp thị. Đó là thời gian thực tế khi các tài liệu kiến thức đã được tổ chức và các trường hợp sử dụng rõ ràng.

Những gì được tính là Kiến thức và Cách thức Tải lên Hoạt động

Tải lên kiến thức chấp nhận một loạt các định dạng tài liệu bao gồm các cách mà hầu hết các công ty lưu trữ kiến thức thể chế của họ. Các tệp PDF của hướng dẫn sản phẩm, tài liệu Word chứa sách tay chính sách, tệp văn bản có các bộ sưu tập Câu hỏi thường gặp, tệp Markdown với tài liệu kỹ thuật, và các lần xuất khẩu văn bản thuần túy từ các hệ thống wiki đều phục vụ như nguồn kiến thức hợp lệ. Hệ thống này tiêu thụ các tài liệu này, chia chúng thành các đoạn gắn kết ngữ nghĩa, và lập chỉ mục chúng theo cách cho phép chatbot truy xuất các đoạn liên quan khi trả lời câu hỏi.

Chất lượng của phản hồi của chatbot phụ thuộc trực tiếp vào chất lượng và tính đầy đủ của kiến thức được tải lên. Một hướng dẫn sản phẩm mô tả kỹ lưỡng các tính năng, trường hợp sử dụng, giới hạn, và các bước khắc phục sự cố tạo ra một chatbot có thể trả lời các câu hỏi sản phẩm chi tiết với độ chính xác. Một tài liệu thưa thớt chỉ bao gồm các tính năng cơ bản tạo ra một chatbot có thể trả lời các câu hỏi cơ bản nhưng hoãn lại bất cứ điều gì cụ thể hơn. Đây không phải là một giới hạn của công nghệ mà là một phản ánh của nguyên tắc cơ bản rằng chatbot biết những gì nó đã được cho biết, và cho nó biết nhiều hơn tạo ra kết quả tốt hơn.

Quá trình tải lên xử lý định dạng tài liệu tự động, loại bỏ thông tin bố cục không liên quan trong khi bảo tồn cấu trúc ngữ nghĩa quan trọng cho hiểu biết. Các tiêu đề trở thành ranh giới phần. Các dấu đầu dòng trở thành các mục có thể liệt kê. Các bảng duy trì mối quan hệ hàng-cột của chúng. Mục tiêu là trích xuất nội dung thông tin từ tài liệu trong khi loại bỏ lớp trình bày, vì chatbot cần hiểu tài liệu nói gì, không phải nó sử dụng font nào. Quá trình tự động này loại bỏ nhu cầu chuẩn bị tài liệu thủ công, điều này có nghĩa là các tài liệu công ty hiện có có thể được tải lên nguyên trạng mà không cần định dạng lại.

Có thể tải lên nhiều tài liệu để xây dựng một cơ sở kiến thức toàn diện охватывающей các khía cạnh khác nhau của doanh nghiệp. Một thiết lập hoàn chỉnh có thể bao gồm một danh mục sản phẩm, một sách tay dịch vụ khách hàng, một câu hỏi thường gặp kỹ thuật, một hướng dẫn định giá, và một tài liệu tổng quan công ty. Mỗi tài liệu góp phần vào một khía cạnh khác của kiến thức của chatbot, và hệ thống tích hợp chúng một cách liền mạch để một cuộc trò chuyện có thể rút ra thông tin từ nhiều nguồn. Một khách hàng hỏi về một tính năng sản phẩm và sau đó hỏi về định giá sẽ nhận được các câu trả lời mạch lạc cho cả hai câu hỏi ngay cả khi thông tin đến từ các tài liệu được tải lên khác nhau.

Các Trường hợp Sử dụng và Dạy Chatbot Những gì Nó Nên Làm

Tải lên kiến thức cho chatbot biết những gì nó biết. Xác định các trường hợp sử dụng cho nó biết những gì nó nên làm với kiến thức đó. Một trường hợp sử dụng là một mô tả của một tình huống hội thoại mà chatbot nên được chuẩn bị để xử lý: trả lời các câu hỏi sản phẩm, hướng dẫn người dùng thông qua một quy trình thiết lập, xác định các khách hàng tiềm năng bán hàng, xử lý các yêu cầu hỗ trợ, hoặc bất kỳ mục tiêu hội thoại khác phù hợp với nhu cầu của doanh nghiệp.

Các trường hợp sử dụng phục vụ như các hướng dẫn hành vi làm hình thành cách chatbot áp dụng kiến thức của nó. Mà không có các trường hợp sử dụng được xác định, chatbot phản hồi các câu hỏi bằng cách truy xuất kiến thức liên quan và trình bày nó. Với các trường hợp sử dụng được xác định, chatbot hiểu không chỉ thông tin nào để cung cấp mà cách cấu trúc cuộc trò chuyện xung quanh thông tin đó. Một trường hợp hỗ trợ có thể hướng dẫn chatbot hỏi các câu hỏi làm rõ trước khi cung cấp giải pháp. Một trường hợp tuyệt vời về đủ điều kiện bán hàng có thể hướng dẫn nó thu thập thông tin về nhu cầu của khách hàng tiềm năng trước khi đề xuất sản phẩm. Một trường hợp Câu hỏi thường gặp chung có thể hướng dẫn nó cung cấp các câu trả lời trực tiếp mà không cần lời nói phong phú.

Quá trình xác định trường hợp sử dụng không yêu cầu lập trình hoặc chuyên môn kỹ thuật trình nhắc. Mỗi trường hợp sử dụng được mô tả bằng ngôn ngữ tự nhiên: loại câu hỏi hoặc yêu cầu mà người dùng có thể có, thông tin nào chatbot nên cung cấp, giọng nói nó nên sử dụng, và những hành động nào nó nên đề xuất. Hệ thống dịch những mô tả này thành các tham số hành vi hướng dẫn phản hồi của chatbot. Một chủ doanh nghiệp không phải lập trình viên có thể xác định các trường hợp sử dụng một cách hiệu quả như một nhà phát triển, vì các định nghĩa được biểu hiện bằng ngôn ngữ tự nhiên mà chính chatbot sử dụng.

Số lượng và tính cụ thể của các trường hợp sử dụng nên phản ánh phạm vi dự định của chatbot. Một chatbot hỗ trợ khách hàng có thể cần mười đến mười lăm trường hợp sử dụng bao gồm các danh mục hỗ trợ khác nhau. Một chatbot Câu hỏi thường gặp đơn giản có thể cần ba hoặc bốn. Một chatbot xác định bán hàng có thể cần năm đến bảy trường hợp sử dụng bao gồm các dòng sản phẩm khác nhau hoặc các đoạn khách hàng. Bắt đầu với ít hơn, các trường hợp sử dụng rộng hơn và tinh chỉnh thành những cái cụ thể hơn dựa trên các mẫu hội thoại thực tế là một cách tiếp cận thực tế tạo ra kết quả tốt một cách nhanh chóng và cải thiện theo thời gian khi dữ liệu sử dụng thực tế tiết lộ những tình huống nào cần xử lý chi tiết hơn.

Cuộc trò chuyện Đầu tiên và Những gì Chatbot Thực sự Biết

Thời điểm sự thật đến khi câu hỏi thực tế đầu tiên được đặt ra. Không phải một câu hỏi thử nghiệm mà nhà phát triển đã biết câu trả lời, mà một câu hỏi thực sự từ một người mong đợi một phản hồi hữu ích. Đây là nơi chất lượng của cơ sở kiến thức và sự rõ ràng của các trường hợp sử dụng hoặc trả tiền hoặc tiết lộ các khoảng trống. Một chatbot được chuẩn bị tốt xử lý câu hỏi đầu tiên một cách tự tin, cung cấp một câu trả lời chính xác được rút ra từ kiến thức được tải lên và được trình bày theo giọng nói phù hợp với các trường hợp sử dụng được xác định. Một chatbot được chuẩn bị kém chuẩn bị hoặc sai lệch, cung cấp các phản hồi chung có thể áp dụng cho bất kỳ công ty nào hoặc tránh né bằng các biến thể của "vui lòng liên hệ hỗ trợ để biết thêm thông tin."

Những ngày đầu tiên của hoạt động trực tiếp là những ngày quý giá nhất để cải thiện hiệu suất của chatbot. Các cuộc trò chuyện tiết lộ những câu hỏi mà người dùng thực tế thực sự hỏi, thường khác biệt đáng kể với những câu hỏi mà doanh nghiệp mong đợi họ hỏi. Một chatbot sản phẩm có thể nhận được nhiều câu hỏi về định giá và tính khả dụng hơn là về các tính năng, gợi ý rằng cơ sở kiến thức cần tài liệu định giá mạnh hơn. Một chatbot hỗ trợ có thể nhận được những câu hỏi được diễn đạt theo cách mà các định nghĩa trường hợp sử dụng không dự liệu, gợi ý những tinh chỉnh cho các hướng dẫn hội thoại.

Lặp lại trên cơ sở kiến thức và các trường hợp sử dụng dựa trên dữ liệu hội thoại thực tế là chìa khóa để cải thiện nhanh chóng. Mỗi cuộc trò chuyện tạo ra một phản hồi không thỏa đáng xác định một khoảng trống cụ thể: hoặc là cơ sở kiến thức thiếu thông tin liên quan, hoặc là định nghĩa trường hợp sử dụng không hướng dẫn chatbot áp dụng thông tin có sẵn một cách chính xác. Giải quyết các khoảng trống này là công việc tăng dần, thêm một tài liệu ở đây, tinh chỉnh một trường hợp sử dụng ở đó, và mỗi cải thiện có lợi cho tất cả các cuộc trò chuyện trong tương lai chạm vào cùng một chủ đề. Chatbot trở nên tốt hơn một cách có nghĩa với mỗi vòng tinh chỉnh, và tốc độ cải thiện là nhanh nhất trong vài tuần đầu tiên khi những khoảng trống phổ biến nhất đang được xác định và điền.

Đường cong học tập cho những người quản lý chatbot cũng nhanh chóng. Đến cuối tuần đầu tiên, người quản lý chatbot hiểu được loại kiến thức nào tạo ra những phản hồi tốt nhất, các định nghĩa trường hợp sử dụng cụ thể cần là gì, và những mẫu hội thoại nào cần chú ý. Sự quen thuộc hoạt động này, được lợi từ kinh nghiệm trực tiếp hơn là đọc tài liệu, là những gì biến chatbot từ một công cụ thiết lập và quên thành một tài sản liên tục cải thiện mà trở nên quý giá hơn cho doanh nghiệp với mỗi tuần trôi qua.

Không cần Chuyên môn ML và Điều đó Thực sự Có nghĩa là Gì

Tuyên bố rằng không cần chuyên môn học máy xứng đáng được làm rõ vì nó nghe giống như ngôn ngữ tiếp thị và điều quan trọng là giải thích tại sao nó thực sự đúng. ChatBot API xử lý tất cả các hoạt động kỹ thuật phức tạp bên trong: phân chia tài liệu, nhúng vector, tìm kiếm ngữ nghĩa, quản lý cửa sổ bối cảnh, xây dựng nhắc nhở, và tạo phản hồi. Đây là những hoạt động yêu cầu kiến thức ML để thực hiện từ đầu. Chúng không yêu cầu kiến thức ML để sử dụng thông qua một API trừu tượng chúng sau một giao diện đơn giản.

Các kỹ năng cần thiết để thiết lập và duy trì một chatbot thông qua hệ thống này hoàn toàn không phải lập trình: khả năng tổ chức kiến thức công ty thành các tài liệu, khả năng mô tả các tình huống hội thoại bằng ngôn ngữ tự nhiên, và khả năng đọc nhật ký hội thoại và xác định nơi phản hồi bị sai. Đây là những kỹ năng mà bất kỳ quản lý doanh nghiệp, nhân viên hỗ trợ khách hàng, hoặc chuyên gia tiếp thị nào cũng có. Cơ sở hạ tầng kỹ thuật được xử lý bởi API, và trí tuệ kinh doanh được xử lý bởi những người hiểu doanh nghiệp.

Sự phân chia trách nhiệm này là những gì làm cho triển khai mười lăm phút thực tế hơn là có tham vọng. Những phần kỹ thuật khó nhất đã được giải quyết và chạy như một dịch vụ. Những phần cụ thể kinh doanh, chỉ kinh doanh mới có thể cung cấp, rõ ràng để cung cấp thông qua tải lên tài liệu và các định nghĩa trường hợp sử dụng ngôn ngữ tự nhiên. Giao điểm của hai đầu vào này tạo ra một chatbot kết hợp khả năng hội thoại của một mô hình ngôn ngữ lớn với kiến thức cụ thể và hướng dẫn hành vi của doanh nghiệp, mà không yêu cầu ai liên quan hiểu cách hoạt động bên trong của mô hình ngôn ngữ hoặc hệ thống truy xuất kiến thức.

Kết quả là một chatbot biết các sản phẩm của bạn, nói theo giọng nói của thương hiệu của bạn, xử lý các kịch bản bạn xác định, và cải thiện khi bạn cho nó kiến thức tốt hơn và hướng dẫn rõ ràng hơn. Toàn bộ đường dẫn ML chạy phía sau những cái nhìn, vô hình đối với người dùng kinh doanh, đó chính xác là cách nó nên hoạt động. Doanh nghiệp không cần phải hiểu transformers và nhúng bất kỳ hơn so với một tài xế cần phải hiểu tiêm xăng và kỹ thuật truyền. Phương tiện hoạt động. Đích đến được đạt. Chi tiết động cơ là mối quan tâm của người khác.