AI in uw app

De tabel hieronder is het plan van deze gids. Lees ze eerst: ze voorkomt driekwart van de verkeerde keuzes.

Eén zin om het onderscheid vast te houden: de RAG-chatbot weet wat u hebt gepubliceerd, de ChatGPT-extensie weet wat het model heeft geleerd. De eerste kan niet antwoorden over een onderwerp dat u nooit hebt behandeld. De tweede antwoordt hoe dan ook, en dat is soms precies wat u niet wilt.

Beide kunnen naast elkaar in dezelfde app bestaan. Een algemene gespreksassistent op het startscherm en een documentaire chatbot in de archiefsectie beconcurreren elkaar niet.

RAG staat voor retrieval-augmented generation. Het principe past in één zin: vóór hij antwoordt, gaat de assistent de relevante passages zoeken in uw content, en schrijft hij zijn antwoord op basis van die passages.

Dat is het verschil tussen een assistent die uw onderwerp kent en een assistent die het zijne kent. Voor een artikelarchief van tien jaar, een reisgids, een intern handboek of een basis met veelgestelde vragen is het de enige vorm die standhoudt: de antwoorden blijven binnen de grenzen van wat u hebt geschreven, en ze verouderen in hetzelfde tempo.

De chatbot is eerst een extensie en pas daarna een sectie, en die volgorde telt. Alles vertrekt van het item RAG Chatbot in het hoofdmenu, op het eerste niveau tussen Notification en Statistics: daar voegt u de extensie toe, en pas nadat ze is toegevoegd, wordt de sectie beschikbaar in uw app. Ze in de lijst met secties zoeken vóór u daarlangs gaat, betekent ze niet vinden.

Staat ze eenmaal op haar plaats, dan gedraagt ze zich als elke andere sectie: ze neemt haar plek in uw menu in, ze telt mee voor uw 120 secties, en ze neemt de kleuren en de typografie van uw app over.

De instellingen ervan opent u via hetzelfde menu-item, op een scherm met vier tabbladen: instellingen, design, bronsecties en meldingen.

Dit is de instelling die de kwaliteit van uw chatbot bepaalt, en het is ook die waar mensen te snel over gaan.

Het tabblad Sections somt de uwe op, geordend per contenttype: uw artikelen, uw evenementen, uw locaties. U vinkt aan welke de kennisbank moeten voeden, en u kunt tot op het niveau van de categorie gaan: de hele sectie met artikelen, of alleen de categorie Praktisch.

Alles wat u daarna in die secties publiceert, komt er automatisch bij. Er is geen knop om bij te werken die u moet onthouden, geen export die u moet overdoen: uw kennisbank volgt wat u publiceert.

Eén laatste instelling maakt het plaatje af: een limiet op het aantal items dat per geselecteerde bron wordt bewaard, van het recentste terug. Die verhogen geeft de assistent meer materiaal en verbruikt meer credits. Een uitgever die elke dag publiceert en een stabiele reisgids hebben niet dezelfde waarde nodig.

Twee modellen stelt u apart in, en ze doen niet hetzelfde werk.

Het generatiemodel is dat wat het antwoord schrijft. De lijst loopt van de recentste modellen tot hun varianten Mini en Nano, sneller en zuiniger. Ze bevat modellen van OpenAI en modellen van Mistral, waarmee u op Europese infrastructuur kunt blijven wanneer dat voor u telt.

Het indexeringsmodel is dat wat uw content omzet in iets waarmee de zoekfunctie kan werken. De grote versie gaat beter om met lange, genuanceerde teksten; de zuinige versie is sneller en verbruikt minder.

De praktische regel: begin met een zuinige variant, meet de kwaliteit van de antwoorden op uw echte vragen, en ga daarna hoger als u er niet bent. Andersom kost het geld voor niets.

Een veld voor de schrijftoon laat u beschrijven hoe de assistent uw lezers aanspreekt: de mate van formaliteit, de stijl. Dat veld is er niet om kennis toe te voegen, het is er om de stem te bepalen.

Toch draagt het de nuttigste instructie van het hele scherm: die welke zegt wat te antwoorden wanneer het antwoord niet in uw content staat. Zonder die instructie improviseert een assistent vaak liever dan toe te geven. Schrijf ze uitdrukkelijk: zeg hem te antwoorden dat hij het niet weet en naar uw contactpagina te verwijzen. Eén zin, en uw chatbot houdt op met verzinnen.

Twee schakelaars bepalen wat er onder de antwoorden verschijnt. Interactieve bronkaarten tonen het artikel, het evenement of de locatie waaruit het antwoord is opgebouwd, en de lezer opent die in één beweging. Een tweede schakelaar voegt een kopieerknop toe aan elk bericht in het gesprek.

Kijk naar dat antwoord: het is niet alleen juist, het zegt waar het vandaan komt. Elk geciteerd recept draagt zijn link naar het artikel, en de rij kaarten onder het gesprek brengt de lezer terug in de content. Dat is het zichtbare verschil tussen een assistent die zich op u baseert en een assistent die uit het geheugen praat.

Zet de bronkaarten aan. Ze doen drie dingen tegelijk: ze bewijzen dat het antwoord echt van u komt, ze brengen de lezer terug in uw content in plaats van hem in het gesprek te laten, en ze geven u een manier om uw chatbot in één oogopslag te controleren.

Een optie voor toegangsbeperking sluit de chatbot af voor passerende bezoekers en houdt hem voor wie is aangemeld of geabonneerd. Ze steunt op een van de twee toegangsfamilies van het platform, de extensie voor in-app abonnementen of de extensie Authentication, dus een van de twee moet in uw app actief zijn.

Die twee families stapelen niet: dat is de tweesprong die in "Een community opbouwen met uw app" wordt beschreven, en ze wordt vooraf beslist, niet achteraf. Draait uw app op een in-app abonnement, dan loopt de beperking daarlangs.

Het is een goede kandidaat voor voorbehouden content. Een assistent die tien jaar van uw archief kent, heeft een waarde die een lezer meteen begrijpt, wat van nog één artikel zelden gezegd kan worden.

De RAG-chatbot is een extensie, en de pagina ervan toont de prijs die voor uw app geldt. Ze bevat een hoeveelheid credits, die elke maand wordt hernieuwd, en een teller boven aan het scherm toont het resterende saldo samen met de datum van de volgende hernieuwing. De inbegrepen hoeveelheid staat op diezelfde pagina.

Twee zaken verbruiken die credits, en niet in dezelfde verhouding. Uw content indexeren kost weinig en gebeurt één keer, en daarna bij elke publicatie. De vragen van uw gebruikers kosten de rest, en hun verbruik hangt af van het gekozen model en van de complexiteit van de vraag. Met andere woorden: uw factuur volgt uw publiek, en dat is goed nieuws, op voorwaarde dat u het hebt zien aankomen.

Het andere soort assistent leest uw content niet. Hij sluit een instantie van ChatGPT op uw app aan, en u geeft hem een rol.

Zoals elke extensie toont de pagina ervan de prijs die voor uw app geldt, en ze werkt op beide productlijnen, zowel content-apps als e-commerce apps.

Net als de RAG-chatbot is ze eerst een extensie en pas daarna een sectie, en dezelfde volgorde geldt: u zet ze eerst aan in Extensions Store › All extensions, en de sectie verschijnt pas daarna in de lijst met types. De status van al uw extensies vindt u vervolgens in Extensions Store › Management.

De instellingen ervan opent u via het menu van de sectie, met het item dat de assistent instelt. Haar scherm heeft maar twee tabbladen, instellingen en design, waar de RAG-chatbot er vier heeft. Dat is het verschil in aard, met het blote oog zichtbaar.

Het eerste verschil staat meteen daar, en het is niet onbelangrijk. Een blok voor toegang tot OpenAI vraagt u een geheime API-sleutel, die u op uw OpenAI-account aanmaakt. De commerciële relatie blijft tussen u en OpenAI: GoodBarber rekent niets aan op de gesprekken en houdt onderweg niets in.

Wat dat in de praktijk betekent: u opent een account bij OpenAI, u zet er een betaalmethode op, en u volgt het verbruik op vanaf hun dashboard, niet vanaf uw back office. Sommige recente modellen vragen bovendien dat uw organisatie bij OpenAI geverifieerd is, wat het scherm aangeeft.

Slechts drie velden, en het derde draagt al de rest. U voert de naam van de assistent in, u kiest een generatiemodel uit een lijst die van het recentste tot het zuinigste loopt, en daarna schrijft u het systeembericht.

Die tekst is het enige wat uw assistent van een gewone ChatGPT onderscheidt. Hij beschrijft zijn rol, zijn toon, en vooral het bereik van onderwerpen dat hij aanvaardt te behandelen. Een assistent aan wie niet is gezegd waarover hij praat, zal over alles praten, ook over zaken die u niet in uw app wilt.

Schrijf hem in twee delen. Eerst de rol, eenvoudig gezegd: wie hij is, met wie hij praat, over welk onderwerp. Daarna de afsluiting, even belangrijk: wat hij moet antwoorden wanneer de vraag buiten het onderwerp valt. Die tweede helft is wat men vergeet, en zij houdt de assistent op zijn baan.

Net als de RAG-chatbot kan de ChatGPT-extensie voor uw aangemelde gebruikers worden voorbehouden, via dezelfde beperkingsoptie, en haar uiterlijk stelt u in op het tabblad design.

Dat volgt rechtstreeks uit hoe hij werkt: deze assistent kent uw content niet. Hij weet niet wat u gisteren hebt gepubliceerd, noch uw openingsuren, noch uw prijzen, noch de naam van uw nieuwe collectie. Vraagt een gebruiker ernaar, dan antwoordt hij toch, met wat het model meent te weten.

Het systeembericht verkleint dat risico, het neemt het niet weg. Houd deze extensie dus voor toepassingen waarbij het antwoord niet van u hoeft te komen: een assistent die adviseert, die herformuleert, die iemand door de eerste stappen loodst. Zodra het antwoord juist en verifieerbaar moet zijn, is de RAG-chatbot wat u nodig hebt.

De vraag wordt op één regel beslecht: moet het antwoord van u komen?

Drie voorbeelden om de regel vast te zetten.

Een school. Paraigua publiceert zijn kalenders, zijn reglementen en zijn omzendbrieven. Elk jaar komen dezelfde vragen terug, op dezelfde data, en elk antwoord staat al ergens geschreven. Dit is het schoolvoorbeeld van RAG: het materiaal bestaat, het is alleen slecht bereikbaar.

Een reisgids. Portland beschrijft plaatsen, evenementen, routes. Een bezoeker die vraagt "wat is er zondagochtend open bij de haven" vraagt iets waarop de content antwoordt, maar wat geen enkel menu hem laat formuleren. Weer RAG.

Een schoonheidssalon. Freyja Spa heeft geen verzameling documenten, maar wel klanten die tussen twee behandelingen twijfelen. Een assistent die door een systeembericht wordt afgebakend, twee of drie vragen stelt en naar de juiste dienst stuurt, is nuttig zonder de catalogus vanbuiten te moeten kennen. De ChatGPT-extensie volstaat, en kost niets extra.

De RAG-chatbot bestaat alleen op content-apps. Een e-commerce app kan hem vandaag niet aanzetten. Op die lijn blijft de ChatGPT-extensie beschikbaar.

Een chatbot antwoordt alleen goed als uw content antwoordt. Dat is de beperking die het vaakst te laat wordt ontdekt. Een assistent die op dertig vage artikelen is aangesloten, produceert dertig vage antwoorden, en maakt een contentprobleem zichtbaar dat onopgemerkt bleef zolang niemand de vraag rechtstreeks stelde. Lees vóór u hem aanzet opnieuw wat u publiceert en vraag u af of een lezer daar zijn antwoord zou vinden. Zo niet, dan is het de content die werk vraagt, niet het model.

U blijft verantwoordelijk voor wat uw app zegt. Een assistent spreekt onder uw naam, in uw app, in uw kleuren. Test hem met uw echte vragen voordat u publiceert, ook met de lastige, en behoud de instructie die hem zegt toe te geven wat hij niet weet. Een assistent die antwoordt "dat weet ik niet, schrijf ons" kost u niets. Een assistent die uw openingsuren verzint, kost u een klant.