Wat kost private AI per bruikbare taak?

Neem als denkbeeldig voorbeeld een fabrikant met een dealernetwerk. Een dealer vraagt of een onderdeel geschikt is voor een oudere machine. De medewerker moet het model en bouwjaar herkennen, de juiste documentatie vinden en vaststellen of er genoeg informatie is om een voorstel te doen.

Een bruikbaar resultaat is hier niet alleen een vloeiend antwoord. Het is een voorstel dat naar de juiste bron verwijst, ontbrekende informatie benoemt en geen compatibiliteit verzint. Een ontbrekend serienummer moet leiden tot een vervolgvraag, niet tot een overtuigend klinkende gok.

Leg met medewerkers vast wanneer de taak goed is afgerond. Welke feiten moeten kloppen? Welke informatie mag het model gebruiken? Wat mag het voorbereiden en welke toezegging blijft bij een bevoegde collega? Daarmee wordt de proef een beoordeling van het werk, niet van hoe indrukwekkend de demonstratie oogt.

Maak een verzameling normale vragen én lastige situaties: onvolledige informatie, verouderde documenten, uitzonderingen en vragen die buiten de beschikbare kennis vallen. Laat een compact model en een krachtiger alternatief dezelfde opdrachten uitvoeren, met dezelfde toegestane bronnen.

Beoordeel samen met de mensen die het werk kennen:

• Kloppen het antwoord en de verwijzing naar de bron?
• Wordt ontbrekende informatie herkend?
• Hoeveel moet een medewerker controleren of herstellen?
• Is het antwoord snel genoeg op een druk moment?
• Blijft de toepassing binnen de afgesproken bevoegdheden?

Bewaar ook de gevallen waarin het niet goed gaat. Die laten zien of een groter model nodig is, of dat het probleem eigenlijk in de informatievoorziening zit. Een duurder model maakt een onduidelijke productadministratie niet vanzelf betrouwbaar. Google Cloud adviseert eveneens om kwaliteit en prestaties aan zakelijke doelen te koppelen en modelkeuzes met experimenten te beoordelen. Google Cloud over AI-prestaties.

Onze voorkeur is private AI: een passend open model in een afgeschermde omgeving, met regie over toegang en bedrijfsgegevens. Voor een afgebakende taak kan een eigen VPS geschikt zijn. Een groter model kan meer geheugen en rekenkracht vragen; ook lange documenten en gelijktijdige gebruikers tellen mee. Kies model en hosting daarom samen. Google Cloud beschrijft hoe taak, kwaliteit en capaciteit deze keuze bepalen.

We nemen waar mogelijk Europese modellen mee, zoals die van Mistral. Die kunnen op eigen infrastructuur draaien. Een Europees model betekent niet automatisch dat gegevens in Europa blijven: ook de locatie van de server, toegang en beheer moeten kloppen. Mistral over eigen hosting.

Breng voor jullie toepassing vijf kostenposten bij elkaar:

Kostenpost	Wat je wilt weten
Inrichting	Welke koppelingen, bronselectie en toegangsrechten zijn nodig?
Capaciteit	Wat kost de omgeving bij normaal gebruik en tijdens pieken?
Controle	Hoeveel tijd blijft nodig om antwoorden te beoordelen?
Herstel	Hoe worden fouten ontdekt en afgehandeld?
Beheer	Wie onderhoudt de bronnen, modellen, beveiliging en tests?

Deel terugkerende kosten door het aantal taken dat werkelijk bruikbaar wordt afgerond. Houd de eenmalige investering daarnaast zichtbaar. Zo voorkom je dat een lage prijs per modelaanroep het gesprek overheerst terwijl medewerkers veel moeten corrigeren.

Een eigen server heeft bovendien kosten als er weinig gebruik is. Bij een incidentele taak kan een externe dienst economisch beter passen, als de gegevensvoorwaarden dat toelaten. Bij veel gebruik, specifieke gegevensvoorwaarden of een duidelijk afgebakende taak kan eigen hosting aantrekkelijk zijn. Dat is een afweging, geen algemene regel.

Stel dat je iedere maand 1.000 taken afrondt tot hetzelfde afgesproken kwaliteitsniveau. Reken voor de tijd van medewerkers met €40 per uur. Onderstaande bedragen zijn uitsluitend rekenaannames, geen actuele leveranciersprijzen of gemeten klantresultaten.

Op een klein scherm kun je de tabel horizontaal verschuiven.

In deze situatie levert het grotere model minder controlewerk op, maar weegt dat niet op tegen de extra kosten. Het compacte model past beter. Blijkt bij de proef dat het compacte model geen tien maar dertig uur controle en herstel vraagt, dan komt het totaal op €1.500. De keuze kan dus omslaan.

Houd de eenmalige ontwikkeling buiten deze maandvergelijking zichtbaar en neem verschillen daarin mee in het investeringsbesluit. Tel bovendien een taak die onopgelost blijft niet als succes. Een toepassing moet eerst het vereiste kwaliteitsniveau halen; pas daarna heeft vergelijken op prijs betekenis.

Als het compacte model de gewone vragen goed verwerkt maar moeite heeft met enkele complexe gevallen, hoeft niet iedere vraag langs het grootste model. Je kunt eenvoudige taken begrenzen en afwijkingen naar een deskundige collega of een krachtiger model leiden.

Ook die verdeling moet je testen. Herkent de toepassing werkelijk wanneer zij moet stoppen? Wie neemt het over? Een tweede model toevoegen heeft weinig waarde als de eerste stap niet betrouwbaar kan bepalen wat een uitzondering is.

Daarvoor is niet automatisch een agent nodig. Een vaste beslisregel kan genoeg zijn. Een agent wordt pas interessant wanneer het uitvoeren van de taak vraagt om verschillende vervolgstappen die afhangen van wat onderweg wordt gevonden. Lees hoe wij private AI en gerichte inzet van agents benaderen.

Een goede proef eindigt met een concrete keuze: welke taak ondersteunen we, welk model voldoet, wat kost dagelijks gebruik en wanneer neemt een medewerker over? Soms is het antwoord een klein model. Soms een groter model voor een deel van het werk. Soms eerst betere informatie en nog geen AI.

De bedoeling is dat medewerkers beter onderbouwd kunnen handelen en klanten beter worden geholpen. Niet dat iemand voortaan een goedkoop systeem moet bewaken dat extra herstelwerk oplevert.

Begin met een handvol echte klantvragen, de bronnen die medewerkers nu raadplegen en de afwegingen die zij maken. Leg vast wat een goed antwoord is en welke toezegging bij een mens blijft. Dat is een bruikbaarder vertrekpunt dan een lijst met modellen en abonnementen. Wil je die afweging voor jullie onderneming uitwerken, dan kan dat als zelfstandige consultancyopdracht.