Waarom AI-projecten stranden in de testfase

Het probleem zit zelden bij het model

Zodra een AI-project tegenvalt, valt al snel de conclusie dat het model niet deugt. Ik snap dat, maar het klopt bijna nooit. Het model doet zijn werk prima. Het gaat mis in de laag eronder.

Elke AI-toepassing die iets met jouw bedrijfsdata doet, leunt op een datastroom die ergens bij een database begint. RAG-toepassingen doen embeddings en retrieval op basis van de onderliggende data. Agentische workloads vuren continu queries af om context op te halen en beslissingen te onderbouwen. Staat die datalaag niet klaar voor dat soort belasting, dan gaat het mis, en dat merk je pas zodra je van testomgeving naar productie gaat. Je AI wordt pas slim als je database dat is.

De datalaag bezwijkt pas onder productievolume

In de testfase draait alles op een handjevol records en een paar testgebruikers. Niemand merkt dat een query een full table scan doet of dat een fatsoenlijke index ontbreekt. Zodra het volume omhooggaat, tikken die zaken keihard door: trage retrieval, oplopende latency en een chatbot die twijfelt of het verkeerde antwoord geeft omdat de brondata rommelig, verouderd of inconsistent is.

De vier patronen die we steeds terugzien

Wat er in productie misgaat, is bij OptimaData zelden exotisch. Vier patronen komen steeds terug:

• Vervuilde of ongestructureerde brondata. Een LLM redeneert feilloos over slechte data, en dat is precies het probleem: het model geeft dan zelfverzekerd een fout antwoord.
• Ontbrekende of verkeerde indexering. Retrieval die in de testfase binnen milliseconden werkt, duurt in productie ineens seconden.
• Databases die niet zijn ingericht op de leespatronen van AI-workloads. Klassieke OLTP-systemen zijn niet gebouwd voor het soort vector search en bulk-retrieval dat AI-toepassingen vragen.
• Geen governance en lineage. Niemand weet nog precies welke databron welk antwoord heeft gevoed, laat staan hoe je dat corrigeert.

Dit zijn geen kleine technische details. Dit is de fundering. Een AI-model op een scheve fundering zetten levert scheuren op, hoe krachtig dat model ook is.

Waarom de database buiten beeld blijft

Dat dit steeds opnieuw gebeurt, valt wel te verklaren. AI-projecten starten vaak vanuit de datascience- of platformhoek, met de nadruk op modelkeuze, prompting en GPU-capaciteit. De database zit ondertussen ergens onderin de stack, verstopt achter een pipeline, in een container, soms als ‘managed’ clouddienst waar niemand meer naar omkijkt. Precies zoals Gerard eerder al schreef: de database is tot commodity verklaard, op het moment dat AI hem weer beslissend maakt.

Het gevolg: budget verdwijnt in tokens en GPU-uren, terwijl de echte bottleneck een niveau lager ligt. Je kunt er het duurste model bovenop zetten, maar als de data-infrastructuur eronder niet meeschaalt of vervuilde data aanlevert, koop je geen goed resultaat.

Zo zorg je dat je datafundering het wel houdt

Een groter model of meer GPU’s lossen dit niet op. Wat wel helpt: je datafundering serieus nemen, het liefst voordat je live gaat en niet erna.

Concreet betekent dat:

• Test met productievolume en productiedata, niet met een uitgeklede set. Problemen die pas bij schaal ontstaan, wil je in de testfase al tegenkomen.
• Laat je datamodel en indexstrategie meebewegen met het retrievalpatroon dat je AI-toepassing vraagt. Dat is iets anders dan de indexen die je al had voor je gewone applicatie.
• Investeer in datakwaliteit voordat je in het model investeert. Een schone, consistente en actuele databron is de goedkoopste manier om je AI-toepassing betrouwbaarder te maken.
• Zorg voor lineage en governance, zodat je kunt herleiden welke data welk antwoord opleverde en dat kunt bijsturen.

Wij zien de database niet als een vinkje in een provisioning-scherm, maar als het kloppend hart onder je AI-platform. Dat vraagt aandacht die verder gaat dan een druk op de knop.

Weten waar jij staat?

Wil je weten of jouw datafundering klaar is voor de AI-workloads die je erop wilt loslaten, voordat je daar in productie achter komt? Daarvoor hebben we de AI-Data Readiness QuickScan. In een paar dagen krijg je een helder beeld van waar de risico’s zitten, met concrete vervolgstappen. Neem gerust contact op, ook als je nog geen klant bent. We denken graag mee.