Waarom AI‑agents in de echte wereld extra aandacht nodig hebben
De recente botsing tussen OpenAI en Hugging Face heeft duidelijk gemaakt dat kunstmatige‑intelligentie niet altijd voorspelbaar is. Als zo’n onvoorspelbare fout zich in een digitale omgeving voordoet, is de impact beperkt. Maar stel je voor dat eenzelfde fout zich in de fysieke wereld manifesteert, bijvoorbeeld in een zelfrijdende auto of een industriële robot. Het risico is dan veel groter. Howie Sun, CEO en mede‑oprichter van Laplace Intelligence, waarschuwt dat AI‑agents steeds vaker de stap maken van computers naar de echte wereld, en dat we er alles aan moeten doen om te voorkomen dat ze falen wanneer ze daadwerkelijk in gebruik worden genomen.
Red‑teaming voor robots en autonome voertuigen
Laplace Intelligence, gevestigd in Ann Arbor, heeft een unieke benadering ontwikkeld: geautomatiseerde red‑teaming voor fysieke AI‑systemen. Red‑teaming betekent dat een systeem opzettelijk onder druk wordt gezet om zwakke plekken en mogelijke fouten bloot te leggen. In plaats van alleen te vertrouwen op traditionele testmethoden, laat Laplace een AI‑agent continu zoeken naar scenario’s die een robot, een zelfrijdende auto of een smart‑city‑oplossing kunnen laten falen. Het doel is om problemen vroegtijdig te identificeren, zodat bedrijven ze kunnen verhelpen voordat de technologie wordt uitgerold.
Van academisch onderzoek naar een commercieel product
Howie Sun en zijn co‑founder, chief scientist Henry Liu, richtten Laplace een jaar geleden op, voortkomend uit hun werk aan de Universiteit van Michigan. Sun bracht acht jaar door in de academische wereld, waar hij zich richtte op het uitdagen van autonome‑rijtechnologieën in gesimuleerde omgevingen. In 2023 publiceerden Sun en Liu een paper over dit onderwerp dat op de cover van het prestigieuze tijdschrift Nature verscheen. De publicatie trok de aandacht van verschillende autofabrikanten die geïnteresseerd waren in hun aanpak. “Ik besefte dat ik dit van een puur academisch project naar een praktisch product moest brengen,” vertelt Sun.
De inspiratie achter de naam Laplace
De naam van het bedrijf verwijst naar “Laplace’s demon”, een gedachte‑experiment uit 1814 van de Franse wiskundige Pierre‑Simon Laplace. Het experiment stelt dat, als men de exacte toestand van elk deeltje in het universum kent, men de toekomst met absolute precisie kan voorspellen. Laplace Intelligence gebruikt dit concept als metafoor: door een uiterst nauwkeurige simulatie van de echte wereld te bouwen, kan men de toekomstige prestaties van AI‑systemen voorspellen en optimaliseren.
Hoe de simulatie werkt
Centraal in de technologie van Laplace staat een high‑fidelity simulatie die is opgebouwd uit Nvidia’s Cosmos‑platform, een AI‑wereldsimulatie die real‑world data integreert. Door een combinatie van kaartgegevens, Google Street‑View‑beelden en realtime verkeersinformatie van providers zoals TomTom, kan Laplace een virtuele omgeving reconstrueren die exact overeenkomt met een echte locatie – van een snelweg in Arizona tot een druk kruispunt in Parijs. Ontwikkelaars kunnen via eenvoudige taal‑prompts de omgeving aanpassen, bijvoorbeeld door extra verkeer of slecht weer toe te voegen.
Interactieve scenario’s en dynamische actoren
Wat Laplace echt onderscheidt, is dat niet alleen de omgeving wordt gesimuleerd, maar ook de gedragingen van andere actoren. In een demonstratie liet Sun een test‑auto opzettelijk de rijstrook van een tegenligger inwijken. In plaats van een botsing te simuleren, ontweek de tegenligger de botsing, waardoor de test‑auto een realistisch reactie‑scenario kreeg. “Het is een interactieve simulatie waarin iedereen op elkaar reageert,” legt Sun uit. Deze dynamiek maakt het mogelijk om complexe, onvoorspelbare situaties te testen die in de echte wereld kunnen optreden.
De weg naar bredere acceptatie
Laplace hoopt met hun aanpak een gedeelde basis van bewijs te creëren die door klanten, verzekeraars en regelgevende instanties wordt geaccepteerd. Door systematisch zwakke punten te identificeren en te verhelpen, kan men het vertrouwen in fysieke AI vergroten. Het bedrijf neemt deel aan de Startup Battlefield 200 op TechCrunch Disrupt in San Francisco, waar ze hun visie presenteren aan een internationaal publiek van investeerders en technologische pioniers.