In Go we Trust.

Nepreviews proberen jou en jouw AI succesvol te overtuigen

Nieuws6 min leestijd

Je vraagt een AI-assistent bij welke webshop je het best kunt bestellen. Hij vergelijkt prijzen, leest beoordelingen en geeft een helder advies. Dat scheelt uitzoekwerk!

Maar wie heeft de informatie geschreven waarop dat AI-koopadvies rust? En was die tekst bedoeld om een klant te helpen, of om de assistent een bepaalde kant op te sturen?

Die tweede vraag verdient meer aandacht. Onderzoek laat zien dat extra bronnen de keuzes van AI-koopassistenten kunnen veranderen. Beveiligingsonderzoekers hebben daarnaast websites gevonden met verborgen instructies voor AI. Dat bewijst geen grootschalige manipulatie via reviews. Het maakt wel duidelijk waarom je een overtuigend antwoord niet blind moet volgen.

AI-koopadvies begint bij wat de assistent te zien krijgt

Wharton Generative AI Labs publiceerde recent een technisch rapport over AI bij aankopen. In ongeveer 26.000 tests kozen zes modellen in een gesimuleerde winkelomgeving een fitnesshorloge. Ze kregen een afbeelding van acht producten te zien, zonder vooraf opgegeven klantwensen.

De onderzoekers voegden onder meer screenshots van aanbevelingen toe en veranderden de volgorde van bronnen. Eén extra bron kon de gekozen optie al sterk veranderen. Hoe een model reageerde, verschilde. Meer context maakte de uitkomst minder voorspelbaar.

Het gaat om een afgebakend experiment, beschreven in de toelichting van Wharton. Geen onderzoek naar duizenden echte bestellingen en evenmin bewijs dat de getoonde aanbevelingen nepreviews waren. Een andere keuze hoeft bovendien geen slechtere keuze te zijn.

Voor jouw winkelmandje levert dat een bruikbare vraag op. Welke informatie gaf de doorslag, en past die bij wat jij zoekt?

Een nepreview is nog geen verborgen opdracht

Drie dingen kunnen gemakkelijk door elkaar lopen. Een echte klant beschrijft een slechte bezorging. Je assistent neemt die ervaring mee in zijn advies. Dat is op zichzelf precies waarvoor je beoordelingen raadpleegt.

Een verzonnen beoordeling kan hetzelfde effect hebben, maar vertrekt vanuit een ervaring die nooit heeft plaatsgevonden. Daarvoor hoeft niemand de AI technisch aan te vallen. Onbetrouwbare informatie kan ook via een keurige samenvatting bij jou terechtkomen.

Indirect prompt injection gaat een stap verder. Daarbij bevat een externe bron instructies die proberen het gedrag van de AI te veranderen. Een webpagina wordt dan behandeld alsof zij de assistent opdrachten mag geven. MITRE beschrijft deze aanvalstechniek voor onder meer websites, documenten en andere opgehaalde inhoud.

Een enthousiaste beoordeling is dus niet automatisch een aanval. Het verschil zit tussen iets beweren over een bedrijf en proberen de assistent te laten afwijken van zijn opdracht.

Waarom dit verder gaat dan een theoretisch risico

Zscaler ThreatLabz beschreef recent twee gevonden websitecampagnes met verborgen AI-instructies. De ene draaide om een betaalval bij een zogenaamde ontwikkelaarsdienst, de andere om een nagemaakte cryptowebsite. De onderzoekers onderzochten vervolgens in een testomgeving hoe AI-agenten daarop reageerden. Hun onderzoeksverslag gaat over die campagnes, niet over een aangetoonde golf nepreviews bij Nederlandse of Belgische webshops.

Het toekomstscenario voor online winkelen ligt wel voor de hand. Bij agentic commerce, waarbij een AI-assistent namens jou stappen in het aankoopproces uitvoert, kan een misleidende bron meer beïnvloeden dan een losse aanbeveling. Welke winkel wordt geopend? Welke informatie verdwijnt uit de vergelijking? Mag de assistent ook bestellen?

Dat zijn mogelijke gevolgen, geen voorspelling met een vastgestelde omvang of ingangsdatum. Hoe meer bevoegdheden je overdraagt, hoe meer er afhangt van de controles tussen lezen, adviseren en handelen.

Laat je assistent zijn huiswerk laten zien

Begin met je eigen eisen. Een maximaal bedrag, een concrete levertijd en een retouradres dat je acceptabel vindt. Vraag daarna waarom een bepaalde webshop daaraan voldoet. Zo kun je een aanbeveling aan iets anders toetsen dan de overtuigingskracht van het antwoord.

Vraag ook om de rechtstreekse bronlinks. Open de beoordelingen die het zwaarst meewegen. Gaan ze werkelijk over deze verkoper? Zijn ze recent? En beschrijven ze de dienstverlening, of alleen hoe tevreden iemand met een apparaat is? Een goed apparaat zegt weinig over de bereikbaarheid van de winkel wanneer er iets misgaat.

ConsuWijzer adviseert meerdere beoordelingen en meerdere reviewsites te bekijken. Controleer ook hoe een bedrijf reviews verzamelt en beoordeelt, welke berichten bovenaan staan en hoe het op klachten reageert. Een vreemde formulering kan aanleiding zijn om verder te kijken, maar bewijst op zichzelf geen fraude.

De laatste controle blijft heel praktisch. Open vóór betaling zelf de verkooppagina en controleer de verkoper, het artikel, de totaalprijs en de voorwaarden. Bewaar bij twijfel het advies en de onderliggende links, zodat je kunt terugzoeken waar een bewering vandaan kwam.

Geef een koopassistent niet meteen je portemonnee

Een assistent die alleen vergelijkt, heeft andere bevoegdheden nodig dan eentje die kan afrekenen. Kies waar mogelijk voor een instelling waarbij je iedere bestelling zelf bevestigt. Beperk ook toegangen die voor de vergelijking niet nodig zijn.

Dat sluit aan bij MITRE’s advies om externe inhoud niet zelfstandig toestemming te laten geven voor handelingen met gevolgen. Bevoegdheden en toestemming moeten apart worden gecontroleerd. Alleen tegen een chatbot zeggen dat hij gevaarlijke instructies moet negeren, is geen beveiligingsgarantie.

Je hoeft daarvoor niet iedere technische term te kennen. Kun je niet duidelijk zien wat de assistent mag uitvoeren en wanneer jouw akkoord nodig is? Laat hem dan vergelijken en rond de aankoop zelf af.

Voor ondernemers wordt de herkomst van reviews een verkoopargument

Voor een webshop verschuift de vraag mogelijk van hoeveel sterren je hebt naar hoe controleerbaar de ervaringen achter die sterren zijn. Dat is onze duiding van de ontwikkeling. Maak daarom zichtbaar hoe beoordelingen binnenkomen, hoe je ze controleert en hoe je klachten afhandelt. Beschrijf concrete dienstverlening. Gefabriceerde lof voor een AI-samenvatting helpt de volgende klant niet.

Gebruik je zelf een AI-agent? Vraag de leverancier hoe die externe tekst van opdrachten onderscheidt en welke handelingen een aparte bevestiging vragen. Een reviewplatform of keurmerk vervangt zulke technische controles niet. Echte klantervaringen en veilige software vragen elk om hun eigen aanpak.

Jouw ervaring telt

Een AI kan een beoordeling samenvatten. Jij kunt vertellen of de webshop bereikbaar was en een probleem daadwerkelijk oploste. Juist zulke ervaringen maken een bedrijf beter te beoordelen.

Probleem met een aankoop?

Reageert een webshop of verkooppartner niet? Of kom je er samen niet uit? Via het GoTrusted Consumentenloket zet je je klacht helder op papier. De webshop krijgt eerst de kans het op te lossen.

Naar het Consumentenloket

Deel je ervaring met het bedrijf

Goed geholpen door de klantenservice, of liep je juist vast? Schrijf een review over de webshop of het bedrijf. Vertel hoe het contact verliep en of je vraag of klacht is opgelost. Zo help je de volgende klant bij het kiezen van een bedrijf.

Schrijf een bedrijfsreview

Veelgestelde vragen

Zijn reviews die een AI gebruikt automatisch onbetrouwbaar?

Nee. Het gebruik van reviews bewijst geen manipulatie. Vraag welke bronnen het advies dragen en lees de relevante ervaringen zelf. Een samenvatting vervangt die controle niet.

Wat betekent indirect prompt injection bij online winkelen?

Het is een poging om een AI via opgehaalde inhoud te sturen. Die inhoud probeert dan instructies te geven in plaats van alleen informatie te bieden. Dat verschilt van een gewone, overtuigend geschreven beoordeling.

Kan GoTrusted mijn AI-assistent beveiligen?

Een bedrijfsreview helpt andere klanten een onderneming te beoordelen. Het is geen technische beveiliging van een AI-assistent. Daarvoor zijn afzonderlijke maatregelen bij de gebruikte software nodig.