Banken waarschuwen dat AI-winkelaanbieders fraude en privacyrisico's kunnen verhogen
De snelle adoptie van kunstmatige intelligentie in online winkelen roept zorgen op bij grote banken, die waarschuwen dat AI-gestuurde winkelaanbieders consumenten bloot kunnen stellen aan nieuwe vormen van fraude, oplichting en schendingen van de privacy.
Een groep internationale banken, waaronder NatWest, Bank of America, ING, Capital One, ASB Bank en Commonwealth Bank of Australia, heeft een reeks principes uiteengezet die gericht zijn op het verbeteren van de veiligheid en transparantie van de zogenaamde agentische handel. Het initiatief komt terwijl technologiebedrijven steeds vaker AI-assistenten promoten die in staat zijn om producten te zoeken, opties te vergelijken en mogelijk aankopen namens consumenten te voltooien.
De opkomende technologie zou de manier waarop mensen online winkelen aanzienlijk kunnen veranderen. In plaats van zelf individuele websites te doorbladeren, zouden consumenten steeds meer afhankelijk kunnen worden van AI-agenten om producten te identificeren, prijzen te beoordelen en transacties uit te voeren volgens instructies. Winkeliers zoeken al naar manieren om deze geautomatiseerde aanbevelingen te beïnvloeden nu AI-gegenereerde zoekopdrachten gebruikelijker worden.
De Britse retailer John Lewis meldde in september dat zoekopdrachten afkomstig van AI-agenten goed waren voor 2,5% van zijn verkeer, vergeleken met slechts 0,3% een jaar eerder, wat de snelle groei van AI-ondersteund winkelen benadrukt.
Ondanks de potentiële voordelen zegt de banksector dat consumentenbescherming en industrienormen niet in hetzelfde tempo zijn ontwikkeld als de technologie. Er blijven vragen bestaan over hoe AI-agenten aankoopbeslissingen zullen nemen, wiens belangen ze zullen prioriteren en wie verantwoordelijk zal zijn als een geautomatiseerde transactie verkeerd gaat.
Een grote zorg is de mogelijkheid dat een AI-agent een ongeschikt product kan kopen, meer geld kan uitgeven dan bedoeld of per ongeluk een klant bloot kan stellen aan een frauduleuze verkoper. Het gebruik van AI-agenten in betalingsprocessen zou ook nieuwe kwetsbaarheden kunnen creëren als consumenten gevoelige financiële informatie rechtstreeks aan geautomatiseerde systemen moeten verstrekken.
De banken hebben ook zorgen geuit over betalingskeuzes. Een AI-agent zou consumenten mogelijk kunnen aansteken naar betaalmethoden die minder bescherming bieden tegen fraude of geschillen, waardoor het moeilijker wordt voor klanten om hun geld terug te vorderen in geval van een probleem.
Privacy is een ander groot probleem. Winkelaanbieders hebben mogelijk toegang nodig tot persoonlijke informatie, betalingsgegevens, aankoopgeschiedenissen en voorkeuren om effectief te kunnen functioneren. Zonder duidelijke waarborgen zou de toegenomen stroom van consumentengegevens tussen AI-platforms, winkeliers en financiële instellingen extra privacy- en beveiligingsrisico's kunnen creëren.
De bankgroep roept daarom op tot meer transparantie rond transacties waarbij AI-agenten betrokken zijn. Onder de voorgestelde maatregelen is een vereiste dat consumenten duidelijk worden geïnformeerd wanneer een AI-systeem deelneemt aan een aankoop, evenals meer gedetailleerde uitleg over hoe deze systemen beslissingen nemen.
De banken steunen ook sterkere waarborgen voor klantinformatie en beweren dat consumenten en handelaren de vrijheid moeten behouden om te kiezen welke AI-gestuurde winkeldiensten ze gebruiken. Ze benadrukken verder het belang van interoperabiliteit, zodat verschillende AI-systemen kunnen samenwerken in plaats van gesloten ecosystemen te creëren die door individuele aanbieders worden gecontroleerd.
Het debat komt terwijl grote technologiebedrijven, waaronder OpenAI, Anthropic, Google en Meta, hun inspanningen uitbreiden om AI-assistenten te integreren in dagelijkse commerciële activiteiten. De ontwikkeling van steeds autonomere systemen zou online winkelen handiger kunnen maken, maar roept ook nieuwe vragen op over aansprakelijkheid, consumentenbescherming en financiële veiligheid.
Voor regelgevers en financiële instellingen zal de uitdaging zijn om waarborgen vast te stellen voordat AI-agenten diep verankerd raken in dagelijkse transacties. Naarmate geautomatiseerd winkelen zich ontwikkelt, kunnen duidelijkere regels over openbaarmaking, gegevensbescherming, betalingsbeveiliging en aansprakelijkheid steeds belangrijker worden om ervoor te zorgen dat meer gemak niet ten koste gaat van de rechten van consumenten.
-
11:45
-
11:15
-
11:04
-
11:00
-
10:45
-
10:30
-
10:15
-
10:00
-
09:30
-
23:30
-
23:00
-
21:40
-
19:40
-
18:20
-
18:00
-
17:40
-
17:40
-
17:00
-
16:40
-
16:00
-
15:45
-
14:40
-
14:20
-
13:20
-
13:00
-
12:45
-
12:30
-
12:15