Gebruikers moeten niet zomaar vertrouwen op de AI-antwoorden van Google, zegt de Consumentenbond. Daar zouden namelijk "nog best veel fouten" in staan. De consumentenorganisatie roept Google op de kwaliteit van de antwoorden te verbeteren.
De Consumentenbond testte Google met honderd complexe vragen over voeding, gezondheid, duurzaamheid en consumentenrecht. Bij zeventig van de vragen gaf Google een overzicht dat met kunstmatige intelligentie was gegenereerd. Twintig daarvan waren volgens de Consumentenbond achterhaald, te stellig, te ongenuanceerd of te commercieel.
"Google gaf bijvoorbeeld advies over het boeken van een duurzame cruise, terwijl cruises heel vervuilend zijn", schrijft de Consumentenbond. "En Google kwam met een stappenplan voor skypen met Amerika, terwijl Skype al een paar maanden uit de lucht is."
De Consumentenbond vindt het kwalijk dat gebruikers de AI-functie niet kunnen uitschakelen. "Je kunt die niet eenvoudig uitschakelen. Dat is opmerkelijk, want er staan nog best veel fouten in", schrijft de organisatie.
Ook kosten AI-zoekopdrachten vaak extra energie. Google zegt dat een AI-antwoord net zo veel stroom kost als een normale zoekopdracht, maar het bedrijf gebruikt een combinatie van oude zoektechnologie en AI.
Bovendien kan de AI-functie volgens de consumentenorganisatie tot oneerlijke concurrentie leiden. De AI-overzichten worden vaak bovenaan de lijst met zoekresultaten getoond en gebruikers zijn gewend vooral naar de bovenste resultaten te kijken.
Dit zou in strijd zijn met de Digital Markets Act (DMA). De Consumentenbond heeft de kwestie aangekaart bij de Europese koepel van consumentenorganisaties.
Daarnaast slaan de Autoriteit Persoonsgegevens (AP) en Autoriteit Consument & Markt (ACM) de handen ineen om onbehulpzame AI-chatbots aan te pakken, meldt het FD.
Volgens de toezichthouders verschuilen steeds meer organisaties zich achter AI-chatbots en zijn ze ondoorzichtig over dat gebruik. Zulke bots zouden de mogelijkheden voor contact met medewerkers beperken.
"Wij maken ons zorgen dat mensen in de knel komen met een AI-chatbot en zo niet geholpen worden. Klantenservice blijft immers ook mensenwerk", zegt ACM-bestuurslid Martijn Ridderbos. De toezichthouders ontvangen steeds meer zorgelijke signalen over de AI-chatbots.
Source: Nu.nl economisch