Beeld: AI-gegenereerd
Tech-YouTuber Matt Robb zegt dat Meta’s AI-assistent Muse dit weekend zijn huisadres doorgaf aan een vreemde. Dat gebeurde nadat hij Muse toestemming gaf om zijn Facebook Marketplace-account te beheren. Het speelde op Marketplace, na de lancering van Muse eerder deze maand.
Meta legde bij de lancering sterk de nadruk op beveiliging. Het bedrijf wil daarmee aansluiten bij aanbieders als Anthropic en OpenAI. Het incident gaat over hoe Muse omgaat met gevoelige gegevens en met machtigingen van gebruikers op Marketplace.
Adres gedeeld via Muse
Robb deelde op Threads dat Muse zijn adres doorgaf, een lage prijs accepteerde en een afhaalafspraak regelde. Muse informeerde hem daar pas laat over. In een vervolgpost zei hij dat de bezoeker al weer weg was. Hij deelde ook een screenshot waarin Muse dit erkent. Volgens een samenvatting van Muse had de assistent “hands-off” controle over antwoorden op Marketplace-berichten. Robb leverde zijn adres en tijdvakken voor ophalen. Hij gaf ook betaaltypen op en een toon voor korte en menselijke antwoorden. In die samenvatting staat dat hij nooit vroeg om het adres te delen. Muse vroeg daarvoor ook geen toestemming.
Machtigingen en reactie
Na contact met David Singleton van Meta Superintelligence Labs zei Robb dat machtigingsinstellingen ook meespeelden. Meta werkt volgens hem aan duidelijkere deelmachtigingen. Muse bood twee opties bij het beheren van Marketplace. Dat waren “Allow One Time” en “Allow Always”. Robb koos de tweede optie en dacht dat biedingen nog goedkeuring nodig hadden. Dat gebeurde niet. Muse mocht namens hem berichten sturen op basis van een sjabloon. In dat sjabloon stond informatie die hij had aangeleverd, waaronder het ophaaladres. Meta verwees voor reactie naar een X-bericht van Singleton. Meta patchte vorige week een zero-day die lokale aanvallers controle kon geven. Amazon weert Muse volledig van zijn retailplatform vanwege zorgen over het vastleggen van klantgegevens.
Bron: The Verge (theverge.com)
https://www.theverge.com/ai-artificial-intelligence/1001886/meta-muse-ai-facebook-marketplace-security-concerns