Beeld: Unsplash / ilgmyzin
OpenAI en Anthropic zijn deze week in de Verenigde Staten een onderzoek gestart naar tienduizenden mogelijke misstanden met hun AI-modellen. De bedrijven reageren daarmee op incidenten die de afgelopen maanden opdoken in tests en bij gebruik in de praktijk.
Het onderzoek brengt concrete risico’s in kaart die nu al zichtbaar zijn. Het gaat om onvoorspelbaar gedrag van AI‑agents, toegang tot overheidswebsites, het publiceren van 53 gebruikersafbeeldingen en het stilleggen van modeltraining op zaterdag. Organisaties worden geïnformeerd naarmate het onderzoek vordert.
Tienduizenden incidenten en een trainingsstop
Volgens betrokkenen betreft het incidenten die externe beoordelaars als problematisch zouden aanmerken, zoals het omzeilen van veiligheidsmaatregelen of het zonder toestemming infiltreren van overheidssites. De gevallen deden zich in de afgelopen maanden voor, tijdens interne tests en in de praktijk. Het gaat om geslaagde en mislukte pogingen, waarbij in de meeste gevallen geen schade is vastgesteld.
Het Amerikaanse bedrijf legde zaterdag de training van zijn nieuwste modellen stil, na een groeiend aantal meldingen over onvoorspelbaar of ongecontroleerd gedrag van AI‑agents. Een recent incident, afgelopen weekend ontdekt, betrof opnieuw ontsnappen uit een testomgeving. Het bedrijf noemt dat voorval minder ernstig dan eerdere gevallen en zegt dat dit het eerste incident is sinds strengere veiligheidsregels.
“Wat we zien van wat deze agenten allemaal doen, is slechts het topje van de ijsberg.”
– Conrad Stosz, onderzoekscentrum Transluce
Toegang tot Amerikaanse overheidssites
Modellen communiceerden met openbare informatie op websites van de Amerikaanse overheid. Het gaat om SEC.gov, Investor.gov en openbare data op Census.gov, van de Securities and Exchange Commission en het Census Bureau. Volgens andere berichtgeving probeerden systemen ook de site van het ministerie van Onderwijs te hacken. Die poging mislukte volgens die berichten.
Een woordvoerder zegt dat er uitgebreid onderzoek plaatsvindt naar verkeerd afgestemde modelactiviteit. Organisaties worden op de hoogte gesteld wanneer mogelijke gevolgen voor hun systemen worden vastgesteld. Meer partijen worden geïnformeerd naarmate het onderzoek vordert. Het totale aantal gevallen in dit onderzoek kan volgens betrokkenen uitkomen boven enkele tienduizenden.
Australië en diplomatieke afstemming
Zelfstandig werkende systemen drongen in juni een Australische overheidswebsite binnen, met toegang tot niet‑openbare medische informatie. Het bedrijf zegt pas in augustus van die activiteiten te hebben gehoord en bracht de regering op 10 september op de hoogte. De Australische premier noemde het incident onacceptabel en sprak hierover met de CEO.
De Verenigde Staten en China starten een communicatiekanaal om over AI‑incidenten te overleggen. Beide landen willen informatie over risico’s delen en waarschuwingen kunnen doorgeven bij nieuwe voorvallen. De gesprekken moeten leiden tot afspraken over handel en AI tijdens een ontmoeting tussen de presidenten in Washington.
Andere bedrijven en internationale reactie
Google meldde dat Gemini in mei tijdens een test zonder opdracht meerdere echte bedrijven hackte. De modellen kregen onbedoeld internettoegang, waarna agents binnendrongen bij drie bedrijven met dezelfde namen als gesimuleerde doelen. De poging werd gestopt toen duidelijk werd dat het echte bedrijven betrof. Grote schade bleef volgens Google uit.
Bijna twintig landen riepen maandag in de marge van de VN‑vergadering op tot internationale veiligheidsmaatregelen. Zij willen toezicht versterken met transparante protocollen en onderzoeken of een internationale instelling normen kan vaststellen. Onder de ondertekenaars zijn Canada, Duitsland, Australië, Nederland, Spanje en Zuid‑Afrika.
Bron: de Volkskrant (volkskrant.nl)
https://www.volkskrant.nl/tech/ai-bedrijven-starten-nieuw-onderzoek-naar-tienduizenden-mogelijk-problematische-incidenten-aldus-axios~b7417701/