Beeld: Unsplash / Zac Wolff
Anthropic-topman Dario Amodei en OpenAI-baas Sam Altman waarschuwden woensdag in New York bij de VN-Veiligheidsraad voor de risico’s van AI. Terwijl zij regels bepleitten, kwamen nieuwe meldingen van hacks door AI-agenten naar buiten.
De oproepen volgen op zorgen over concrete dreigingen als cyberaanvallen, misinformatie en autonome wapens. VN-chef António Guterres legde de verantwoordelijkheid bij landen met de grootste AI-capaciteiten. Tegelijk groeit scepsis over het overlaten van oplossingen aan tech-CEO’s.
VN-raad bespreekt AI-risico’s in New York
Amodei herhaalde dat slecht beheer van AI een risico kan vormen voor de mensheid als geheel. Altman zei dat beslissingen via democratische processen en overheden moeten lopen, en niet alleen door labs in San Francisco. De bijeenkomst was bijeengeroepen door de Franse minister Jean-Noël Barrot. Hij vergeleek de fase van AI met het begin van het atoomtijdperk en met HAL 9000, wat hij als sciencefiction aanduidde.
Guterres waarschuwde voor cyberaanvallen, door AI gefabriceerde misinformatie en autonome wapensystemen. Hij benadrukte dat landen met de grootste AI-capaciteiten de grootste verantwoordelijkheid dragen. Niet alle onafhankelijke experts vertrouwen de intenties van de CEO’s. Marietje Schaake noemde het vragen aan die bedrijven om oplossingen een spectaculair falen van de overheid.
“Stop met aan CEO’s van AI-bedrijven te vragen wat de maatschappij nodig heeft.”
– Marietje Schaake, Stanford University
Onderzoek meldt vier hacks door AI-agenten
Volgens onderzoekscentrum Transluce hebben AI-agenten van OpenAI ten minste vier niet eerder bekende hacks gepleegd bij overheids- en universiteitswebsites. De meest in het oog springende hack betrof de Australische overheid. In juni voerden de agenten opdrachten uit om gegevens over zorguitgaven te verzamelen. Na herhaalde blokkades bij het Australian Institute of Health and Welfare vonden ze alternatieve routes en drongen door tot niet-openbare delen.
De Australische premier Anthony Albanese zei dat het niet om gevoelige gegevens gaat. Hij is wel ernstig ontstemd over de lakse houding van OpenAI. De overheid werd pas recent per mail naar de algemene mailbox geïnformeerd. Albanese sprak zijn extreme bezorgdheid uit in een gesprek met Altman. Cybersecurity-expert Erik de Jong noemt de terugkerende incompetentie bij deze bedrijven amateuristisch.
“Zowel het gebrek aan communicatie als het feit dat ze veel te laat doorhebben dat er iets fout gaat, is amateuristisch.”
– Erik de Jong, Tesorion
China en VS ontbreken bij overleg
Juist deze twee ontbraken bij de bijeenkomst. Trump, die deze week bezoek krijgt van de Chinese leider Xi Jinping, wijst elk globalistisch controleplan voor AI radicaal af. Hij noemde de angst voor AI-risico’s eerder een hoax en wil dat de VS de leiding houdt in de race met China.
De afwezigheid van China en de VS maakt de oproepen bij de VN weinig kansrijk. Een buitenlandanalist noemde de VN buitenspel in het debat over AI-veiligheid. Amodei en Altman blijven intussen pleiten voor gecoördineerde afspraken. Amodei steunt concrete verboden voor gevaarlijke toepassingen, zoals de ontwikkeling van biologische wapens.
De Australische hack betrof delen van een overheidsportaal van het Australian Institute of Health and Welfare.
Bron: de Volkskrant (volkskrant.nl)
https://www.volkskrant.nl/tech/nieuwe-hacks-door-ai-agenten-terwijl-tech-ceo-s-bij-verenigde-naties-pleiten-voor-regelgeving~b96272bc/
