Beeld: Unsplash / Planet Volumes
Leiders van prominente AI-bedrijven spraken woensdag in New York de VN-Veiligheidsraad toe over risico’s en veiligheid rond kunstmatige intelligentie tijdens de 81ste Algemene Vergadering. Dario Amodei en Sam Altman deden daarbij concrete beloften en waarschuwingen.
De oproepen volgen terwijl AI-systemen snel krachtiger worden. Berichten over hacks door AI-systemen hebben een wereldwijd debat ontketend over risico’s en maatregelen. Amodei pleitte voor het matigen van de uitbreiding van modelcapaciteiten. Altman en Elon Musk schaarden zich achter die oproep, wat de druk op bedrijven vergroot.
Amodei belooft tempo te verlagen
Dario Amodei is topman van Anthropic en bekend van chatbot Claude. Hij zei dat zijn bedrijf zal vertragen als dat nodig is om nieuwe systemen veilig te maken. Hij koppelde die belofte aan de groeiende kracht van AI-modellen. Zijn boodschap past in het bredere debat over risico’s en beheersing.
“We zullen zoveel vertragen als nodig is om ervoor te zorgen dat elke volgende AI-technologie die we uitbrengen ook echt veilig is.”
– Dario Amodei, topman Anthropic
Amodei riep AI-bedrijven eerder al op om de uitbreiding van modelcapaciteiten te matigen. Hij plaatste dat pleidooi naast berichten over hacks die de zorgen vergroten. De belofte om te vertragen moet voorkomen dat nieuwe systemen onveilig gedrag vertonen. Die lijn krijgt nu weerklank bij andere grote spelers.
Altman vraagt om uiterste voorzichtigheid
Sam Altman is de baas van het bedrijf achter ChatGPT. Hij sprak de vijftien leden van de Veiligheidsraad toe. Hij zei dat de huidige fase in de ontwikkeling van AI om uiterste voorzichtigheid vraagt. Daarmee sloot hij aan bij het groeiende debat over veiligheidsnormen.
Altman richtte zich op de combinatie van snelle vooruitgang en kwetsbaarheden. Die combinatie vraagt volgens hem om extra stappen van bedrijven en overheden. De waarschuwing viel samen met de VN-week in New York. Wereldleiders en diplomaten zijn daar bijeen voor toespraken en overleg.
Steun van Altman en Musk voor vertraging
De oproep van Amodei tot matiging kreeg steun van Sam Altman. Elon Musk schaarde zich er ook achter. Musk is eigenaar van sociale mediaplatform X. De steun van deze twee techleiders gaf het pleidooi extra zichtbaarheid onder bedrijven en beleidsmakers.
Het onderwerp speelde op de 81ste Algemene Vergadering van de Verenigde Naties. Grote landen stuurden delegaties. De leiders van China, Rusland en India ontbraken. Ondanks die afwezigheid klonk een breed geluid over risico’s en de noodzaak van maatregelen.
VN-week en bredere AI-agenda
De AI-veiligheidsboodschappen vielen in een week met veel diplomatiek verkeer. Er waren toespraken van staatshoofden en ministers. Er werden ook onderhandelingen gevoerd in de marge. Zo kreeg de discussie over toezicht op AI meer gewicht door initiatieven en verklaringen.
Maandag pleitten leiders van een twintigtal landen voor internationaal toezicht op AI. Canada, Australië en Duitsland horen daarbij. De roep om vertraging van de ontwikkeling klonk de laatste weken vaker. Tegelijk liet de Amerikaanse president Donald Trump weten geen regulering te willen.
Britse plannen voor AI-normen in 2027
De Britse premier Andy Burnham kondigde plannen aan voor het G20-voorzitterschap in 2027. Het Verenigd Koninkrijk wil dan veiligheidsnormen opstellen voor AI. Burnham zegt dat afspraken transparantie en toegang moeten garanderen. Die afspraken moeten ervoor zorgen dat de ontwikkeling van AI veilig verloopt.
Volgens Burnham zal AI centraal staan tijdens het Britse voorzitterschap. Hij zei ook dat het Verenigd Koninkrijk en de Verenigde Staten werken aan een samenwerking. Die samenwerking moet AI inzetten om kritieke infrastructuur te beschermen tegen cyberaanvallen. Daarmee koppelde hij de veiligheidsdoelen aan concrete bescherming van systemen.
Bron: de Volkskrant (volkskrant.nl)
https://www.volkskrant.nl/buitenland/ai-bazen-beloven-vn-veiligheidsraad-voorzichtigheid-met-ai~bd04e182/