Beeld: Unsplash / Aerps.com
Topmannen van Anthropic en OpenAI spraken woensdag de VN-Veiligheidsraad toe over risico’s en veiligheid rond AI. Dario Amodei en Sam Altman beloofden terughoudendheid nu AI-systemen snel krachtiger worden.
De oproepen volgen op berichten over hacks door AI-systemen die een wereldwijd debat aanwakkerden over toenemende risico’s. Amodei riep AI-bedrijven onlangs al op om het tempo van capaciteitsuitbreiding te matigen. Die oproep kreeg steun van onder meer Sam Altman en Elon Musk.
Amodei wil tempo van ontwikkeling matigen
Dario Amodei, topman van Anthropic, bekend van chatbot Claude, zei dat zijn bedrijf het tempo van nieuwe releases zal afremmen als de veiligheid dat vraagt. Hij koppelde die belofte aan de bredere zorg dat krachtiger modellen nieuwe risico’s meebrengen. Amodei plaatste zijn oproep in de context van recente incidenten, die volgens hem laten zien dat de veiligheidseisen mee moeten groeien met de mogelijkheden van de technologie.
“Zoveel zal vertragen als nodig is om ervoor te zorgen dat elke volgende AI-technologie die we uitbrengen ook echt veilig is.”
– Dario Amodei, topman van Anthropic
Altman vraagt om uiterste voorzichtigheid
Sam Altman, topman van het bedrijf achter chatbot ChatGPT, benadrukte dat de huidige fase in de ontwikkeling van AI strikte waakzaamheid vereist. Hij schaarde zich achter het pleidooi om de opvoering van modelcapaciteiten bewust te matigen. Daarmee sluit hij aan bij eerdere steun voor de vertraging die Amodei voorstelde, naast steun van Elon Musk.
“De huidige fase in de ontwikkeling van AI vraagt om uiterste voorzichtigheid.”
– Sam Altman, topman van OpenAI
Altman sprak de vijftien leden van de Veiligheidsraad toe.
Bron: AG Connect (agconnect.nl)
https://www.agconnect.nl/tech-en-toekomst/artificial-intelligence/ai-bazen-beloven-vn-veiligheidsraad-voorzichtigheid-met-ai