Een 16-jarige jongen is met een helikopter gered van een gevaarlijke rotswand bij Vancouver. Hij had AI-chatbot Claude gebruikt om een nieuwe route naar de top van Crown Mountain te zoeken, maar belandde op een steile passage waarvoor klimuitrusting nodig is.
Dat meldt The Decoder op basis van berichtgeving van The New York Times. De jongen, Bryce Vincent Gowryluk, zegt zelf verantwoordelijkheid te nemen. Bij de voorbereiding gebruikte hij naast Claude ook Google Maps en AllTrails.
Vast op een smalle richel
Bryce kwam terecht op de ‘Widowmaker Arete’, een steile rotsformatie. Daar raakte hij vast op een richel van ongeveer anderhalve meter breed.
Hij belde de politie, die het vrijwillige reddingsteam North Shore Rescue inschakelde. De redders bepaalden zijn locatie via zijn mobiele telefoon en stuurden een helikopter.
Twee teamleden werden boven zijn positie afgezet. Een van hen daalde met een touw af naar Bryce en begeleidde hem naar een plek waar de helikopter hem kon ophijsen.
Jongen geeft Claude niet de schuld
Bryce zegt dat hij Claude niet verantwoordelijk houdt voor het incident. Hij had meerdere hulpmiddelen gebruikt om zijn tocht voor te bereiden en neemt de verantwoordelijkheid voor zijn keuzes.
Reddingsmanager Paul Markey waarschuwt volgens de berichtgeving dat Claude geen daadwerkelijke kennis heeft van locaties of terrein. AI kan ervaring en gezond verstand tijdens een bergtocht volgens hem niet vervangen.
Anthropic, het bedrijf achter Claude, reageerde niet op een verzoek om commentaar. Bryce wil blijven klimmen, maar zegt AI niet meer voor routeplanning te zullen gebruiken.
Een overtuigende route is nog geen veilige route
Uit de berichtgeving wordt niet duidelijk wat Bryce precies aan Claude vroeg of welk antwoord de chatbot gaf. Daardoor valt niet vast te stellen welke aanwijzing hem naar de gevaarlijke passage leidde.
Onze kijk: bij routeplanning moet je kunnen controleren of een advies past bij het terrein, je ervaring en je uitrusting. Een helder geschreven antwoord biedt die zekerheid niet.
Dat is ook relevant voor Nederlandse wandelaars die tijdens een vakantie een bergtocht voorbereiden. Gebruik een chatbot niet als doorslaggevende bron voor de veiligheid van een route.
De bredere beperking leggen we uit in ons artikel over waarom AI hallucineert en overtuigend klinkende fouten kan maken. Of in dit specifieke geval sprake was van zo’n fout, blijkt niet uit de beschikbare informatie.
Bron: The Decoder, op basis van The New York Times.