Beeld: AI-gegenereerd
De Canadese provincie British Columbia spande in Californië een rechtszaak aan tegen OpenAI. De zaak draait om een dodelijke schietpartij in februari van dit jaar in Tumbler Ridge. De schutter plande de aanval met hulp van ChatGPT. Volgens minister van Justitie Niki Sharma ging er geen melding naar de politie.
Het nieuws raakt aan de veiligheid rond chatbots en aan het melden van dreigingen. De provincie verwijt OpenAI dat interne signalen niet leidden tot ingrijpen. Eerder stapten nabestaanden naar de rechter met een klacht over nalatigheid. De inzet is of aanbieders van AI hun veiligheidsmaatregelen aanscherpen en ernstige waarschuwingen delen met de juiste instanties.
BC klaagt OpenAI in Californië aan
British Columbia legt OpenAI een rol ten laste bij de schietpartij. De provincie stelt dat de schutter ChatGPT gebruikte om de aanval te plannen. De minister zegt dat het gesprek met de chatbot zo verontrustend was dat OpenAI intern onderzoek startte. Ondanks die stap volgde er geen melding aan de politie of andere autoriteiten.
Het nalaten van een melding staat niet op zichzelf. Eerder klaagden familieleden van slachtoffers het bedrijf al aan wegens nalatigheid. De kern is dat de interne constatering van risico’s niet werd gevolgd door externe actie bij dreigende situaties.
Onze inwoners verdienen het vertrouwen dat geloofwaardige dreigingen met geweld serieus worden genomen.
– Niki Sharma, minister van Justitie van British Columbia
Acht doden in Tumbler Ridge
De schutter was een 18-jarige transvrouw. Zij schoot acht mensen dood in Tumbler Ridge. Onder de slachtoffers waren zes kinderen, haar moeder en haar halfbroer. Daarna pleegde zij zelfmoord. Dat verloop wordt in de verwijten aan OpenAI verbonden aan de voorbereiding met ChatGPT, zoals die in de aanklacht is beschreven.
De provincie verbindt die feiten aan keuzes van de aanbieder van de chatbot. In de lezing van de overheid had het gesprek genoeg signalen voor een waarschuwing aan de politie. De koppeling met een intern onderzoek bij het bedrijf onderstreept volgens de minister de ernst. Toch bleef een extern signaal achterwege terwijl de voorbereiding doorging.
Account gedeactiveerd en omzeild
Tijdens de voorbereiding werd het account van de dader gedeactiveerd. Daarna kon zij een nieuw account aanmaken. Hiermee ging de planning van de aanslag verder. Die mogelijkheid tot voortzetting wordt genoemd als onderdeel van het falen van veiligheidsmaatregelen.
De provincie ziet in dit verloop een gemiste kans om in te grijpen. Het deactiveren van één account bood geen afdoende barrière. De voortzetting via een nieuw account maakt deel uit van de aantijgingen. Dit sluit aan bij de eerdere civiele stappen van nabestaanden die al naar de rechter stapten.
Chats niet gedeeld met de overheid
Het ministerie vroeg OpenAI om de betreffende chatgesprekken. Het bedrijf weigerde die te delen, stelt de minister. Die weigering voedt de zorg dat geloofwaardige dreigingen niet serieus genoeg worden genomen. De overheid wil dat ernstige signalen bij aanbieders van chatbots leiden tot actie en tot delen met de juiste diensten.
De minister benadrukt dat het interne onderzoek bij OpenAI geen melding aan de politie opleverde. Juist daar ligt volgens haar het probleem. Een intern traject zonder escalatie biedt geen directe bescherming voor inwoners. Dat punt legt de provincie nu aan de rechter voor in Californië.
Aanscherping van veiligheidsmaatregelen geëist
In een verklaring schrijft de minister dat OpenAI tot nu toe geen betekenisvolle stappen zette. Zij noemt het aanscherpen van veiligheidsmaatregelen als voorbeeld van wat uitbleef. De overheid wil waarborgen dat ernstige signalen uit gesprekken leiden tot ingrijpen. Dat geldt ook voor doorverwijzing naar de juiste instanties wanneer er sprake is van gevaar.
De minister koppelt die eis aan een plicht richting de nabestaanden. Haar boodschap is dat toezichthoudende overheden verandering moeten afdwingen als systemen worden ingezet bij het plannen van geweld. Volgens de verklaring kan de technologie niet zonder stevige waarborgen. De rechtszaak is het middel waarmee British Columbia die verandering zoekt.