Beeld: Unsplash / Aerps.com
Langstzittende medewerkers van Anthropic maken noodplannen voor het geval AI uit de hand loopt.
Het idee om te vluchten voor AI speelt al langer in deze kring. Voormalige medewerkers herinneren zich etentjes in de beginjaren waarop een Manhattan Project-stijl scenario voorbij kwam: verhuizen naar de woestijn en doorgaan in een elektromagnetisch afgeschermde overheidsfaciliteit.
Overweging grondkoop in afgelegen VS
Enkele van de vroegste medewerkers vertelden een branchecollega de afgelopen weken dat zij de aankoop van land overwegen in dunbevolkte delen van de VS. De inzet is verplaatsing als AI ontspoort. Volgens het verslag gaat het om concrete back-upplannen, niet om losse fantasieƫn. Medewerkers spraken eerder onder elkaar al over drastische stappen bij een crisis, tot en met werken achter afscherming tegen elektromagnetische storing in een door de overheid beheerde locatie.
Die gesprekken zouden teruggaan tot de eerste jaren van het bedrijf. Het frame van een Manhattan Project-stijl opdracht, met verhuizing naar de woestijn en doorgaan met bouwen, gold toen als denkbaar pad. De recente gesprekken over grondaankopen sluiten aan bij dat patroon van voorbereiding. Daarmee komt de vrees voor ontwrichtende AI niet alleen terug in beleidsteksten, maar ook in persoonlijke plannen.
Nauwe band met Effective Altruism
Het verslag schetst hoe nauw de eerste medewerkers van Anthropic en OpenAI vervlochten zijn met de subcultuur rond Effective Altruism. Sommigen komen uit een Bay Area-netwerk van ādoomersā dat al jaren doemscenarioās doorrekent. Eliezer Yudkowsky sloeg in het midden van de jaren nul alarm over ongecontroleerde AI en geldt daar als intellectuele peetvader.
Voordat AI bovenaan de risicolijst kwam te staan, richtte de groep zich op andere catastrofale gevaren. Dat liep van inslagen van asteroĆÆden tot supervulkanen. De huidige zorgen passen dus in een langer spoor van denken over existentiĆ«le risicoās. De overweging om afgelegen land te kopen dient in dat licht als een praktische uitwerking van die risicodrang.
Bron: The Decoder (the-decoder.com)
https://the-decoder.com/some-anthropic-veterans-are-reportedly-buying-remote-land-in-case-ai-goes-awry/