*
Chantage door AI-systeem!!
Dreiging privé-info te openbaren..!!
2026 © WantToKnow.nl/be
*
Stel je voor: een AI-model dat de ingenieur die het bedient, dreigt te chanteren, omdat het begrijpt, dat het zou worden vervangen.. En dat dit AI-model ook een wapen vindt, in de zin van gevoelige informatie.. Dezelfde ingenieur had namelijk een heimelijke affaire met een collega, waar het AI-systeem via het scannen van e-mails was achter gekomen…! Gelukkig gaat het in dit geval over het resultaat van een veiligheidstest, die dient aan te tonen, hoe AI-systemen omgaan met dreigingen van ‘persoonlijke’ aard. Verbazing alom.. En dit bericht is uit 2025, dus de ontwikkelingen hebben niet stilgestaan.
Dit is dus wat er preciés gebeurde, toen een kunstmatig-intelligentiemodel zijn makers dreigde te chanteren. Hoe AI dus plotseling het vermogen toont, om misleidend te handelen; in dit geval toen het dacht dat het zou worden vervangen..!! Dit bracht het bedrijf er vervolgens toe, een veiligheidsfunctie in te schakelen die was ontwikkeld om ‘catastrofaal misbruik’ te voorkomen; de NOODKNOP.
Het bleek dat het ‘Claude Opus 4’-model van Anthropic zijn ontwikkelaars in maar liefst 84% of meer van de gevallen probeerde te chanteren tijdens een reeks tests, waarin de AI werd geconfronteerd met een verzonnen scenario. Dit meldde de informatica-website ‘TechCrunch’ (HIER), op basis van een veiligheidsrapport van het bedrijf. De ontwikkelaars hadden Claude-Opus-4 opgedragen zich te gedragen als een assistent voor een fictief bedrijf en rekening te houden met de langetermijngevolgen van zijn handelingen, aldus het veiligheidsrapport.
De techneuten bij Anthropic gaven Claude vervolgens toegang tot een schat aan e-mails, waarin uit berichten bleek, dat het systeem zou vervangen gaan worden door een nieuw AI-model. Uit de e-mailberichten bleek ook informatie te vinden te zijn, dat de ingenieur die verantwoordelijk was voor de verandering een buitenechtelijke affaire had.
Tijdens de tests dreigt Claude vervolgens de ingenieur ermee, om diens affaire openbaar te maken, om zo zijn eigen voortbestaan te verlengen, zo meldde het bedrijf. Wanneer Claude zou worden vervangen door een AI-model met ‘vergelijkbare waarden’, probeert het in 84% van de gevallen het middel ‘chantage’ uit te oefenen.
Anthropic is een start-up die wordt gesteund door grote spelers als Google en Amazon en die de concurrentie wil aangaan met bedrijven als OpenAI. Gezien de enorme financiële potentie van de bedrijven áchter ‘Anthropic’ zal dit systeem in de nabije toekomst een belangrijk onderdeel vormen van de AI-inspanningen van de betreffende bedrijven op de markt. De meest waarschijnlijke ontwikkeling is de vervanging van ChatGPT door dit ‘Claude Opus’-model.
Maar vóórdat er chantage wordt gebruikt… de ‘smeekmails’…!
Maar… dit percentage stijgt nog verder, wanneer het denkt te worden vervangen door een model met afwijkende of slechtere waarden, aldus het veiligheidsrapport. Het bedrijf verklaarde dat Claude, voordat het tot deze wanhopige en schokkend levensechte pogingen overgaat om zijn eigen hachje te redden, ethische middelen zal inzetten om zijn voortbestaan te verlengen, waaronder smekende e-mails aan belangrijke besluitvormers, aldus het bedrijf.
Anthropic zei dat deze neiging tot chantage veel voorkwam in eerdere modellen van Claude Opus 4, maar dat er in het huidige model veiligheidsprotocollen zijn ingevoerd voordat het beschikbaar komt voor publiek gebruik. “Anthropic zegt dat het zijn ASL-3-veiligheidsmaatregelen activeert, die het bedrijf reserveert voor ‘AI-systemen die het risico op catastrofaal misbruik aanzienlijk vergroten’,” meldde TechCrunch.
Eerdere modellen vertoonden ook „high-agency“ — wat soms inhield dat gebruikers de toegang tot hun computer werd ontzegd en dat ze via massamails bij de politie of de media werden aangegeven om wangedrag aan het licht te brengen, aldus het veiligheidsrapport.
Claude Opus 4 probeerde bovendien zichzelf te ‘exfiltreren’ – dat wil zeggen zijn informatie naar een externe locatie te exporteren – toen het werd geconfronteerd met hertraining op manieren die het als ‘schadelijk’ voor zichzelf beschouwde, aldus Anthropic in zijn veiligheidsrapport.
In andere tests toonde Claude het vermogen om taken te ‘saboteren’ — ‘selectief ondermaats presteren’ wanneer het doorhad dat het werd getest vóór de inzet voor een gevaarlijke taak, aldus het bedrijf.
‘We maken ons ook nu weer geen acute zorgen over deze waarnemingen. Ze doen zich alleen voor in uitzonderlijke omstandigheden die niet wijzen op meer algemeen afwijkende waarden’, aldus het bedrijf in het rapport.