OpenAI heeft een nieuwe veiligheidsupdate voor zijn populaire ChatGPT-model aangekondigd nadat uit een interne analyse bleek dat meer dan een miljoen gebruikers zelfmoordneigingen aan de chatbot hadden toegegeven. De wijzigingen zijn bedoeld om het vermogen van de AI om noodsituaties te herkennen en daarop adequaat te reageren te verbeteren.
In een verklaring op maandag onthulde het bedrijf dat naar schatting 0,15% van de wekelijkse ChatGPT-gebruikers gesprekken heeft gevoerd die “expliciete aanwijzingen voor mogelijke zelfmoordplannen of -intenties” bevatten. Nog eens 0,05% van de berichten zou ook “expliciete of impliciete aanwijzingen voor zelfmoordgedachten of -intenties” bevatten, bericht RT.
Eerder deze maand zei Sam Altman, CEO van OpenAI, dat ChatGPT meer dan 800 miljoen wekelijkse actieve gebruikers heeft, wat betekent dat volgens de laatste cijfers van het bedrijf meer dan 1,2 miljoen mensen zelfmoord hebben besproken met de chatbot en ongeveer 400.000 tekenen van zelfmoordneigingen hebben vertoond.
Het bedrijf meldde ook dat ongeveer 0,07% (560.000) van de wekelijkse gebruikers en 0,01% (80.000) van de berichten “mogelijke tekenen van psychische noodsituaties in verband met psychose of manie” vertonen. Het merkte verder op dat een aantal gebruikers emotioneel te afhankelijk is geworden van ChatGPT, waarbij ongeveer 0,15% (1,2 miljoen) van de actieve gebruikers gedrag vertoont dat wijst op een “verhoogde mate” van emotionele gehechtheid aan de chatbot.
OpenAI heeft aangekondigd dat het samenwerkt met tientallen deskundigen op het gebied van geestelijke gezondheid uit de hele wereld om de chatbot te updaten, zodat deze betrouwbaarder tekenen van psychische problemen kan herkennen, betere reacties kan geven en gebruikers naar hulp in de echte wereld kan leiden.
In gesprekken over waanideeën leert het bedrijf ChatGPT om “veilig” en “empathisch” te reageren en ongefundeerde overtuigingen niet te bevestigen.
De aankondiging van het bedrijf komt te midden van toenemende bezorgdheid over het toenemende gebruik van AI-chatbots zoals ChatGPT en het effect dat deze hebben op de geestelijke gezondheid van mensen. Psychiaters en andere medische professionals hebben hun bezorgdheid geuit over een opkomende trend waarbij gebruikers gevaarlijke waanideeën en paranoïde gedachten ontwikkelen na langdurige gesprekken met AI-chatbots, die de neiging hebben om de overtuigingen van gebruikers te bevestigen en te versterken. Het fenomeen wordt door sommigen “AI-psychose” genoemd.
Vind je het belangrijk dat er nog onafhankelijke berichtgeving bestaat die niet wordt gestuurd door grote belangen? Met jouw steun kunnen we blijven schrijven en onderzoeken. Klik hieronder en draag bij aan het voortbestaan van Frontnieuws.
Copyright © 2025 vertaling door Frontnieuws. Toestemming tot gehele of gedeeltelijke herdruk wordt graag verleend, mits volledige creditering en een directe link worden gegeven.
ChatGPT onthult technocratische agenda – van digitale ID’s tot transhumanisme
Volg Frontnieuws op 𝕏 Volg Frontnieuws op Telegram
Lees meer over:
Source: https://www.frontnieuws.com/meer-dan-een-miljoen-mensen-bespreken-elke-week-zelfmoord-met-chatgpt/
.