OpenAI lijkt een nieuwe tool die door ChatGPT gegenereerde content kan detecteren, voorlopig achter te houden. De tool zou naar eigen zeggen ‘zeer nauwkeurig’ zijn.
Dit besluit komt voort uit zorgen dat de tool gemanipuleerd zou kunnen worden en dat niet-Engelstalige gebruikers geen toegang zouden hebben tot betrouwbare tekstgeneratie met AI-modellen.
In mei meldde het bedrijf in een blogpost dat het werkte aan verschillende methoden om content te identificeren die specifiek door zijn producten is gegenereerd. Echter, volgens een exclusief rapport van de Wall Street Journal (WSJ) op 4 augustus, zijn de plannen voor de vrijgave van deze tools vastgelopen door interne discussies over de mogelijke gevolgen.
Naar aanleiding van het WSJ-rapport heeft OpenAI zijn blogpost uit mei bijgewerkt met nieuwe informatie over de detectietools. Het bedrijf gaf aan dat er nog steeds geen tijdschema is voor de release, ondanks dat ten minste één tool “zeer nauwkeurig en zelfs effectief tegen lokale manipulatie” zou zijn.
OpenAI verklaarde dat er nog steeds methoden zijn waarmee kwaadwillenden de detectie kunnen omzeilen, waardoor het bedrijf niet bereid is de tool openbaar te maken. Bovendien suggereert het bedrijf dat niet-Engelstaligen mogelijk “gestigmatiseerd” zouden kunnen worden bij het gebruik van AI-producten voor schrijffuncties. Dit komt door een exploit waarbij Engelse tekst naar een andere taal wordt vertaald om detectie te ontwijken.
“Een ander belangrijk risico dat we afwegen, is dat ons onderzoek suggereert dat de tekstwatermerkmethode het potentieel heeft om onevenredig veel impact te hebben op sommige groepen. Het zou bijvoorbeeld het gebruik van AI als een nuttig schrijfmiddel voor niet-Engelstaligen kunnen stigmatiseren,” aldus OpenAI.
Alhoewel er momenteel diverse producten en diensten beschikbaar zijn die beweren AI-gegenereerde content te kunnen detecteren, heeft geen enkele hiervan, voor zover bekend, een hoge mate van nauwkeurigheid aangetoond in peer-reviewed onderzoek. OpenAI’s detectietool zou het eerste intern ontwikkelde systeem zijn dat vertrouwt op onzichtbare watermerken en gepatenteerde detectiemethoden voor content die specifiek door de modellen van het bedrijf is gegenereerd.
Een overheidsapp wordt verplicht vooraf geïnstalleerd op smartphones in India. Apple en privacygroepen reageren kritisch op het besluit.
CNN gebruikt voortaan marktdata van Kalshi om nieuws te duiden. Wat zegt dat over hoe wij naar de wereld kijken?
De Kaaimaneilanden zien een sterke groei in het aantal Web3- en DAO-stichtingen dat zich daar vestigt.
In Brazilië waarschuwen cybersecurityexperts voor een nieuwe malwarecampagne die zich razendsnel verspreidt via WhatsApp.
Raoul Pal voorspelde de huidige Bitcoin-daling al maanden geleden. Analisten denken dat dit juist het begin kan zijn van een nieuwe stijging.
Cryptomarkt klapt hard omlaag, maar alle ogen zijn gericht op Powells speech. Een hint op renteverlaging kan de markt laten herstellen.
