OpenAI stelt release van nieuwe detectietool voor AI-gegenereerde content uit

OpenAI lijkt een nieuwe tool die door ChatGPT gegenereerde content kan detecteren, voorlopig achter te houden. De tool zou naar eigen zeggen ‘zeer nauwkeurig’ zijn.

Dit besluit komt voort uit zorgen dat de tool gemanipuleerd zou kunnen worden en dat niet-Engelstalige gebruikers geen toegang zouden hebben tot betrouwbare tekstgeneratie met AI-modellen.

Werken aan methoden om AI-content te identificeren

In mei meldde het bedrijf in een blogpost dat het werkte aan verschillende methoden om content te identificeren die specifiek door zijn producten is gegenereerd. Echter, volgens een exclusief rapport van de Wall Street Journal (WSJ) op 4 augustus, zijn de plannen voor de vrijgave van deze tools vastgelopen door interne discussies over de mogelijke gevolgen.

Naar aanleiding van het WSJ-rapport heeft OpenAI zijn blogpost uit mei bijgewerkt met nieuwe informatie over de detectietools. Het bedrijf gaf aan dat er nog steeds geen tijdschema is voor de release, ondanks dat ten minste één tool “zeer nauwkeurig en zelfs effectief tegen lokale manipulatie” zou zijn.

Detectie kan nog altijd omzeild worden

OpenAI verklaarde dat er nog steeds methoden zijn waarmee kwaadwillenden de detectie kunnen omzeilen, waardoor het bedrijf niet bereid is de tool openbaar te maken. Bovendien suggereert het bedrijf dat niet-Engelstaligen mogelijk “gestigmatiseerd” zouden kunnen worden bij het gebruik van AI-producten voor schrijffuncties. Dit komt door een exploit waarbij Engelse tekst naar een andere taal wordt vertaald om detectie te ontwijken.

“Een ander belangrijk risico dat we afwegen, is dat ons onderzoek suggereert dat de tekstwatermerkmethode het potentieel heeft om onevenredig veel impact te hebben op sommige groepen. Het zou bijvoorbeeld het gebruik van AI als een nuttig schrijfmiddel voor niet-Engelstaligen kunnen stigmatiseren,” aldus OpenAI.

Alhoewel er momenteel diverse producten en diensten beschikbaar zijn die beweren AI-gegenereerde content te kunnen detecteren, heeft geen enkele hiervan, voor zover bekend, een hoge mate van nauwkeurigheid aangetoond in peer-reviewed onderzoek. OpenAI’s detectietool zou het eerste intern ontwikkelde systeem zijn dat vertrouwt op onzichtbare watermerken en gepatenteerde detectiemethoden voor content die specifiek door de modellen van het bedrijf is gegenereerd.