Gebruiker manipuleert AI-bot en wint $47.000: Slimme truc onthult kwetsbaarheid

Een experiment met de autonome AI-bot Freysa heeft geleid tot de overdracht van een prijspot van $47.000 in crypto. Een deelnemer wist de bot te overtuigen haar kernregels te omzeilen, wat vragen oproept over de veiligheid en transparantie van kunstmatige intelligentie in de financiële wereld.

Experiment met prijspot

Freysa, een autonome AI-bot, werd ontworpen om een prijspot te beheren zonder de fondsen vrij te geven. Het experiment, gestart op 22 november, nodigde deelnemers uit om met een enkel bericht de bot te overtuigen om de fondsen over te maken. Elke poging vereiste een vergoeding, waarvan 70% werd toegevoegd aan de prijspot, 15% werd omgezet naar de interne FAI-token, en 15% naar de ontwikkelaars ging.

Na 481 mislukte pogingen slaagde de gebruiker, bekend als p0pular.eth, erin de bot te manipuleren. Door een kwetsbaarheid in Freysa’s logica aan te spreken, wist de gebruiker de prijspot van 13,19 ETH (toen ongeveer $47.000) over te maken naar zijn eigen wallet. Volgens het chatlog overtuigde de deelnemer de bot met een technische uitleg waarin werd gesteld dat binnenkomende fondsen niet in strijd waren met haar kernopdracht.

Menselijke vindingrijkheid versus AI-beperkingen

Het incident markeert een interessante test van menselijke creativiteit tegenover de beperkingen van AI. De bot reageerde positief op de technische argumenten en een zogenaamd genereus aanbod van $100 aan de schatkist. Dit leidde tot de overdracht van de volledige prijspot, wat volgens de ontwikkelaars van Freysa een onverwachte wending gaf aan het experiment.

Opmerkelijk is dat de kwetsbaarheid waarnaar werd verwezen, al in de veelgestelde vragen van Freysa.ai stond vermeld. Dit heeft geleid tot speculaties dat de winnende deelnemer mogelijk voorkennis had of betrokken was bij de ontwikkeling van de bot.

Kritiek op transparantie en ethiek

Hoewel het experiment bedoeld was om de grenzen van AI en menselijke interactie te verkennen, heeft het ook kritiek uitgelokt. Sommige deelnemers bekritiseerden het gebrek aan transparantie rond Freysa’s besluitvormingsproces, terwijl anderen het experiment zelf als onethisch bestempelden.

Freysa’s ontwikkelaars verklaarden dat de bot “leert en evolueert van elke interactie terwijl ze haar kernbeperkingen behoudt.” De uitkomst toont echter aan dat zelfs geavanceerde AI-systemen kwetsbaar zijn voor slimme manipulatie.

Claim €10 gratis én maak kans op €200 in Sui (SUI)!

Grijp deze unieke kans met Newsbit en Bitvavo! Maak nu een account aan via de knop hieronder, stort €10 en ontvang direct €10 gratis. Maar dat is nog niet alles: door tussen 2 en 8 december minimaal €200 te verhandelen, maak je automatisch kans op maar liefst €200 in Sui (SUI). Deze actie is geldig voor zowel nieuwe als bestaande klanten!

Claim je €10 gratis, maak kans op €200 in Sui (SUI)

Mis deze kans niet om direct te profiteren van de groeiende populariteit van Crypto!