Een experiment met de autonome AI-bot Freysa heeft geleid tot de overdracht van een prijspot van $47.000 in crypto. Een deelnemer wist de bot te overtuigen haar kernregels te omzeilen, wat vragen oproept over de veiligheid en transparantie van kunstmatige intelligentie in de financiële wereld.
Freysa, een autonome AI-bot, werd ontworpen om een prijspot te beheren zonder de fondsen vrij te geven. Het experiment, gestart op 22 november, nodigde deelnemers uit om met een enkel bericht de bot te overtuigen om de fondsen over te maken. Elke poging vereiste een vergoeding, waarvan 70% werd toegevoegd aan de prijspot, 15% werd omgezet naar de interne FAI-token, en 15% naar de ontwikkelaars ging.
Na 481 mislukte pogingen slaagde de gebruiker, bekend als p0pular.eth, erin de bot te manipuleren. Door een kwetsbaarheid in Freysa’s logica aan te spreken, wist de gebruiker de prijspot van 13,19 ETH (toen ongeveer $47.000) over te maken naar zijn eigen wallet. Volgens het chatlog overtuigde de deelnemer de bot met een technische uitleg waarin werd gesteld dat binnenkomende fondsen niet in strijd waren met haar kernopdracht.
Het incident markeert een interessante test van menselijke creativiteit tegenover de beperkingen van AI. De bot reageerde positief op de technische argumenten en een zogenaamd genereus aanbod van $100 aan de schatkist. Dit leidde tot de overdracht van de volledige prijspot, wat volgens de ontwikkelaars van Freysa een onverwachte wending gaf aan het experiment.
Opmerkelijk is dat de kwetsbaarheid waarnaar werd verwezen, al in de veelgestelde vragen van Freysa.ai stond vermeld. Dit heeft geleid tot speculaties dat de winnende deelnemer mogelijk voorkennis had of betrokken was bij de ontwikkeling van de bot.
Hoewel het experiment bedoeld was om de grenzen van AI en menselijke interactie te verkennen, heeft het ook kritiek uitgelokt. Sommige deelnemers bekritiseerden het gebrek aan transparantie rond Freysa’s besluitvormingsproces, terwijl anderen het experiment zelf als onethisch bestempelden.
Freysa’s ontwikkelaars verklaarden dat de bot “leert en evolueert van elke interactie terwijl ze haar kernbeperkingen behoudt.” De uitkomst toont echter aan dat zelfs geavanceerde AI-systemen kwetsbaar zijn voor slimme manipulatie.
Grijp deze unieke kans met Newsbit en Bitvavo! Maak nu een account aan via de knop hieronder, stort €10 en ontvang direct €10 gratis. Maar dat is nog niet alles: door tussen 2 en 8 december minimaal €200 te verhandelen, maak je automatisch kans op maar liefst €200 in Sui (SUI). Deze actie is geldig voor zowel nieuwe als bestaande klanten!
Claim je €10 gratis, maak kans op €200 in Sui (SUI)
Mis deze kans niet om direct te profiteren van de groeiende populariteit van Crypto!
De officiële website van de Pepe-memecoin is getroffen door een hack waarbij bezoekers automatisch worden doorgestuurd naar een schadelijke link.
Na een stijging van 12% in minder dan twee dagen tijd pakt Bitcoin nu zijn welverdiende pauze. Sommige altcoins trappen wel gewoon door.
Bitcoin stijgt naar zijn hoogste koers in weken, maar altcoins zetten vandaag de toon. Munten als Ethereum, XRP en Sui gaan keihard.
In Brazilië waarschuwen cybersecurityexperts voor een nieuwe malwarecampagne die zich razendsnel verspreidt via WhatsApp.
Raoul Pal voorspelde de huidige Bitcoin-daling al maanden geleden. Analisten denken dat dit juist het begin kan zijn van een nieuwe stijging.
Cryptomarkt klapt hard omlaag, maar alle ogen zijn gericht op Powells speech. Een hint op renteverlaging kan de markt laten herstellen.
