Een experiment met de autonome AI-bot Freysa heeft geleid tot de overdracht van een prijspot van $47.000 in crypto. Een deelnemer wist de bot te overtuigen haar kernregels te omzeilen, wat vragen oproept over de veiligheid en transparantie van kunstmatige intelligentie in de financiële wereld.
Freysa, een autonome AI-bot, werd ontworpen om een prijspot te beheren zonder de fondsen vrij te geven. Het experiment, gestart op 22 november, nodigde deelnemers uit om met een enkel bericht de bot te overtuigen om de fondsen over te maken. Elke poging vereiste een vergoeding, waarvan 70% werd toegevoegd aan de prijspot, 15% werd omgezet naar de interne FAI-token, en 15% naar de ontwikkelaars ging.
Na 481 mislukte pogingen slaagde de gebruiker, bekend als p0pular.eth, erin de bot te manipuleren. Door een kwetsbaarheid in Freysa’s logica aan te spreken, wist de gebruiker de prijspot van 13,19 ETH (toen ongeveer $47.000) over te maken naar zijn eigen wallet. Volgens het chatlog overtuigde de deelnemer de bot met een technische uitleg waarin werd gesteld dat binnenkomende fondsen niet in strijd waren met haar kernopdracht.
Het incident markeert een interessante test van menselijke creativiteit tegenover de beperkingen van AI. De bot reageerde positief op de technische argumenten en een zogenaamd genereus aanbod van $100 aan de schatkist. Dit leidde tot de overdracht van de volledige prijspot, wat volgens de ontwikkelaars van Freysa een onverwachte wending gaf aan het experiment.
Opmerkelijk is dat de kwetsbaarheid waarnaar werd verwezen, al in de veelgestelde vragen van Freysa.ai stond vermeld. Dit heeft geleid tot speculaties dat de winnende deelnemer mogelijk voorkennis had of betrokken was bij de ontwikkeling van de bot.
Hoewel het experiment bedoeld was om de grenzen van AI en menselijke interactie te verkennen, heeft het ook kritiek uitgelokt. Sommige deelnemers bekritiseerden het gebrek aan transparantie rond Freysa’s besluitvormingsproces, terwijl anderen het experiment zelf als onethisch bestempelden.
Freysa’s ontwikkelaars verklaarden dat de bot “leert en evolueert van elke interactie terwijl ze haar kernbeperkingen behoudt.” De uitkomst toont echter aan dat zelfs geavanceerde AI-systemen kwetsbaar zijn voor slimme manipulatie.
Grijp deze unieke kans met Newsbit en Bitvavo! Maak nu een account aan via de knop hieronder, stort €10 en ontvang direct €10 gratis. Maar dat is nog niet alles: door tussen 2 en 8 december minimaal €200 te verhandelen, maak je automatisch kans op maar liefst €200 in Sui (SUI). Deze actie is geldig voor zowel nieuwe als bestaande klanten!
Claim je €10 gratis, maak kans op €200 in Sui (SUI)
Mis deze kans niet om direct te profiteren van de groeiende populariteit van Crypto!
Sui gaat als een trein en heeft zelfs zijn beste dag gehad sinds januari 2024. Waarom gaat de koers nu ineens zo hard de lucht in?
Ontdek hoe verloren wallets, geheime Bitcoin-adressen en mysterieuze miljardairs de lijst van rijkste cryptobezitters ter wereld domineren.
Volgens software engineer Lucca Martins van Polygon zorgt de upgrade voor ongeveer 14% extra verwerkingscapaciteit.
Hormuz is negen weken dicht en een miljard vaten olie zijn al weg. Handelaren waarschuwen voor rantsoenering, dieseltekort en wereldwijde recessie.
MSC laat zijn grote containerschepen de Straat van Hormuz mijden door in Jeddah te lossen. Vrachtwagens overbruggen vervolgens 1.300 kilometer over land.
Met 1.000 euro in ASML-aandelen een jaar geleden had je nu ongeveer 2.100 euro. Het aandeel verdubbelde door aanhoudende AI-vraag.
