AI-agents handelen zelf, maar wie is er aansprakelijk? CFTC zoekt antwoorden

Een Amerikaanse toezichthouder bereidt zich voor op een markt waarin AI-agents zelfstandig beleggen en handelen. Het huidige toezicht draait om mensen en bedrijven die je kunt aanspreken, maar dat is natuurlijk een ander verhaal als software op eigen houtje handelt.

Gisteren legde de topman van die waakhond de vragen op tafel waar nog niemand een antwoord op heeft.

Koelkast als AI-agent dat Ether verdient

Mike Selig, voorzitter van de Commodity Futures Trading Commission (CFTC), sprak gisteren op het eerste Frontier Forum van zijn instantie in Washington. Hij gaf daar een voorbeeld uit de keuken.

“Het is niet langer sciencefiction om je voor te stellen dat je koelkast zelfstandig je boodschappen koopt met geld dat hij verdient door een memecoin te lanceren of Ether te staken,” zei hij.

Zo’n koelkast is dan in feite een AI-agent, een programma dat zelf handelt in plaats van alleen antwoord te geven, en daar is in het huidige toezicht nog geen plek voor.

Financiële toezichthouders letten namelijk vooral op de tussenpersonen in de markt, zoals banken en brokers. Die hebben een vergunning of registratie nodig en met die vergunning komen plichten.

Ze moeten weten wie hun klanten zijn, en ze kunnen een boete krijgen als ze de regels breken.

De CFTC werkt op dezelfde manier. Hij houdt toezicht op derivaten, contracten die de prijs van iets anders volgen, zoals olie of crypto.

Wie in die markt voor anderen handelt of tegen betaling advies geeft, moet zich registreren bij de National Futures Association (NFA), de zelftoezichthouder van de sector. Zo weet de CFTC altijd wie hij moet aanspreken.

Bij een AI-agent valt dat houvast weg. Een programma kan geen vergunning aanvragen en heeft geen paspoort dat je kunt controleren.

Selig vroeg zich dan ook af wie er opdraait als het misgaat. “Wordt de ontwikkelaar van die agent registratieplichtig? Wie is aansprakelijk als de agent op hol slaat?”

Coinbase CEO Brian Armstrond deelde een tijdje terug al zijn verwachting dat er binnen één tot twee jaar een ontspoord AI-model op het internet kan uitbreken.

Een bot zonder gezicht

Ook de identiteit achter een agent is een raadsel. “Hoe kunnen toezichthouders weten namens wie de agent, of een reeks agents, handelt? Hebben we een nieuwe variant van know-your-customer nodig, misschien KYA of know-your-agent?” vroeg Selig.

Know-your-customer (KYC) is de identiteitscheck die financiële instellingen zoals banken, brokers en cryptobeurzen bij nieuwe klanten uitvoeren. Bij een agent is het de vraag wiens identiteit je dan controleert, want achter één order zit een keten van modelbouwer, agentmaker, platform en gebruiker.

De CFTC kreeg in 2023 al een voorproefje, toen een rechter de Ooki DAO, een online collectief zonder directie, aansprakelijk hield voor een illegaal handelsplatform. Bij agents zit er soms helemaal geen mens meer achter.

Daardoor reikt het vraagstuk verder dan de CFTC, tot het aansprakelijkheidsrecht en het bankentoezicht. Selig ziet crypto als leerschool, omdat ontwikkelaars daar jarenlang met dezelfde vragen worstelden.

Het mes snijdt aan twee kanten

Volgens Selig krijgen kleinere spelers door AI-agents toegang tot risicobeheer dat lang was voorbehouden aan grote instellingen. Brett Harrison, CEO van AI-derivatenbeurs Architect, ziet steeds meer partijen al black-box-algoritmes inzetten.

Toch waarschuwde Selig dat agents die op vergelijkbare modellen draaien elkaar kunnen nadoen. De Bank of England wees vorig jaar al op dat risico, omdat zulk kuddegedrag een marktschok kan versterken.

En die groep gebruikers groeit: volgens eToro staat ruim drie op de vier jonge Amerikaanse beleggers open voor AI bij hun beleggingskeuzes. Coinbase en Binance bouwden dit jaar al tools waarmee agents binnen ingestelde grenzen handelen.