De zorgen over kunstmatige intelligentie (AI) stapelen zich op. Mensen vrezen voor hun baan, softwarebedrijven worden compleet door elkaar geschud en nu dreigt zelfs het financiële systeem een klap te krijgen.
De Amerikaanse minister van Financiën Scott Bessent en topman van de Federal Reserve Jerome Powell riepen dinsdag de topmannen van de grootste banken ter wereld bijeen voor een spoedvergadering over Mythos, het nieuwste model van AI-bedrijf Anthropic.
Het spoedoverleg vond plaats in het hoofdkwartier van het ministerie van Financiën in Washington, zo meldde Bloomberg op basis van ingewijden. Bessent en Powell wilden er zeker van zijn dat banken de risico’s van Mythos en vergelijkbare modellen kennen en hun systemen daarop voorbereiden.
Aan tafel zaten onder meer Jane Fraser (Citigroup), Ted Pick (Morgan Stanley), Brian Moynihan (Bank of America), Charlie Scharf (Wells Fargo) en David Solomon (Goldman Sachs).
Alle opgeroepen banken zijn door toezichthouders aangemerkt als systeemrelevant. Dat betekent dat hun stabiliteit cruciaal is voor het wereldwijde financiële systeem.
Mythos is het nieuwste en krachtigste AI-model van Anthropic, het bedrijf achter de populaire AI-assistent Claude. Het werd afgelopen dinsdag in beperkte vorm gelanceerd en is niet beschikbaar voor het grote publiek.
Dat is een bewuste keuze. Volgens Anthropic kan Mythos kwetsbaarheden opsporen in alle grote besturingssystemen en webbrowsers, en die vervolgens actief uitbuiten wanneer een gebruiker daartoe opdracht geeft.
Tijdens tests brak het model zelfs uit zijn eigen testomgeving en bouwde het zelfstandig een aanval om toegang te krijgen tot het internet, terwijl het daar geen toestemming voor had.
De reden dat Wall Street in actie komt is simpel. Banken zijn in de kern softwarebedrijven. Elke transactie, elke betaling en elke rekening draait op code. Een AI-model dat in een oogwenk kwetsbaarheden vindt die menselijke experts jarenlang over het hoofd zagen, verandert de spelregels voor cybercriminelen compleet.
Het is voor het eerst dat een groot AI-bedrijf een model achterhoudt vanwege veiligheidsrisico’s. In de weken voor de lancering had Anthropic al duizenden onbekende kwetsbaarheden ontdekt, waarvan sommige tientallen jaren onopgemerkt waren gebleven.
Anthropic is opgericht in 2021 door voormalige medewerkers van OpenAI, het bedrijf achter ChatGPT. Sindsdien is het uitgegroeid tot een van de snelst groeiende techbedrijven ter wereld.
Om de risico’s van Mythos te beheersen, heeft Anthropic het programma ‘Project Glasswing’ opgetuigd. Daarin werken ruim veertig organisaties, waaronder Amazon, Apple, Microsoft, Google en JPMorgan, samen om de belangrijkste software te beveiligen voordat vergelijkbare modellen breder beschikbaar komen. Anthropic steekt tot 100 miljoen dollar aan credits in het programma.
De onrust beperkt zich niet tot Wall Street. In de cryptosector vrezen experts dat Mythos zogenoemde zero-day-kwetsbaarheden kan ontdekken en misbruiken. Dat zijn beveiligingslekken die nog onbekend zijn bij de makers van de software, waardoor er geen bescherming tegen bestaat.
Vooral de DeFi-infrastructuur zou kwetsbaar kunnen zijn. DeFi staat voor gedecentraliseerde financiële diensten, waarbij gebruikers zonder tussenpersoon handelen via geautomatiseerde contracten (ook wel smart contracts genoemd) op de blockchain. Omdat die contracten openbaar en onveranderlijk zijn, kan een ontdekte kwetsbaarheid snel en op grote schaal worden misbruikt.
De markt is een stuk rustiger en prijzen liggen lager dan eerder. Dat geeft jou de ruimte om crypto zonder druk te verkennen en op je eigen tempo kennis te maken met Bitcoin.
Is dit voor jou het moment om te ontdekken hoe crypto werkt?
Open nu een account en ontvang €20 aan Bitcoin gratis
Meer dan 1,5 miljoen gebruikers vertrouwen al op Bitvavo.
Claim €20 aan Bitcoin gratis Je wordt doorgestuurd naar
Elon Musk wil OpenAI-topman Sam Altman laten ontslaan en eist miljarden in rechtszaak die strijd in AI-sector verder laat escaleren.
Anthropic heeft de toegang tot een nieuw AI-model beperkt nadat het systeem duizenden kwetsbaarheden in software wist te identificeren.
Dimon vergelijkt AI met elektriciteit en internet, maar verwacht een veel snellere adoptie. Bedrijven die achterblijven zijn kansloos.
Drie tankers lijken via een nieuwe route langs Oman de Straat van Hormuz binnen te varen. Het zou de eerste doorbraak zijn sinds de blokkade.
Frankrijk haalt goud terug uit de Verenigde Staten, boekt miljardenwinst en kiest voor opslag in eigen land. Wat betekent dat nu?
Irak vraagt oliekopers om ladingen op te halen nu Iran de doorvaart door Hormuz heeft vrijgegeven. De eerste tanker is al door de zeestraat.
