OpenAI heeft de intentie kenbaar gemaakt om een team samen te stellen dat zich zal toeleggen op het beheren van de potentiële risico’s die gepaard gaan met de opkomst van een superintelligent AI-systeem, waarvan wordt verwacht dat het binnen het komende decennium zal worden gerealiseerd.
Het bedrijf verantwoordelijk voor de bekende kunstmatige intelligentie (AI) chatbot ChatGPT kondigt aan dat het een team zal samenstellen om de risico’s van superintelligente AI-systemen te beperken en te beheren.
In een officiële aankondiging op 5 juli op hun blog verklaart OpenAI dat zij een nieuw team zullen oprichten met als doel het sturen en beheersen van AI-systemen die aanzienlijk slimmer zijn dan de mens.
De non-profitorganisatie gelooft dat superintelligentie “de meest invloedrijke technologie zal zijn die de mensheid ooit heeft ontwikkeld” en dat het de potentie heeft om vele problemen op te lossen, maar erkent ook de aanwezige risico’s.
“De immense kracht van superintelligentie kan ook zeer gevaarlijk zijn en kan leiden tot de ontwrichting of zelfs uitroeiing van de mensheid.”
Het bedrijf benadrukt dat zij geloven dat superintelligentie mogelijk dit decennium al werkelijkheid kan worden.
OpenAI heeft aangekondigd dat zij 20% van hun huidige beveiligde rekenkracht zal toewijden aan deze inspanning en streeft naar de ontwikkeling van een geautomatiseerd uitlijningssysteem op “menselijk niveau”. Dit geautomatiseerde systeem zou theoretisch gezien het team kunnen ondersteunen bij het beheer en afstemmen van de veiligheid van superintelligentie op “menselijke intenties”.
Dr. Ilya Sutskever, hoofdwetenschapper bij OpenAI, en Jan Leike, hoofd van het onderzoekslab voor uitlijning, zijn aangesteld als co-leiders van deze inspanning. OpenAI heeft een open oproep gedaan aan onderzoekers en ingenieurs op het gebied van machine learning om zich bij dit team aan te sluiten.
OpenAI kondigt deze maatregelen aan op een moment waarop regeringen wereldwijd overwegen om de ontwikkeling, implementatie en het gebruik van AI-systemen te reguleren. Hoewel de Europese Unie de meeste voortgang heeft geboekt op het gebied van AI-regulering, heeft het aannemen van de EU AI Act op 14 juni, waarin wordt bepaald dat tools zoals ChatGPT verplicht zijn om alle door AI gegenereerde content openbaar te maken, al tot verontwaardiging geleid onder AI-ontwikkelaars vanwege de mogelijke impact op innovatie.
In een poging om de potentiële negatieve effecten van overdreven regulering aan te pakken, heeft Sam Altman, CEO van OpenAI, in mei een bezoek gebracht aan Brussel om met regelgevers van de Europese Unie te praten. Tegelijkertijd hebben wetgevers in de Verenigde Staten de National AI Commission Act geïntroduceerd, die tot doel heeft een orgaan op te richten dat zal beslissen over de nationale benadering van AI. Ook Amerikaanse regelgevers hebben hun wens geuit om de technologie te reguleren.
Op 30 juni stuurde senator Michael Bennet een brief naar grote technologiebedrijven, waaronder OpenAI, waarin hij hen aanspoorde om AI-gegenereerde content te labelen.
Crypto beleggers besparen en stellen aankopen uit, maar blijven vaak vasthouden of bijkopen ondanks druk op hun financiën.
Nieuw onderzoek toont dat drie procent van traders prediction markets domineert, terwijl de massa verliest en nauwelijks invloed heeft.
Finlay was vanaf de beginfase betrokken bij MetaMask, dat in 2010 begon als een browserextensie.
De scheepvaart door Hormuz is opnieuw tot stilstand gekomen nadat de VS voor het eerst een Iraans schip in beslag namen. De olieprijs stijgt.
Iraanse schepen omzeilen de Amerikaanse blokkade van Hormuz via een nieuwe route langs de VAE. De doorvoer is sterk afgenomen maar niet stilgevallen.
Vijf AI-modellen voorspellen dat de Bitcoin koers op 1 mei rond 81.000 dollar noteert. Het Iran-conflict kan de voorspelling echter verstoren.
