IBM heeft onlangs de ‘Lightweight Engine’ gelanceerd als onderdeel van zijn WatsonX.ai-service. Deze nieuwe functie zal zich in eerste instantie gaan richten op de grotere ondernemingen. Toch kan het ook een belangrijke rol spelen voor kleinere bedrijven die hun AI-capaciteiten willen opschalen, evenals middelgrote bedrijven in snelgroeiende sectoren zoals fintech.
Zonder twijfel is de generatieve AI-markt de drijvende kracht achter een groot deel van de omzetgroei van de technologiesector in de eerste helft van 2024. Zo’n 10 jaar geleden had bijna niemand de enorme groei van deze sector kunnen voorspellen, die vooral wordt aangestuurd door de populariteit van grote taalmodellen zoals ChatGPT van OpenAI en Claude van Anthropic.
Vóór de lancering van ChatGPT werd door experts in de AI- en financiële wereld breed aangenomen dat grote taalmodellen zoals GPT-3 niet betrouwbaar genoeg waren voor toepassingen in de financiële sector of andere domeinen waar fouten niet zijn toegestaan. Ondanks de vooruitgang die sindsdien is geboekt, blijft de waarschuwing dat AI-modellen die op openbare data zijn getraind, onvoorspelbaar kunnen zijn.
Een voorbeeld van de toepassing van generatieve AI in de financiële wereld is JPMorgan Chase, dat recent toegang tot OpenAI’s ChatGPT heeft aangeschaft voor zijn 60.000 medewerkers. Hierbij zijn interne data en aangepaste veiligheidsmaatregelen geïntegreerd. Dit illustreert dat zelfs de conservatieve financiële sector steeds meer gebruik maakt van generatieve AI.
Alhoewel veel populaire AI-diensten, zoals ChatGPT, inmiddels ook zakelijke opties bieden, zijn deze doorgaans volledig cloudgebaseerd. In sectoren zoals fintech, waar regelgeving en veiligheid vereisen dat data geïsoleerd blijven van externe invloeden, voldoen cloudgebaseerde AI-oplossingen mogelijk niet altijd aan de eisen.
IBM’s WatsonX.ai biedt zowel cloudgebaseerde als on-premise oplossingen, en met de toevoeging van de ‘Lightweight Engine’ kunnen modellen nu ook lokaal worden uitgevoerd, met een kleinere voetafdruk.
Savio Rodrigues, IBM’s vice-president van ecosysteemtechniek en ontwikkelaarsbelangenbehartiging, legt uit: “Bedrijven die on-premise oplossingen willen toevoegen, zoeken naar het lichtste platform om hun generatieve AI-scenario’s uit te voeren, zonder onnodige verspilling van CPU’s of GPU’s. De lichtgewicht engine van WatsonX.ai maakt het mogelijk voor ISV’s en ontwikkelaars om GenAI-oplossingen voor ondernemingen te schalen en tegelijkertijd de kosten te optimaliseren.”
In snelgroeiende sectoren zoals fintech, blockchain en crypto-leningen, waar externe AI-oplossingen niet altijd aan de strenge beveiligingsvereisten voldoen, kan de flexibiliteit van een hybride cloud- en on-premise oplossing het verschil maken tussen het intern ontwikkelen van modellen of het afnemen van een externe dienst.
Alhoewel er verschillende concurrerende diensten zijn, lijkt IBM’s ‘Lightweight Engine’ zijn naam eer aan te doen. De kleinere voetafdruk en grotere efficiëntie gaan echter gepaard met een vermindering van functies die wel beschikbaar zijn in de volledige versie.
CNN gebruikt voortaan marktdata van Kalshi om nieuws te duiden. Wat zegt dat over hoe wij naar de wereld kijken?
De Kaaimaneilanden zien een sterke groei in het aantal Web3- en DAO-stichtingen dat zich daar vestigt.
Amazon onthult AI-chip Trainium3 en richt zich op prijs-prestatie. De strijd met Nvidia om AI-dominantie is officieel begonnen.
In Brazilië waarschuwen cybersecurityexperts voor een nieuwe malwarecampagne die zich razendsnel verspreidt via WhatsApp.
Raoul Pal voorspelde de huidige Bitcoin-daling al maanden geleden. Analisten denken dat dit juist het begin kan zijn van een nieuwe stijging.
Cryptomarkt klapt hard omlaag, maar alle ogen zijn gericht op Powells speech. Een hint op renteverlaging kan de markt laten herstellen.
