Meta en Microsoft lanceren Llama 2: het ultieme open-source taalmodel

Meta meldt dat Llama 2 is getraind met maar liefst 40% meer openbare gegevens en het heeft het opmerkelijke vermogen om twee keer zoveel context te verwerken in vergelijking met Llama 1.

Meta en Microsoft bundelen krachten

Op 18 juli kondigden Meta en Microsoft hun gezamenlijke inspanning aan om Llama 2 te lanceren, een open-source groot taalmodel dat beschikbaar zal zijn op Microsoft’s Windows en cloud computing platform, Azure.

De nieuwe versie, Llama 2, is gratis te gebruiken voor zowel onderzoek als commercieel gebruik en is geoptimaliseerd voor het draaien op Windows. Meta bevestigt hiermee de eerdere geruchten dat Llama 2 bedoeld is voor bedrijven en onderzoekers om toepassingen te ontwikkelen op Meta’s AI tech stack.

Volgens Meta is Llama 2 getraind op 40% meer publiek beschikbare online databronnen en heeft het twee keer zoveel contextvermogen als zijn voorganger, Llama 1.

Het bedrijf stelt dat Llama 2 beter presteert dan veel concurrerende open-source grote taalmodellen (LLM’s) op het gebied van codering, vaardigheden, redeneren en prestaties op kennistests. Het erkent echter dat Llama 2 niet zo efficiënt is als zijn closed-source concurrenten, zoals OpenAI’s GPT-4, zoals vermeld in een van zijn onderzoeksrapporten.

Zuckerberg benadrukt de potentie van Llama 2

In een Instagram post op 18 juli benadrukte Mark Zuckerberg, CEO van Meta, dat Llama 2 “onderzoekers en bedrijven toegang geeft om te bouwen met ons volgende generatie grote taalmodel als basis van hun werk.”

Meta was aangenaam verrast door de immense vraag naar Llama 1 na de beperkte release in februari, waarbij ze meer dan 100.000 verzoeken om toegang ontvingen. Echter, het model werd al snel gelekt door een gebruiker op de imageboard website 4chan.

Hoewel Llama 1 een aanzienlijke interesse genoot, waren de cijfers nog ver verwijderd van die van ChatGPT. Het laatstgenoemde model trok in de eerste drie maanden naar schatting 100 miljoen of meer gebruikers aan, volgens een Reuters rapport van februari.

Door de recente samenwerking steunt Microsoft nu twee grote spelers in de AI-wereld, met een totale investering van $13 miljoen in OpenAI in de loop van 2023, zoals gerapporteerd door Fortune in januari.

In juni stuitte Meta’s beslissing om Llama open source te maken op kritiek van twee Amerikaanse senatoren. Ze beweerden dat de initiële versie van Llama “schijnbaar minimale” bescherming bood, waardoor het risico bestond dat kwaadwillende gebruikers het model zouden misbruiken voor “criminele taken.”