DevelopmentState of AI: Alternatieven voor GPT-modellen

State of AI

Een blik op de alternatieven voor (Chat)GPT

 

State of AI

AI is tegenwoordig een woord waaraan niet te ontkomen valt. OpenAI loopt natuurlijk aan kop met hun waanzinnige GPT-modellen, die steeds beter en goedkoper worden om te gebruiken. Zo heeft Open AI onlangs aangekondigd dat hun nieuwe modellen meer tokens aan kunnen, tot wel ca.128.000 (32X meer dan hiervoor), en dat bij het gebruik van de GPT 4.5 turbo in vergelijking met de huidige 4.0 het 3x zo goedkoop is in gebruik.

Hoe spectaculair ChatGPT ook is, het is niet voor iedereen. Gelukkig bestaat GPT niet in een vacuüm en zullen we in deze blog gaan kijken naar een aantal alternatieven voor GPT-modellen en zullen we aan het einde stil staan bij wat de toekomst zal brengen.

Zijn er alternatieven voor GPT?

LLama en afgeleiden

Er zijn een aantal andere spelers die modellen uit hebben gebracht die ook nog eens open source zijn zoals Meta met Llama. Sinds kort Llama v2 en Standford university die het Llama model heeft gebruikt voor hun eigen model Alpaca. Hoewel deze modellen vergelijkbare resultaten opleveren als de GPT-familie, hebben ze weer hun eigen problemen namelijk, Ze zijn net zo zwaar om te draaien en hoewel ze open source zijn, wordt het gebruiken van deze modellen voor commerciële doeleinden niet toegestaan volgens de Llama licentie.

Voorbij Llama

Als we verder kijken komen we (Chat)RWKV uit. Zonder al te technisch te worden, heeft dit model een compleet andere opzet dan de rest. Hierdoor lijkt dit model soms betere antwoorden te generen dan GPT, maar de ontwikkeling van dit model gaat langzamer dan bij andere. Mede hierdoor lijkt er niet veel gedaan te zijn met deze technologie en model.

Open Assistant

Open Assistant is een nieuwe speler.  Zij bieden hun eigen services aan die gratis zijn en onder de Apache 2.0 licentie vallen, zoals een API. In tegenstelling tot de rest, mag Open Assistant ook voor commerciële doeleinden gebruikt worden... is wat ik zou willen zeggen, maar er zit wel een addertje onder het gras.

Net als andere partijen zijn de modellen van Open Assistant voortgebouwd op LLama en andere basismodellen die hun eigen licenties hebben. Voor de zekerheid zou je daarom eerst moeten checken of het basismodel dus commercieel gebruikt mag worden.

Kan het niet lichter?

Orca is anders dan de rest, doordat het niet probeert zo slim te zijn als GPT maar in plaats daarvan de antwoorden van en het “denkproces” van GPT na te bootsen. Hierdoor kan het vergelijkbare resultaten behalen en toch veel lichter zijn.

Naar eigen zeggen is Orca beter dan Vicuna. Microsoft zelf ziet er in ieder geval genoeg heil in want 20 november hebben zij een blog gepost waarin zij hun bevindingen van Orca 2 delen. Hierin claimen zij zelf dat hun model 5-10 keer zo klein als van de concurrenten (Llama en GPT) maar wel vergelijkbare resultaten behaald.

Conclusie

We bevinden ons met betrekking tot Taal AI waar Afbeelding generende AI zich een jaar geleden bevond. Eerst kwamen er modellen zoals Dall-E en daarna kwam Stablility AI met Stable Diffusion die open source werd gemaakt. In 1 jaar tijd heeft de opensource community dit model omgetoverd naar talloze modellen die specifiek gefinetuned zijn naar wat jij nodig hebt.

Waar het maken van een custom model eerder zeer kostbaar was, zijn er nu oplossingen gemaakt die het model compacter en het proces makkelijker maken. Zo wordt het steeds makkelijker om als hobbyist dit zelf te kunnen.

Het is niet gek om voor te stellen dat een vergelijkbare explosie in de nabije toekomst zal plaatsvinden. Maar dat vereist toch net wat betere hardware voor ons. Dus voor de komende tijd heeft OpenAI de markt in hun handen. Maar dat betekent niet dat ze stil kunnen zitten. Want er wordt hard gewerkt om concurrerende modellen te produceren en even hard om nieuwe manieren te bedenken om de concurrentie te slim af te zijn, zoals we zien met Orca.

De vraag is daarom niet of maar wanneer wij allemaal een eigen GPT-achtig AI-model kunnen maken.

Kijk jij liever naar het heden en vraag jij je af hoe AI in jouw nieuwe of bestaande oplossingen gebruikt kan worden? Bij Delta-N zijn beschikken wij over de kennis en expertise om jouw applicatie naar het hoogste niveau te tillen. Heb je interesse, neem dan contact met ons op.

Akash Aartsen, Software Developer

  • Wil jij ook dagelijks Mederne Applicaties bouwen? Bekijk vacatures!