Publicerad av OpenAI har kritiserats för sin ogenomskinliga beslutsprocess. Men VD Sam Altman har ändå gett världen några värdefulla insikter. I en intervju med Humanloop talade den ofta kritiserade kändis-VD:n om framtiden för OpenAI.
Här är 6 skäl till varför vi inte kommer att få GPT-5 någon gång inom en snar framtid
Intervjun kastade lite ljus över några av OpenAI:s mest lönsamma produkter, men den speglade också en kultur där man lovar för mycket och levererar för lite.
Medan intervjun i sig presenterar några punkter på ytnivå, fördjupar den sig också i några av de skalningsproblem som OpenAI har stått inför. Dessutom står några av Altmans uttalanden i denna intervju i direkt konflikt med hans tidigare uttalanden, vilket skapar mer otydlighet för “OpenAI”.
En sak är dock säker, GPT-5 kommer inte när som helst snart, inte ens 2024.
Här är 6 skäl till varför vi inte kommer att få GPT-5 någon gång inom en snar framtid.
Inte tillräckligt med GPU:er
I intervjun fördjupade sig Altman i de skalningsproblem som OpenAI står inför. Enligt honom är OpenAI “extremt GPU-begränsat”, vilket har lett till förseningar för deras kortsiktiga planer. Detta innebär att planer som längre kontextlängder (mer än 32 000 tokens) och finjustering för specifika dataset kommer att försenas.
På grund av bristen har även den grundläggande funktionaliteten hos API:et äventyrats. Enligt intervjun erbjuder OpenAI ett dedikerat kapacitetserbjudande som ger snabbare och mer tillförlitlig API-åtkomst. För att få tillgång till detta måste dock kunderna förbinda sig att spendera 100 000 dollar på plattformen.
Större fokus på GPT-4
Även om GPT-4 var en av de största uppgraderingarna för OpenAI, är det tydligt att Altman inte är klar med den här modellen. Den första och största punkten på färdplanen var en billigare och snabbare GPT-4. Genom att förbättra sin flaggskeppsmodell vill OpenAI minska “kostnaden för intelligens” så mycket som möjligt.
Detta innebär att företaget sannolikt kommer att spendera tid och resurser på att optimera GPT-4 ytterligare istället för att fokusera på GPT-5. Utöver denna optimering vill OpenAI öka kontextfönstret till upp till 1 miljon tokens. Andra uppgraderingar på färdplanen inkluderar finjustering av API:er och ett stateful API för GPT-4.
Läs om: GPT-4
Begränsas av skalningslagar
Altman har tidigare talat om att storleken på LLM:er inte kommer att spela så stor roll framöver. Det verkar dock som att OpenAI:s forskare har fått honom att ändra sig. Enligt intervjun har dess interna data funnit att skalningslagar fortsätter att hålla bra.
Detta innebär att GPT-5, när den släpps, inte kommer att vara ett lika stort språng som GPT-2 till GPT-3.5. Detta beror på att modellerna sannolikt kommer att “fördubblas eller tredubblas” i storlek, i motsats till förändringar i storleksordningen.
Utlovade funktioner först
Multimodalitet var en av de största nyheterna i GPT-4. Demonstrationer av att modellen kunde generera en hel webbplats från bara en skiss satte eld på Internet, men det verkar som om även ChatGPT Plus-användare måste vänta på multimodalitet.
I intervjun uppgav Altman att multimodalitet kommer först 2024 och skyllde på bristen på GPU:er. Tills multimodalitet kommer till GPT-4 är GPT-5 fortfarande en avlägsen dröm.
ChatGPT är den sista produkten
Altman uppgav också att “OpenAI inte skulle släppa några produkter utöver ChatGPT”. Detta beror främst på att OpenAI vill vara säkrare på att konkurrera med sina kunder med andra erbjudanden. Han uppgav också att det fanns en historia av plattformsföretag som hade en killer app.
Detta stärker OpenAI:s framtida mål som ett plattformsföretag snarare än ett produktföretag. Med tiden kommer deras plattformar bara att bli mer kapabla. Detta kan också tolkas som att GPT-5 bara kan bli mer försenat till förmån för bättre plattformar.
Läs Om: När Kommer GPT-5
Regulatoriska risker
Sam Altman har också varit mycket högljudd när det gäller AI-reglering. Han är också en av de största undertecknarna av det nya AI-säkerhetsbrevet som förespråkar en strängare reglering av AI, med hänvisning till existentiella risker.
Medan Altman sa att han fortsätter att tro på vikten av öppen källkod, försvarade han också OpenAI att inte släppa sina modeller till allmänheten. Detta beror främst på hans skepticism mot det stora antalet företag som har kapacitet att vara värd för och betjäna LLM.
Med de många problem som OpenAI står inför för att skala upp till ChatGPT:s framgångar verkar det som om andra projekt kan komma att läggas på is. Även om GPT-4 API inte har uppdaterats under de senaste 2 månaderna, är GPT-5 fortfarande en avlägsen dröm tills OpenAI får ihop det.