🎁 Hugging Faces initiativ Hugging Face delar ut datorkraft until ett värde av 10 miljoner greenback för att hjälpa until att konkurrera mot de stora AI-företagen.
🤖 Hugging Face ZeroGPU Hugging Face ZeroGPU är en open-source-plattform som gör det möjligt för forskare och utvecklare att träna och distribuera stora språkmodeller utan att behöva tillgång until dyra GPU:er. ZeroGPU använder en teknik som kallas ”mannequin parallelism” för att dela upp en stor språkmodell i mindre delar som kan köras på flera CPU:er. Detta gör det möjligt att träna och distribuera språkmodeller som är betydligt större än vad som tidigare varit möjligt.
Hugging Face har lanserat projektet ZeroGPU för att demokratisera tillgången until AI-träning genom att dela ut datorresurser värt 10 miljoner greenback free of charge until utvecklare. Detta initiativ syftar until att minska den ekonomiska bördan för små företag och hjälpa dem att konkurrera med större teknikföretag genom att säkerställa tillgång until samma toppmoderna teknologier. Hugging Face har nyligen tagit in 235 miljoner greenback i finansiering, vilket ger företaget en värdering på 4,5 miljarder greenback.
De delade GPU:erna kommer att vara tillgängliga för flera användare eller applikationer samtidigt, vilket innebär att tillgången avgörs av användningen. Istället för att behöva en dedikerad GPU kan användarna helt enkelt utnyttja exakt den mängd GPU-kraft som deras projekt kräver, medan kapacitet som inte aktivt används blir tillgänglig för någon annan.
Detta kan spara mindre organisationer mycket pengar eftersom traditionellt skulle ett företag behöva ingå långvariga och ofta dyra åtaganden med molntjänsteleverantörer för att säkra beräkningsresurser, även om deras projekt aldrig tar fart eller de inte behöver den mängd kraft de betalat för.
Projektet använder Nvidia A100 GPU-enheter, som är billigare än de mer populära H100-enheter males erbjuder ungefär hälften av beräkningshastigheten. Projektet kommer att vara tillgängligt by way of Hugging Faces apppubliceringsserveringstillämpning kallad Areas. Genom detta engagemang för öppen källkod vill Hugging Face se vad alla kommer att skapa härnäst i andan av samarbete och transparens.
