Die Computeranforderungen der Welt steigen exponentiell. Mit dem Aufstieg von KI und maschinellem Lernen erleben Chiphersteller eine beispiellose Nachfrage, die die globale Lieferkette belastet, die Sand in Silizium umwandelt.
Eine hohe Nachfrage, verursacht durch einen starken Anstieg der KI-Entwicklung und ein begrenztes Chipangebot, trägt zu einem globalen GPU-Mangel bei, der die Entwicklung und Verbreitung von weit verbreiteten KI-Modellen zu verzögern droht. Noch wichtiger ist, dass es droht, die Entwicklung der leistungsfähigsten KI-Modelle in den Händen einiger weniger Unternehmen zu konzentrieren.
Diese Unternehmen sind oft die einzigen, die über die erheblichen Ressourcen verfügen, die zur Beschaffung und zum Betrieb dieser leistungsstarken GPUs erforderlich sind, und sie haben sich beeilt, das verfügbare Angebot zu erfassen und zu kontrollieren.
Große Cloud-Anbieter sind da keine Ausnahme. Viele der größten Cloud-Anbieter haben starke Anreize, sich auf ihre größten Kunden zu konzentrieren, die aufgrund ihrer Größe und Bereitschaft, für teure Reservierungsinstanzen zu zahlen - die Verpflichtungen zu Verträgen beinhalten, die den Zugang zu den begehrtesten GPUs garantieren - bevorzugt werden. Für alle anderen sind diese GPUs einfach nicht verfügbar.
Diese Anreize formen einen Markt, der oft viele Startups, Forscher und unabhängige Entwickler auf der Suche nach Rechenleistung zurücklässt.
Betreten Sie die AI Supercloud
Akash hat die Welt mit einem Open-Source-Marktplatz für Rechenleistung bekannt gemacht. Heute macht das Netzwerk den nächsten bedeutenden Schritt, indem es ein Testnetz für den ersten Open-Source-Marktplatz für Hochleistungs-GPUs startet - damit jeder auf der Welt Zugang zu einer breiten Palette von leistungsstarken GPUs für Training, Vorverarbeitung, Feinabstimmung und Laufzeitinferenz hat.
Das Team von Overclock Labs hat die erste Version des Akash GPU Testnet erstellt und getestet. Nun ist das Testnetz bereit, die Community und die Allgemeinheit mit über 100.000 Dollar an Belohnungen für Teilnehmer, die Aufgaben in vier Kategorien erfüllen, einzubeziehen.
Einrichten eines GPU-Anbieters
Jeder, von unabhängigen Entwicklern bis hin zu Cloud-Anbietern, kann einen GPU-Anbieter im Testnetz einrichten. Diese Anbieter werden dazu beitragen, dass ausreichend Rechenressourcen zur Verfügung stehen, um das Netzwerk gründlich zu belasten, was für die Erledigung der anderen Aufgaben von entscheidender Bedeutung ist.
Das Akash GPU Testnet hat bereits Interesse von Anbietern mit NVIDIA H100s, A100s und anderen führenden Datacenter- und Verbraucher-GPU-Modellen geweckt.
Bereitstellen von KI-Modellen
Die nächste Phase des Testnetzes wird das Bereitstellen verschiedener KI-Modelle auf jedem GPU-Typ beinhalten. Da diese Modelle unterschiedliche Fähigkeiten und Größen haben, werden diese Tests helfen, jeden GPU-Typ den Bereitstellungen zuzuordnen, für die er am besten geeignet ist.
Zum Beispiel ist das Durchführen von Inferenz auf einem kleineren Sprachmodell am besten geeignet für ältere Datacenter-Modelle oder eine Verbraucher-GPU. Auf der anderen Seite würde das Feintuning eines größeren Modells wahrscheinlich die Rechenleistung erfordern, die nur in den leistungsfähigsten GPUs zu finden ist - wie der NVIDIA H100 oder A100.
GPUs mit PyTorch benchmarken
Diese Aufgabe wird das Benchmarking der Leistung jedes GPU-Typs mit PyTorch beinhalten, einem beliebten Framework für maschinelles Lernen.
Dies wird nicht nur Einblicke in die individuelle Leistung jedes GPU-Typs auf Akash geben, sondern auch in die Fähigkeiten des Netzwerks als Ganzes - was wesentlich sein wird, um den Wertvorschlag von Akash für diejenigen zu kommunizieren, die an traditionelle zentralisierte Cloud-Anbieter gewöhnt sein könnten.
Erstellen von SDLs (Bereitstellungsspezifikationen)
Die Stack Definition Language (SDL) ist ein Konfigurationsdateiformat, das standardisiert, wie Deployer Rechenressourcen von Anbietern auf Akash anfordern.
Für das Akash GPU Testnet ist eine der vier Hauptaufgaben die Erstellung neuer SDL-Dateien für viele der führenden KI-Modelle, Tools und Apps. Diese neuen SDLs werden dem Awesome-Akash-Repository hinzugefügt, wo die beliebtesten SDLs von Akash für die Nutzung durch die Allgemeinheit gesammelt werden.
