EXO Labs
Londoner Startup, gegründet 2024 von Alex Cheema und Mohamed Baioumy – verbindet mit der Software exo mehrere Rechner zu einem lokalen Inferenz-Cluster.
Profil
EXO Labs wurde 2024 in London von Alex Cheema und Mohamed Baioumy gegründet. Das Unternehmen verfolgt den Ansatz, große Sprachmodelle nicht in Rechenzentren, sondern auf der Hardware zu betreiben, die bereits am Arbeitsplatz steht.
Produktstrategie
Kernprodukt ist die quelloffene Software exo (Apache-2.0), die mehrere Macs oder Workstations zu einem Cluster zusammenschließt. Daneben betreibt das Unternehmen mit local.ai eine Vergleichsübersicht, welche Modelle auf welcher Hardware mit welcher Geschwindigkeit laufen, und bietet Unterstützung für den Einsatz in Unternehmen an.
Einordnung
Relevant für Organisationen, die sehr große offene Modelle lokal betreiben wollen und dafür statt einzelner teurer GPU-Server mehrere Rechner mit viel gemeinsamem Arbeitsspeicher einsetzen — typischerweise Apple-Silicon-Macs.
Software von EXO Labs
exo
KI & AssistentenVerbindet mehrere Macs und Workstations zu einem lokalen Inferenz-Cluster – für Modelle, die auf einem einzelnen Rechner keinen Platz haben.