slurm on Gaia Lab · Blog

Modelle bereitstellen und den Cluster pflegen: die Infrastruktur hinter den anderen Linien

Tue, 22 Sep 2026 14:15:00 +0200

Neunte und letzte Folge von Cluster-Röntgenbild. Hier fassen wir zusammen, was in keine Forschungslinie passt, aber in den Skripten fast aller auftaucht.

Modelle bereitstellen, damit andere arbeiten können #

Mehrere Linien der Serie brauchen ein laufendes großes Modell: einen Richter, der Antworten bewertet, einen Generator synthetischer Daten, einen Programmierassistenten. Auf einem Cluster mit einer GPU pro Knoten ist die natürliche Art, es bereitzustellen, ein Slurm-Job, der vLLM hochfährt, wartet, bis es antwortet, sich bei einem gemeinsamen Proxy registriert und dort bleibt, bis die Zeit abläuft. Am Ende meldet er sich ab: Das Modell erscheint und verschwindet mit dem Job aus dem Katalog.

4.400 Proteinkomplexe mit Boltz-2: Vorhersagen, wie zwei Proteine binden

Tue, 22 Sep 2026 13:00:00 +0200

Vierte Folge von Cluster-Röntgenbild und die Linie mit den wenigsten Jobs: fünfzehn. Zugleich eine derjenigen, die am meisten GPU reservieren, denn jeder Job dauert Tage.

Die Frage #

Zu wissen, ob und wie zwei Proteine interagieren, ist eine der zentralen Fragen der Strukturbiologie: Es erklärt Signalwege, Wirkstoffziele und die Wirkung von Mutationen. Es experimentell zu bestimmen, kostet Monate pro Paar. Die Linie nutzt Strukturvorhersage, um im Maßstab von Tausenden Paaren die Struktur des Komplexes, den zwei Proteine bilden, und die Konfidenz, dass die Bindung real ist, abzuschätzen.

Self-Alignment: Wie viel Sicherheit man einem Sprachmodell beibringen kann, ohne dass es nutzlos wird

Tue, 22 Sep 2026 12:15:00 +0200

Erste Folge von Cluster-Röntgenbild, der Serie, die Linie für Linie aufschlüsselt, was auf dem Cluster der ANTS-Gruppe wirklich läuft . Wir beginnen mit der ersten von drei Linien zur Sicherheit von Sprachmodellen.

Die Frage #

Ein Sprachmodell so zu justieren, dass es schädliche Anfragen ablehnt, hat einen Preis: Bringt man ihm zu sehr bei, Nein zu sagen, beginnt es, auch Harmloses abzulehnen, und verliert an Nützlichkeit. Die Linie untersucht dieses Gleichgewicht: Welcher Anteil an Sicherheitsdaten muss den Nützlichkeitsdaten beigemischt werden, und kann das Modell selbst seine Ablehnungsbeispiele erzeugen und die Dosis eigenständig regeln?

Was auf unserem Cluster wirklich läuft, gelesen aus den Skripten selbst

Tue, 22 Sep 2026 10:00:00 +0200

Die Job-Historie eines Clusters ist meist eine Wand aus sechsstelligen Kennungen und kryptischen Namen – mcpfw_cc, eval_dynamic_pid, boltz2 –, die demjenigen alles sagen, der sie gestartet hat, und allen anderen nichts. Bewahrt man aber die Skripte auf, wird aus der Wand ein Dokument: Die Leute schreiben auf, warum sie etwas tun, vor allem dann, wenn ein Durchlauf Geld und eine Nacht Wartezeit kostet.