Computer mit kompaktester Rechenleistung
Haben Sie sich je gefragt, wie viel Leistung in eine kleine Box passt? Wir haben einen kleinen Computer gebaut, der in einem kompakten Gehäuse mit einem Fassungsvermögen von knapp über 10 Litern eine beeindruckende Rechenleistung bietet. Er ist mit einer RTX 6000 Pro und 96 GB VRAM ausgestattet. Die Kombination aus Rechenleistung und einer großen Menge an VRAM ermöglicht es uns, größere Large Language Modelle zu verwenden - ideal für die Arbeit mit umfangreichen Codebasen. Die lokale Verarbeitung gewährleistet Datensicherheit und Datenschutz. Bisher nutzen wir den Rechner als Testsystem. Künftig werden wir ihn zudem für lokale Benchmark-Tests, das Training von KI-Modellen verwenden und als Showcase-Rechner.