Mitglieder der c't-Redaktion diskutieren über die aktuellen Themen aus dem c’t Magazin und was sonst noch so in der IT-Welt passiert.
https://www.heise.de/thema/ct-uplink
episode 514: Sprach-KI selber betreiben | c’t uplink
Mit dabei: Jo Bager, Hartmut Gieselmann, Pina Merkert und Jan Schüßler
Das Problem stellt sich vor allem für Firmen: OpenAIs ChatGPT mag ein irre praktisches und mächtiges Tool sein, doch es spricht auch einiges dagegen. Vor allem in Sachen Datenschutz, aber auch in puncto Langzeitstabilität des Funktionsumfangs hat man über das US-System schlicht keine Kontrolle.
Eine interessante Alternative ist es, eine generative Sprach-KI selber zu betreiben. So bekommt man nicht nur die Hoheit über die eigenen Datenbestände zurück, sondern kann den Funktionsumfang auch gezielt an eigene Bedürfnisse anpassen. Obendrein ist das Ganze auch noch Open Source.
Im c’t uplink sprechen wir darüber, was man an Hardware und an Software braucht, um sich eine eigene Chat-KI zu bauen, was auf dem eigenen Testrechner funktioniert und wofür man besser einen Cloudserver anmietet. Außerdem: Wie finde ich eigentlich raus, welches von tausenden KI-Systemen am besten für meine Zwecke geeignet ist?
Unsere Artikel zum Thema selbstgehostete Sprach-KI finden Sie in der aktuellen c’t 23/2023.