Lokal statt Cloud: Wie TJ KI-Anwendungen ohne Datenleck baut
Datenschutz und KI-Geschwindigkeit schließen sich nicht aus – wenn du verstehst, wo Kundendaten überhaupt ins Spiel kommen. TJ trennt scharf zwischen KI-gestützter Entwicklung und KI-betriebenem Betrieb und zeigt, warum diese Unterscheidung alles ändert. Du hörst, wie er live vor 400 Leuten in einer Stunde eine vollständige Matching-Plattform mit lokalen Open-Source-Modellen gebaut hat – kein einziges Kundendaten-Bit hat das Unternehmensnetz verlassen. Warum Nvidia gerade 20 Milliarden für Hugging Face bezahlt hat, erklärt den Markt besser als jede Analystenprognose.
Entwicklung vs. Betrieb – der Unterschied, der Datenschutz-Debatten auflöst
TJ macht eine Unterscheidung, die in den meisten KI-Diskussionen fehlt: Durch was entsteht eine Lösung – und wie betreibst du sie später? Wer das trennt, merkt schnell, dass die Datenschutz-Bedenken meist nur eine Phase betreffen. Während der Entwicklung fließen keine Unternehmensdaten, keine Kundendaten, kein einziges relevantes Bit zu einem externen Anbieter. Du entwickelst Software – du schickst Prompts, keine Payloads. Erst im Betrieb, wenn die Lösung mit echten Daten läuft, wird die Frage relevant, welches Modell welche Informationen verarbeitet. Wer diese beiden Phasen sauber auseinanderhält, kann im Entwicklungsprozess bedenkenlos die leistungsfähigsten Frontier-Modelle nutzen – und im Betrieb auf sichere lokale Alternativen wechseln.
Vibe-Engineering: Immer das beste Modell, immer sofort verfügbar
TJ arbeitet in Claude Code – nicht in einer klassischen IDE wie VS Code – und wechselt das Modell per Klick unten rechts im Interface. Von Claude 3.5 auf Claude 3.7, von Opus 4 auf Opus 5, sobald eine neue Version verfügbar ist. Das klingt nach einem Detail, ist aber der Kern seines Entwicklungstempos: Er hat immer das aktuell stärkste Code-Modell im Einsatz, ohne Konfigurationsaufwand. Dieses Prinzip nennt er Vibe-Engineering – den Entwicklungsprozess konsequent auf KI-Qualität ausrichten, statt KI als Add-on in einen bestehenden Workflow zu pressen. Das Ergebnis ist nicht nur Geschwindigkeit, sondern eine Qualität, die mit manueller Entwicklung schlicht nicht mithalten kann.
Grüne Wiese statt Anflanschen – warum KI-zentriert neu bauen gewinnt
Die meisten Unternehmen kleben KI an bestehende Systeme. TJ geht den anderen Weg: KI-zentriert neu bauen, auf grüner Wiese. Er hat die Akademie vollständig neu aufgesetzt, statt WordPress irgendwie zu erweitern. Der Vorteil ist nicht nur technischer Natur – es ist auch ein mentaler Befreiungsschlag. Wer neu baut, muss keine Kompromisse mit Legacy-Architekturen schließen und kann Qualität und Geschwindigkeit so kombinieren, wie es mit gewachsenen Systemen schlicht nicht möglich ist. Die Migration kommt danach, wenn das neue System funktioniert. Kein großes Risiko – aber ein klarer Schritt, der Mut erfordert und den die meisten scheuen.
6.000 Open-Source-Modelle, Hugging Face und Nvidias 20-Milliarden-Wette
Im Betrieb braucht es kein Frontier-Modell. Auf Hugging Face stehen über 6.000 – inzwischen vielleicht 10.000 – Open-Source-Modelle zur Verfügung, die sich vollständig lokal betreiben lassen. Nvidia hat das erkannt und Hugging Face für 20 Milliarden Dollar gekauft. Der Grund: Damit kann Nvidia jetzt einen vollständigen vertikalen Stack liefern – von der CPU über das Betriebssystem bis zu lokalen KI-Modellen, die direkt im eigenen Rechenzentrum laufen. Das macht Unternehmen unabhängig von OpenAI, Anthropic und Co. Nvidia hat seine Gewinnprognose für das Folgejahr von 40 auf 70 Prozent angehoben – weil dieser vollständige Stack ein neues Marktsegment öffnet, ähnlich wie Android und Apple den Mobilfunkmarkt aufgeteilt haben: ein Markt zwischen Closed-Source und Open-Source-KI.
Matching-Plattform in einer Stunde, Testimonials vollautomatisch – so sieht das in der Praxis aus
TJ hat live vor 400 Zuschauern im KI-Café eine Matching-Plattform für Interim-Manager gebaut – in einer Stunde, mit Claude 5 als Entwicklungsmodell und LM Studio mit zwei lokalen Modellen im Betrieb. Die Plattform matcht Tausende Lebensläufe gegen Projektanfragen und begründet die Auswahl nachvollziehbar. Kein einziges Kundendaten-Bit hat das System verlassen. Dasselbe Prinzip steckt hinter der vollautomatischen Testimonial-Pipeline des Koerting Institute: Ein halbstündiges Kundeninterview wird per lokaler KI zu einem fertigen 15-Minuten-Video – mit Hook, Logo, eingeblendeten Fragen, den besten Antwort-Ausschnitten, CI-konformem Design und automatischer Veröffentlichung auf der Website. Das Team drückt nur noch den Freigabe-Knopf. Früher war das anderthalb Tage Arbeit. Möglich macht das eine Kombination aus vier bis fünf spezialisierten Open-Source-Modellen – darunter eines, das per Whisper-Transkription sekundengenau schneidet.
Fazit: Datenschutz ist kein KI-Hindernis – wenn du weißt, wo du hinschaust
Die entscheidende Erkenntnis dieser Folge ist einfach: Datenschutz und KI-Geschwindigkeit sind kein Widerspruch. Sie erfordern nur sauberes Denken in zwei Phasen. Entwickle mit den besten Modellen, die der Markt hergibt – denn dabei gehen keine Kundendaten raus. Betreibe mit lokalen Open-Source-Modellen, die auf spezifische Aufgaben trainiert sind – denn dabei verlässt kein Datum das Haus. Wer das versteht und den Schritt zur grünen Wiese wagt, baut heute Lösungen, die Legacy-Systeme in ein bis zwei Jahren einholen werden. Nicht irgendwann. Sondern jetzt.
Das nimmst du mit:
• Während der Entwicklung mit KI gehen null Unternehmensdaten raus – Kundendaten spielen in der Entwicklungsphase schlicht keine Rolle.
• Frontier-Modelle wie Claude oder GPT brauchst du nur zum Bauen, nicht zum Betreiben: 6.000+ Open-Source-Modelle auf Hugging Face erledigen die meisten Aufgaben vollständig lokal.
• Nvidia kauft Hugging Face für 20 Mrd., weil sie jetzt den kompletten vertikalen Stack liefern können – von der CPU bis zur lokalen KI im eigenen Rechenzentrum. Das ist die Alternative zu OpenAI und Co.
• KI-zentriert neu bauen schlägt KI ans Bestehende anflanschen: Wer grüne Wiese wählt, kann Qualität und Geschwindigkeit kombinieren, die mit Legacy-Systemen nicht erreichbar sind.
• Vollautomatische Content-Pipelines sind heute möglich: Ein halbstündiges Kunden-Interview wird per lokaler KI zu einem fertig geschnittenen, CI-konformen 15-Minuten-Testimonial – das Team drückt nur noch Freigabe.
Kapitel:
00:00 Zwei Fragen: Wie entsteht eine Lösung – und wie betreibst du sie?
01:18 Vibe-Engineering: Immer das beste Modell im Entwicklungsprozess nutzen
02:57 Während der Entwicklung gehen null Kundendaten raus
04:00 KI-zentriert neu bauen statt anflanschen
04:57 Open-Source-Modelle: 6.000+ Alternativen zu Frontier-Modellen, vollständig lokal
05:57 Nvidia kauft Hugging Face – warum das den Markt verändert
07:30 Live-Demo: Matching-Plattform für 1.000 Interim-Manager in einer Stunde gebaut
08:57 Vollautomatische Testimonial-Pipeline – von Interview zu fertigem Video ohne manuelle Arbeit
Noch mehr von den Koertings ...
Das KI-Café ... jede Woche Mittwoch (>350 Teilnehmer) von 8:30 bis 10:00 Uhr ... online via Zoom .. kostenlos und nicht umsonst
Jede Woche Mittwoch um 8:30 Uhr öffnet das KI-Café seine Online-Pforten ... wir lösen KI-Anwendungsfälle live auf der Bühne ... moderieren Expertenpanel zu speziellen Themen (bspw. KI im Recruiting ... KI in der Qualitätssicherung ... KI im Projektmanagement ... und vieles mehr) ... ordnen die neuen Entwicklungen in der KI-Welt ein und geben einen Ausblick ... und laden Experten ein für spezielle Themen ... und gehen auch mal in die Tiefe und durchdringen bestimmte Bereiche ganz konkret ... alles für dein Weiterkommen.
Melde dich kostenfrei an ... www.koerting-institute.com/ki-cafe/
Mit jedem Prompt ein WOW! ... für Selbstständige und Unternehmer
Ein klarer Leitfaden für Unternehmer, Selbstständige und Entscheider, die Künstliche Intelligenz nicht nur verstehen, sondern wirksam einsetzen wollen. Dieses Buch zeigt dir, wie du relevante KI-Anwendungsfälle erkennst und die KI als echten Sparringspartner nutzt, um diese Realität werden zu lassen. Praxisnah, mit echten Beispielen und vollständig umsetzungsorientiert.
Das Buch ist ein Geschenk, nur Versandkosten von 9,95 € fallen an. Perfekt für Anfänger und Fortgeschrittene, die mit KI ihr Potenzial ausschöpfen möchten.
Das Buch in deinen Briefkasten ... https://koerting-institute.com/shop/buch-mit-jedem-prompt-ein-wow/
Die KI-Lounge ... unsere Community für den Einstieg in die KI (>2800 Mitglieder)
Die KI-Lounge ist eine Community für alle, die mehr über generative KI erfahren und anwenden möchten. Mitglieder erhalten exklusive monatliche KI-Updates, Experten-Interviews, Vorträge des KI-Speaker-Slams, KI-Café-Aufzeichnungen und einen 3-stündigen ChatGPT-Kurs.
Tausche dich mit über 4.000 KI-Enthusiasten aus, stelle Fragen und starte durch.
Initiiert von Torsten & Birgit Koerting, bietet die KI-Lounge Orientierung und Inspiration für den Einstieg in die KI-Revolution.
Hier findet der Austausch statt ... www.koerting-institute.com/ki-lounge/
Starte mit uns in die 1:1 Zusammenarbeit
Wenn du direkt mit uns arbeiten und KI in deinem Business integrieren möchtest, buche dir einen Termin für ein persönliches Gespräch. Gemeinsam finden wir Antworten auf deine Fragen und finden heraus, wie wir dich unterstützen können. Klicke hier, um einen Termin zu buchen und deine Fragen zu klären.
Buche dir jetzt deinen Termin mit uns ... www.koerting-institute.com/termin/
Weitere Impulse im Netflix Stil ...
Wenn du auf der Suche nach weiteren spannenden Impulsen für deine Selbstständigkeit bist, dann gehe jetzt auf unsere Impulseseite und lass die zahlreichen spannenden Impulse auf dich wirken.
Inspiration pur ... www.koerting-institute.com/impulse/
Die Koertings auf die Ohren ...
Wenn dir diese Podcastfolge gefallen hat, dann höre dir jetzt noch
weitere informative und spannende Folgen an ...
über 500 Folgen findest du hier ... www.koerting-institute.com/podcast/
Wir freuen uns darauf, dich auf deinem Weg zu begleiten!
