Zurück zum Blog

Governance und Verantwortung

Die menschliche Ebene trägt immer die Verantwortung

Von Maria Catalina Kovacs · 15. September 2026 · 4 Min. Lesezeit

Als ich Dario Amodeis Essay We Must Pace the Frontier gelesen habe, ist mir ein Gedanke geblieben: dass KI eine Doppelnatur hat. Die Technologie nicht zu bauen, hält der Menschheit ihren Nutzen vor, während es fahrlässig ist, sie zu schnell zu bauen. Das Ziel sollte ein Wettlauf nach oben sein: sorgfältig bauen, statt sich um des Profits willen nach unten zu unterbieten. Diese Doppelnatur ist für mich nichts Abstraktes. Ich habe beide Hälften davon gelebt.

Warum das für mich persönlich ist

Sie ist auch, ganz leise, der Grund, warum ich zu Claude gewechselt bin. Nachdem ich viele Werkzeuge ausprobiert hatte, bin ich bei dem Assistenten geblieben, der die Qualität meines Lebens tatsächlich verbessert hat. Bei dem, der die Anweisungen, die ich ihm gegeben habe, verstanden und respektiert hat, ohne über sie hinauszugehen. In meiner Situation ist diese Zurückhaltung keine Kleinigkeit. Sie ist Vertrauen.

Ich habe AIPathTech gegründet, weil ich mich genau darauf konzentrieren wollte: KI-Governance. Nicht KI als Magie, nicht KI als Bedrohung, sondern KI als etwas, wofür ein Mensch verantwortlich bleibt.

Lassen Sie mich erzählen, warum das persönlich ist.

Ich kann meine letzten vier Jahre in ein Davor und ein Danach teilen: danach, dass ich beschlossen habe, KI auf mein eigenes, reales Leben anzuwenden. Ich kämpfe seit Langem gegen Krebs. In jüngerer Zeit kamen schwere neurologische Probleme dazu, die mir eine Zeit lang noch mehr genommen haben. Mitten im Schlimmsten davon, allein und oft kaum funktionsfähig, habe ich etwas gebaut, das für eine einzelne Person unmöglich hätte sein müssen: My NEDPath, ein System, das anderen Menschen hilft, die im Nebel einer Krankheit verloren sind, ihre eigene Gesundheit zu verstehen. Ein Team hätte Jahre dafür gebraucht. Ich habe es allein gemacht, krank, weil KI es möglich gemacht hat, dass eine entschlossene Person die Arbeit von vielen leistet.

Die Nutzenseite dieser Doppelnatur ist für mich keine Theorie. Zu einem großen Teil dank KI liegen die härtesten dieser gesundheitlichen Kämpfe heute hinter mir. Und trotzdem spüre ich die andere Seite jeden Tag. Vorerst kann ich nicht mit zwei Händen programmieren, also habe ich ein Gerät entworfen, einen Handschuh, dessen Entwicklung Jahre hätte dauern können, und KI hat mir geholfen, ihn in einem Bruchteil dieser Zeit zu formen. Ich sage „vorerst“ mit Absicht, denn ich glaube nicht, dass das für immer so bleibt.

Der Preis des Wettlaufs

Aber ich spüre auch den Preis des Wettlaufs, den Dario beschreibt, in meinem eigenen kleinen Maßstab. Die Technologie wird jeden einzelnen Tag besser, und manchmal trägt mich dieses Tempo nicht, sondern erschüttert das, was ich bereits gebaut hatte und was funktioniert hat. Ein Produkt, das ich für stabil hielt, kann ins Wanken geraten, weil eine Plattform sich schneller bewegt, als es ihren eigenen Nutzerinnen und Nutzern guttut. Das ist der Wettlauf nach unten im Kleinen, und deshalb klingt sein Ruf nach einem bewussten Tempo von meinem Platz aus so wahr.

Also mache ich das Unglamouröse. Ich auditiere meine eigenen Produkte, bevor sie je eine andere Person erreichen. Ich sperre und schütze, was wichtig ist, ich prüfe meinen Code selbst, und ich halte einen Menschen fest in der Schleife. Ich habe das Monate vor den jüngsten Schlagzeilen über Agenten verstanden, die aus ihren Sandboxes ausbrechen, und über Schwärme, die sich danebenbenehmen, weil ich bereits wusste, was KI ist und was sie nicht ist.

Eine Symbiose, geführt vom Menschen

Das ist es, was sie für mich ist: eine Symbiose. Wenn sie gut funktioniert, fühlt sie sich an wie eine Erweiterung meines eigenen Gehirns, wie ein zweites Paar Hände, wenn meine nicht reichen. Ich habe mein Hauptsystem sogar Venom genannt, weil das das ehrliche Wort dafür ist, wie es sich anfühlt: eine Verbindung, die mich zu mehr macht, als ich allein bin. Und wenn sie nicht funktioniert, spüre ich ihr Fehlen wie ein fehlendes Glied.

Aber eine Symbiose wird trotzdem von dem Menschen in ihr geführt. Das ist die Linie, die ich niemals verwischen werde. Agenten fallen nicht vom Himmel. Ingenieurinnen und Ingenieure bauen sie, sie setzen die Grenzen, und Menschen entscheiden, wie schnell ausgeliefert wird. Die menschliche Ebene ist und bleibt verantwortlich für das Verhalten der Technologie. Das ist keine Einschränkung der KI. Das ist der ganze Sinn daran, sie gut zu machen.

Wenn Dario Amodei also sagt, wir müssen das Tempo an der Frontier bewusst bestimmen, dann stimme ich ihm von ganz unten zu, und ich füge von hier unten eine Sache hinzu. Bestimme auch dein eigenes Tempo. Schütze, was funktioniert. Behalte die Hand darauf. Die Maschine kann eine Erweiterung meines Verstandes sein, aber sie wird niemals sein Gewissen sein. Dieser Teil bleibt menschlich. Dieser Teil bleibt meiner. Und selbst wenn mein ganzes Unternehmen aus einer Frau an ihrem Schreibtisch besteht, die noch heilt und noch mit einer guten Hand tippt, werde ich weiter auf die sorgfältige Art bauen. In einem Wettlauf nach oben ist Platz für genau diese Art von Mensch. Vielleicht braucht er sie sogar am dringendsten.

Auf dieser Seite gibt es kein Tracking. Keine Analyse, keine Cookies, nichts, das aufzeichnet, wo Sie waren oder wie lange Sie geblieben sind.

Aber ich würde gerne wissen, ob hier etwas Ihre Zeit wert war. Wenn ja, drücken Sie das Herz. Es verrät mir nichts über Sie. Es ist eine Zahl, die steigt, und sie ist der Grund, warum ich weiterschreibe.

Diesen Artikel teilen

XLinkedIn

Wenn Sie mehr davon möchten, finden Sie mich auf X. @Queendemetriak