Wie wir arbeiten
Was wir KI tun lassen und was niemals
Die Frage ist nicht, ob sie Fehler macht. Die Frage ist, ob Ihr System sie bemerkt, bevor es jemand anderer tut.
Die meiste KI-Governance ist ein Dokument, das geschrieben, freigegeben und nie wieder geöffnet wurde. Das hier ist die Fassung, die in der Arbeit tatsächlich gilt, jeden Tag. Zwei Listen, und zu jeder Zeile der Grund, warum sie auf der einen und nicht auf der anderen steht.
Zuerst der ehrliche Teil
KI schreibt hier Code. Jeden Tag, in echter Arbeit, auf Seiten, die live sind.
Und sie irrt oft genug, dass ein Unternehmen, das ihr vertraut hätte, längst etwas kaputtgemacht hätte. Beide Sätze stimmen, und alles Folgende existiert, weil beide stimmen.
Die Frage, die uns gestellt wird, lautet, ob man KI vertrauen kann, und das ist die falsche Frage. Man kann nicht, genauso wenig wie einer neuen Kollegin in ihrer ersten Woche, genauso wenig wie einem müden Menschen am Freitag um sechs. Die Frage, auf die es ankommt, ist eine andere.
Die Frage ist nicht, ob sie Fehler macht. Die Frage ist, ob Ihr System sie bemerkt, bevor es jemand anderer tut.
Das Wort heißt steuern, nicht anhalten
Governance kommt vom griechischen kybernan, ein Schiff steuern, über das lateinische gubernare. Der Steuermann war der kybernetes, woher auch die Kybernetik ihren Namen hat.
Es hieß nie, das Schiff am Fahren zu hindern. Es hieß, dass jemand die Hand am Ruder hat, während es fährt. Das meiste, was als KI-Governance verkauft wird, ist ein Anker, und die Unternehmen, die ihn kaufen, stehen still und wissen immer noch nicht, wohin sie wollen.
Was sie darf und täglich tut
Nichts davon ist das Abgeben von Urteilsvermögen. Es ist das Abgeben von Menge.
- <b>Die erste Fassung von allem schreiben.</b> Code, einen Entwurf, eine Übersetzung, einen Test. Erste Fassungen sind heute billig, und das verändert, was überhaupt einen Versuch wert ist.
- <b>In einem Umfang abgleichen, den ein Mensch nicht schafft.</b> Einen neuen Beitrag gegen jeden früheren auf wiederholte Passagen prüfen. Eine Liste von Abhängigkeiten gegen eine Liste bekannter Probleme halten. Arbeit, die einfach, riesig und ehrlich langweilig ist.
- <b>Ein System zurückerklären.</b> Fremden Code lesen und sagen, was er tut, ist eine ihrer größten Stärken, und es spart von allem auf dieser Liste die meisten Stunden.
- <b>Das finden, woran ein Mensch zehnmal vorbeigelesen hat.</b> Eine frische Leserin ohne Erinnerung daran, es selbst geschrieben zu haben, hat einen Vorteil, den keine Autorin je hat.
Was sie niemals darf
Das wird strukturell verweigert und nicht per Richtlinie. Eine Regel, die davon abhängt, dass man sich an sie erinnert, ist keine Regel.
- <b>Zugangsdaten halten.</b> Kein Schlüssel, kein Token, kein Passwort wird einem Modell übergeben, in eine Datei geschrieben, die es lesen kann, oder in ein Gespräch eingefügt. Schlüssel gehen vom Bildschirm des Anbieters in die Konsole, die sie braucht, und sonst nirgendwohin. Ein Modell, das nie ein Geheimnis gesehen hat, kann keines preisgeben.
- <b>In ein Repository schreiben.</b> Es committet, pusht, resettet und rebaset nicht. Es schlägt Änderungen vor, und ein Mensch schickt sie ab. Eine Zeile Disziplin, die eine ganze Kategorie von Unfällen entfernt.
- <b>Etwas löschen.</b> Dateien werden in einen Ordner verschoben, den ein Mensch leert. Die Kosten eines falschen Löschens sind unbegrenzt. Die Kosten eines falschen Verschiebens sind dreißig Sekunden.
- <b>Entscheiden, was veröffentlicht wird.</b> Jede Veröffentlichung wird von einem Menschen freigegeben, der sie gelesen hat. Nicht grundsätzlich geprüft. Gelesen.
- <b>Personenbezogene Daten anfassen.</b> Nicht in einem Prompt, nicht in Testdaten, nicht in einem Protokoll, nicht in einem Repository. Nur erfundene Daten.
- <b>Bei einer Tatsache geglaubt werden.</b> Was als wahr behauptet wird, trägt eine Quelle, oder es geht nicht hinaus. Diese Regel hat mehr echte Fehler gefunden als alle anderen zusammen.
Vier echte Fehler, denn ein Beitrag ohne sie ist Werbung
Jeder davon ist in den letzten zwei Wochen passiert, und jeder wurde von der Struktur abgefangen und nicht davon, dass jemand besonders aufmerksam war.
Sie hat eine funktionierende Datei durch eine ältere Kopie ersetzt. Selbstbewusst, und das Ergebnis sah plausibel aus. Gefunden wurde es durch den Vergleich einer Prüfsumme mit der Fassung in der Versionsverwaltung, und von dort wiederhergestellt. Gefunden von einer Prüfung, nicht von einem Blick. Wer diese Datei gelesen hätte, hätte funktionierenden Code gesehen und zugestimmt.
Sie hat eine Funktion in die falsche Funktion gesetzt. Alles ließ sich parsen. Alles sah richtig aus. Die Seite wäre für jede Besucherin kaputt gewesen. Sie hat niemanden erreicht, weil der Veröffentlichungsschritt die Seite baut, bevor er etwas abschickt, und sich weigert, einen kaputten Build zu senden. Das Tor hat die Arbeit gemacht, und das Tor wird nicht müde.
Sie hat ein Rechtsdatum genannt, das überholt war. Eine europäische Pflicht wurde mit einem Wortlaut beschrieben, der Monate zuvor ersetzt worden war. Es las sich maßgeblich, denn so schreibt ein Modell alles. Dass Tatsachen eine Quelle tragen müssen, ist der einzige Grund, warum überhaupt nachgeprüft wurde.
Sie hat einen Fehler auf einer Seite gemeldet, die korrekt war. Eine automatische Prüfung las die falsche Zeile einer Tabelle und erklärte sie für fehlerhaft. Danach zu handeln hätte eine Seite kaputtgemacht, die von Anfang an richtig war. Die Lehre daraus betrifft uns und nicht das Werkzeug: Ein Bericht ist eine Behauptung, und eine Behauptung wird geprüft, bevor jemand etwas ändert.
Was das kostet und was es einbringt
Diese Regeln sind nicht gratis. Nicht committen zu lassen heißt, dass jemand einen Befehl ausführt. Nicht löschen zu lassen heißt, dass sich ein Ordner füllt. Jede Tatsache mit einer Quelle zu versehen macht das Schreiben langsamer.
Dafür bekommt man, dass ein Fehler zu einem Vorfall wird, von dem draußen nie jemand erfährt, und das ist die einzige Definition von Sicherheit, die etwas bedeutet.
Und das Bemerkenswerte daran ist, dass nichts davon ausgefeilt ist. In dieser Liste steht kein Überwachungsprodukt und keine Compliance-Plattform. Es sind sechs Verweigerungen und ein Build-Tor, und es passt auf eine Karteikarte.
Wenn Sie das für Ihr eigenes Unternehmen entscheiden
Die Frage ist nicht, welches Werkzeug erlaubt wird. Die Frage ist, welche Ihrer Handlungen unumkehrbar sind, wenn sie schiefgehen, denn das sind die, die ein Mensch behält.
Alles andere kann abgegeben werden und sollte es auch, denn dort liegen die Stunden. Wie diese Arbeit abläuft und was Ihnen die ersten zwei Wochen bringen.
- Alles, bei dem Zugangsdaten im Spiel sind.
- Alles, was löscht.
- Alles, was bei einer Kundin oder einem Kunden ankommt.
- Alles, was echte personenbezogene Daten berührt.
KI-Governance ist kein Dokument, in dem steht, man solle vorsichtig sein. Sie ist eine kurze Liste von Handlungen, die eine Maschine strukturell nicht ausführen kann, und ein Tor, das sich weigert zu veröffentlichen, wenn etwas kaputt ist. Schreiben Sie auf, welche Ihrer Handlungen unumkehrbar sind, behalten Sie diese, und geben Sie den Rest ab.
MK!
AIPathTech Editorial
Auf dieser Seite gibt es kein Tracking. Keine Analyse, keine Cookies, nichts, das aufzeichnet, wo Sie waren oder wie lange Sie geblieben sind.
Aber ich würde gerne wissen, ob hier etwas Ihre Zeit wert war. Wenn ja, drücken Sie das Herz. Es verrät mir nichts über Sie. Es ist eine Zahl, die steigt, und sie ist der Grund, warum ich weiterschreibe.
Wenn Sie mehr davon möchten, finden Sie mich auf X. @Queendemetriak