Wie wir arbeiten
Die Maschine, die sich selbst anhält
Sicherheit heißt nicht, dass jemand genauer hinsieht. Sicherheit ist eine Maschine, die merkt, wann sie Schaden anrichtet, und von selbst anhält.
Das meiste Geld für KI-Sicherheit fließt ins Zuschauen. Das billigste und wirksamste Mittel, das wir haben, macht das Gegenteil: Es weigert sich loszufahren, und niemand muss dabei hinsehen.
Was am Dienstag passiert ist
An einer Seite auf einer laufenden Website wurde etwas geändert. Geschrieben von einem Modell, gelesen von einem Menschen, und beide haben dasselbe übersehen.
Eine Funktion war in eine andere Funktion gesetzt worden. Alles ließ sich parsen. Alles sah richtig aus. Die Seite wäre für jede einzelne Besucherin kaputt gewesen.
Sie hat niemanden erreicht. Der Befehl, der die Seite veröffentlicht, baut die Seite zuerst und weigert sich, irgendetwas zu senden, wenn der Build fehlschlägt.
Stattdessen stand im Terminal BUILD FAILED, nichts wurde committet, nichts wurde gesendet, und der Fehler war zehn Minuten später behoben.
Kein Vorfall. Keine Entschuldigung. Draußen hat es nie jemand erfahren.
Was Unternehmen stattdessen kaufen
Angesichts des Risikos, dass von KI erzeugte Arbeit fehlerhaft hinausgeht, kaufen die meisten Organisationen Aufmerksamkeit. Mehr Prüfung, mehr Freigaben, ein zweites Augenpaar, ein Dashboard, auf das jemand schauen soll.
All das hängt davon ab, dass ein Mensch genau in dem Moment wach ist, in dem es darauf ankommt, und das ist das Einzige, was sich nicht planen lässt. Die Prüfung, die einen Fehler findet, ist nie die am Dienstag um neun. Es ist die am Freitag um sechs, und genau die macht niemand ordentlich.
Was wir geändert haben, war nicht mehr Aufmerksamkeit. Es war ein Schritt, der sich nicht überspringen lässt und der nicht müde wird.
Diese Idee ist hundert Jahre alt und kommt von einem Webstuhl
Anfang des 20. Jahrhunderts baute Sakichi Toyoda einen Webstuhl, der von selbst stehen blieb, sobald ein Faden riss.
Bis dahin hieß ein gerissener Faden, dass der Webstuhl weiter unbrauchbaren Stoff produzierte, und jemand musste jede Maschine beaufsichtigen. Danach konnte eine Person viele überblicken, weil jede Maschine merkte, wann sie Schaden anrichtete, und von selbst anhielt.
Aus diesem Prinzip wurde eine der beiden Säulen des Toyota-Produktionssystems. Das Wort dafür ist Jidoka, meist übersetzt als Automatisierung mit menschlichem Zug.
Genau das ist heute das Problem mit KI im Unternehmen, und es ist dieselbe Antwort.
Es ging nie darum, dass die Maschine klug war. Es ging darum, dass sie wusste, wann sie anhalten muss, damit kein Mensch danebenstehen und zusehen musste.
Wie so ein Haltepunkt in Software aussieht
Unserer ist unspektakulär und besteht aus drei Zeilen Shell.
Das ist der ganze Mechanismus. Er hat eine kaputte Seite abgefangen, einen Push, der mit über Nacht erledigter Arbeit kollidiert wäre, und eine Datei, die still durch eine ältere Kopie ersetzt worden war.
- <b>Bauen, bevor gesendet wird.</b> Nicht danach. Wenn es nicht baut, geht nichts hinaus, und was öffentlich falsch gewesen wäre, ist stattdessen auf einem Laptop falsch.
- <b>Laut anhalten und sagen, warum.</b> Ein Fehlschlag mit einer vagen Meldung wird zweimal ignoriert und dann abgeschaltet. Unserer sagt, was er gerade tat, was fehlgeschlagen ist und wo das Protokoll liegt.
- <b>Es zur einzigen Straße machen.</b> Ein Tor mit einem Weg daran vorbei ist kein Tor. Die Art, wie wir veröffentlichen, ist die, die zuerst baut. Einen anderen Befehl gibt es nicht.
Warum das jetzt wichtiger ist, nicht weniger
KI hat es viel billiger gemacht, Arbeit zu erzeugen, und nicht billiger, Arbeit zu prüfen.
Das Verhältnis hat sich also verschoben. Ein Team, das letztes Jahr alles prüfen konnte, was es produzierte, kann das heute nicht mehr, und die ehrliche Antwort ist weder, weniger zu produzieren, noch so zu tun, als fände die Prüfung weiterhin statt.
Die Antwort ist, Stellen zu bauen, an denen die Arbeit sich selbst anhält.
Und sehen Sie, was das einbringt. Nicht die Abschaffung des Menschen. Das Gegenteil: Es ist das, was einem Menschen erlaubt, seine Aufmerksamkeit für die Entscheidungen zu verwenden, die ihn wirklich brauchen, statt für das Warten auf einen gerissenen Faden.
Wenn Sie eine Sache mitnehmen
Finden Sie den Moment in Ihrer Arbeit, in dem ein Fehler öffentlich wird. Deployment, Senden, Absenden, Veröffentlichen, Posten.
Setzen Sie genau dort eine automatische Prüfung hin und lassen Sie sie sich weigern.
Sie muss nicht klug sein und sie muss nicht alles finden. Sie muss unüberspringbar sein, und sie muss an der letzten Tür stehen und nicht irgendwo bequem in der Mitte.
Sicherheit heißt nicht, dass jemand genauer hinsieht. Sicherheit ist eine Maschine, die merkt, wann sie Schaden anrichtet, und von selbst anhält, damit der Mensch an etwas anderes denken kann. Diese Idee ist hundert Jahre alt, sie kommt aus einer Weberei, und sie ist immer noch das Billigste, was Sie bauen können.
MK!
AIPathTech Editorial
Auf dieser Seite gibt es kein Tracking. Keine Analyse, keine Cookies, nichts, das aufzeichnet, wo Sie waren oder wie lange Sie geblieben sind.
Aber ich würde gerne wissen, ob hier etwas Ihre Zeit wert war. Wenn ja, drücken Sie das Herz. Es verrät mir nichts über Sie. Es ist eine Zahl, die steigt, und sie ist der Grund, warum ich weiterschreibe.
Wenn Sie mehr davon möchten, finden Sie mich auf X. @Queendemetriak