Die gr\u00f6\u00dfte Neuigkeit in der Informationstechnik hat in den allgemeinen Medien keine allzu gro\u00dfen Wellen geschlagen, da sie sehr technisch und, wenn wir ehrlich sind, f\u00fcr Menschen ohne Leidenschaft f\u00fcr dieses Thema langweilig ist. Wir halten sie f\u00fcr eine gro\u00dfe Sache und m\u00f6chten eine einfache Sprache verwenden, um zu erkl\u00e4ren, was es ist und warum sich jede*r daf\u00fcr interessieren sollte.<\/p>\n\n\n\n
Laut der Financial Times<\/a>\u201eAmazon Web Services (AWS) erlebte Mitte Dezember eine 13-st\u00fcndige Unterbrechung eines von seinen Kundinnen genutzten Systems, nachdem Ingenieurinnen ihrem Kiro<\/a> KI-Codierungswerkzeug erlaubt hatten, bestimmte \u00c4nderungen vorzunehmen. Dem Vernehmen nach stellte das agentische Werkzeug, das autonome Aktionen im Namen von Benutzer*innen ausf\u00fchren kann, fest, dass die beste Vorgehensweise darin bestand, \u201edie Umgebung zu l\u00f6schen und neu zu erstellen\u201c.<\/p>\n\n\n\n Nat\u00fcrlich dementierte Amazon den Bericht und ver\u00f6ffentlichte eine eigene Erkl\u00e4rung, die massiv betonte: \u201eDies war ein Benutzerfehler, kein Fehler der K\u00fcnstlichen Intelligenz.\u201c<\/p>\n\n\n\n Fairerweise muss man sagen, dass Fehler bei der Zugriffskontrolle ein bekanntes und dokumentiertes Risiko in der Softwareentwicklung sind. Genau dieses Szenario hat sich bei menschlichen Entwickler*innen seit Jahrzehnten abgespielt, Amazon hat also nicht unrecht, darauf hinzuweisen.<\/p>\n\n\n\n Gleichzeitig hat Amazon kommerzielle Anreize, die eng mit ihren Produkten der K\u00fcnstlichen Intelligenz verkn\u00fcpft sind. Das bedeutet nicht, dass ihre Aussage v\u00f6llig wahr oder v\u00f6llig falsch ist. Wir glauben jedoch, dass das vorliegende Thema mehr Nuancen erfordert. Wenn ein System m\u00e4chtig genug ist, eine Umgebung autonom zu l\u00f6schen und neu zu erstellen, verliert die Unterscheidung zwischen Benutzerfehler und Fehler der K\u00fcnstlichen Intelligenz an Bedeutung, da eine viel wichtigere Frage gestellt werden muss,<\/p>\n\n\n\n Egal ob die Ingenieurinnen zu viel Zugriff gew\u00e4hrt haben oder die K\u00fcnstliche Intelligenz den ihr zugewiesenen Zugriff ausge\u00fcbt hat, 13 Stunden Ausfallzeit bleiben 13 Stunden Ausfallzeit. Schuldzuweisungen sind weniger wichtig als Governance. Laut demselben Artikel sagte ein leitender AWS Mitarbeiter: \u201eWir haben mindestens zwei Produktionsausf\u00e4lle erlebt. Die Ingenieurinnen lie\u00dfen den KI-Agenten ein Problem ohne Eingreifen l\u00f6sen.\u201c<\/p>\n\n\n\n Dieses spezifische Zitat unterstreicht die Skepsis, die manche Menschen haben, schlichtweg weil die Technologie zu neu ist und es nicht viele Daten gibt, um sie vollst\u00e4ndig zu verstehen. amasol vertritt fest die \u00dcberzeugung, dass diese Technologie die Zukunft ist, mit der Einschr\u00e4nkung, dass wir an die Menschheit als letzten Kontaktpunkt glauben, bevor ein Produkt, das durch agentische K\u00fcnstliche Intelligenz erstellt oder repariert wurde, live geht, bis wir genug Daten haben, um zu beweisen, dass sie den vollen Zugriffsbereich sicher beherrschen kann. <\/p>\n\n\n\n Traditionelle Werkzeuge der K\u00fcnstlichen Intelligenz sind reaktiv. Sie stellen eine Frage, das Werkzeug gibt eine Antwort. Denken Sie an ChatGPT. Die K\u00fcnstliche Intelligenz ist einfach ein sehr f\u00e4higer Assistent, der darauf wartet, dass man ihm sagt, was er tun soll.<\/p>\n\n\n\n Agentische K\u00fcnstliche Intelligenz ist ein v\u00f6llig anderes Tier. Anstatt auf eine einzelne Eingabe zu reagieren, erh\u00e4lt ein agentisches System ein Ziel <\/em>und bestimmt dann autonom die Abfolge der Aktionen, die erforderlich sind, um dieses zu erreichen. Es durchdenkt die Probleme, w\u00e4hlt Werkzeuge aus, von denen es glaubt, dass sie das Ziel erreichen, f\u00fchrt Schritte aus, bewertet Ergebnisse und entscheidet, was als N\u00e4chstes zu tun ist.<\/p>\n\n\n\n Unter der Haube ist dies in der Regel ein gro\u00dfes Sprachmodell, welches eine Art von k\u00fcnstlicher Intelligenz ist, die auf riesigen Textmengen trainiert wurde, um menschen\u00e4hnliche Sprache zu verstehen und zu generieren, das als Gehirn fungiert. Dieses ist dann mit einer Reihe von Werkzeugen wie Programmierschnittstellen verbunden, bei denen es sich um Regeln handelt, die es verschiedenen Softwareanwendungen erm\u00f6glichen, miteinander zu kommunizieren, Code-Ausf\u00fchrern, Dateisystemen, Browsern und Datenbanken. Das Modell tut dies so lange, bis das Ziel erreicht ist oder bis etwas schiefgeht.<\/p>\n\n\n\n Eine traditionelle Interaktion mit K\u00fcnstlicher Intelligenz dauert einen Durchgang. Eine agentische Interaktion kann Hunderte von Schritten umfassen, Dutzende von Systemen ber\u00fchren und Dutzende von Entscheidungen treffen. Ohne vorgesehene Aufsicht wird das System dies tun, ohne die Menschen dar\u00fcber zu informieren. <\/p>\n\n\n\n Um alle auf den gleichen Stand zu bringen, ein Beispiel: Denken Sie bei agentischer K\u00fcnstlicher Intelligenz an ein \u00fcbereifriges Reiseb\u00fcro, dem Sie Ihren Reisepass und Ihre Kreditkarteninformationen mit dem einzigen Ziel eines Inselurlaubs gegeben haben. Anstatt Ihnen mitzuteilen, dass der Flug gestrichen wurde, und zu fragen, was als N\u00e4chstes zu tun ist, f\u00fchrt das Reiseb\u00fcro eine Reihe von autonomen Entscheidungen aus. Es storniert die gesamte 20.000-Dollar-Reise und bucht Sie auf eine Insel in der N\u00e4he um.<\/p>\n\n\n\n Die K\u00fcnstliche Intelligenz war im w\u00f6rtlichen Sinne erfolgreich. Sie hat Sie auf eine Insel gebracht. Was sie nicht wusste, weil Sie nicht daran gedacht haben, es ihr zu sagen, war, dass Ihre Freunde separate Fl\u00fcge und Hotels gebucht hatten, um Sie am urspr\u00fcnglichen Zielort zu treffen. Ohne Kontext und Schutzplanken wird die K\u00fcnstliche Intelligenz das tun, was sie tun muss, um die w\u00f6rtlichen Anforderungen ihres Ziels zu erf\u00fcllen. Im Fall von Amazon entschied die K\u00fcnstliche Intelligenz, dass der effizienteste Weg zu einer sauberen Umgebung darin bestand, zu l\u00f6schen und neu zu beginnen. Sie l\u00f6ste das technische Problem, w\u00e4hrend sie die menschlichen Folgen v\u00f6llig ignorierte.<\/p>\n\n\n\n Wir k\u00f6nnen nicht genug betonen, wie neu agentische K\u00fcnstliche Intelligenz wirklich ist. Wir befinden uns in den fr\u00fchesten Kapiteln des Verst\u00e4ndnisses dar\u00fcber, wie sich diese Systeme in gro\u00dfem Ma\u00dfstab, in realen Produktionsumgebungen und mit realen Konsequenzen verhalten. Die Rahmenbedingungen und bew\u00e4hrten Praktiken, die f\u00fcr die traditionelle Softwareentwicklung existieren, wie \u00c4nderungsmanagement, Zugriffskontrollen und Rollback-Verfahren, haben noch nicht vollst\u00e4ndig aufgeholt, was agentische Werkzeuge leisten k\u00f6nnen. Da keine angemessenen Schutzplanken bereitgestellt wurden, wird der Agent das tun, was er tun muss, um sein Ziel zu erreichen.<\/p>\n\n\n\n Wir sollten nicht aus Angst vor neuer Technologie aufh\u00f6ren, voranzuschreiten. Die Produktivit\u00e4tsgewinne sind real. Der Wettbewerbsdruck ist real. Organisationen, die agentische K\u00fcnstliche Intelligenz erfolgreich implementieren k\u00f6nnen, werden sich schneller bewegen, einen schlankeren Betrieb haben und diejenigen \u00fcberholen, die dies nicht tun. Der Erfolg liegt jedoch nicht darin, agentische K\u00fcnstliche Intelligenz einzurichten und sie alles machen zu lassen, sondern darin, diejenigen zu sein, die die notwendigen menschlichen Schutzplanken anwenden, damit die K\u00fcnstliche Intelligenz die Richtung und die Grenzen kennt.<\/p>\n\n\n\n In demselben Artikel gibt es ein Detail, auf das wir hinweisen m\u00f6chten: \u201eDas Unternehmen hatte das Ziel gesetzt, dass 80 % der Entwickler mindestens einmal pro Woche K\u00fcnstliche Intelligenz f\u00fcr Codierungsaufgaben nutzen sollten, und verfolgte die Einf\u00fchrung genau.\u201c Wenn die Einf\u00fchrung zu einer Kennzahl wird, wird Vorsicht zu Reibung. <\/p>\n\n\n\n Stell dir vor, du geh\u00f6rst zu den skeptischen Ingenieur*innen gegen\u00fcber agentenbasierter K\u00fcnstlicher Intelligenz. Es ist Freitag, 16:00 Uhr, und du hast sie die ganze Woche nicht anger\u00fchrt. In der Eile, deine internen Leistungskennzahlen zu erreichen und ein Meeting am Montagmorgen \u00fcber deine mangelnde Einhaltung der Vorschriften zu vermeiden, gibst du Kiro die volle Freiheit, den neuesten von dir geschriebenen Patch zu debuggen, ohne eine abschlie\u00dfende manuelle \u00dcberpr\u00fcfung festzulegen, und machst dich auf in dein Wochenende. In diesem Beispiel k\u00f6nnte die K\u00fcnstliche Intelligenz genau das tun, was bei Amazon passiert ist: Die K\u00fcnstliche Intelligenz sah den effizientesten Weg zu einem sauberen Patch darin, alles zu l\u00f6schen und von vorne zu beginnen. Das Meeting am Montag dreht sich nun um einen Ausfall, nicht um die verfehlte Leistungskennzahl.<\/p>\n\n\n\n Stellen Sie sich agentische Werkzeuge der K\u00fcnstlichen Intelligenz wie ein vollautonomes, selbstfahrendes Auto vor. Sie geben ihm das Ziel, Sie in 10 Minuten zur Arbeit zu bringen. Google Maps sagt, dass es 20 Minuten dauern wird. Wenn Sie der agentischen K\u00fcnstlichen Intelligenz einfach das Ziel ohne Schutzplanken geben, wird sie feststellen, dass der effizienteste Weg zum Erreichen Ihres 10-Minuten-Ziels darin besteht, \u00fcber Gehwege, durch Parks und \u00fcber Privatgrundst\u00fccke zu fahren. Sie ger\u00e4t nicht au\u00dfer Kontrolle, sie erf\u00fcllt lediglich ihr Ziel ohne den Kontext von Sicherheit, Recht oder gesundem Menschenverstand. Agentische K\u00fcnstliche Intelligenz ist wortw\u00f6rtlich.<\/p>\n\n\n\n Wir sind fest davon \u00fcberzeugt, dass agentische K\u00fcnstliche Intelligenz die Zukunft ist. Zukunft oder nicht, wir glauben, dass ein Mensch der letzte Kontaktpunkt sein sollte, bevor etwas von einem Agenten der K\u00fcnstlichen Intelligenz erstellt oder repariert wird, bis gen\u00fcgend Daten, gen\u00fcgend Erfahrung und gen\u00fcgend Reife in diesen Systemen vorhanden sind, um die volle Autonomie zu rechtfertigen. Vertrauen wird durch Beweise verdient, und wir befinden uns noch in der Phase der Beweisaufnahme.<\/p>\n\n\n\n Hier ist der Grund, warum wir glauben, dass es ein dringendes Problem ist. Wir haben kaum eine angemessene Kontrolle \u00fcber Standardwerkzeuge der K\u00fcnstlichen Intelligenz, die darauf warten, dass ein Mensch etwas eintippt. Wir sprechen jetzt \u00fcber agentische K\u00fcnstliche Intelligenz, die auf Systeme zugreifen, Entscheidungen treffen und Aktionen ausf\u00fchren kann, bevor Sie \u00fcberhaupt Ihren Laptop \u00f6ffnen. Wenn wir noch nicht einmal eine ordnungsgem\u00e4\u00dfe Kontrolle \u00fcber generative K\u00fcnstliche Intelligenz haben, sollten Unternehmen ihrer agentischen K\u00fcnstlichen Intelligenz nicht die Erlaubnis erteilen, irgendetwas ohne menschliche Zustimmung zu schreiben oder zu l\u00f6schen.<\/p>\n\n\n\n Hier ist die \u00dcbersetzung f\u00fcr deinen Blogabschnitt:\n\n\u201eGute Governance ist keine verschlossene T\u00fcr, sondern gut platzierte Kontrollpunkte. Werfen wir einen Blick auf einen unserer Technologiepartner, CrowdStrike<\/a>Gute Governance ist keine verschlossene T\u00fcr, es sind gut platzierte Kontrollpunkte. Schauen wir uns einen unserer Technologiepartner an, CrowdStrike. Deren Falcon-Datenschutz basiert auf der aktuellen Arbeitsumgebung des Promptings oder Chattens mit Chatbots der K\u00fcnstlichen Intelligenz wie ChatGPT, Gemini, Claude oder CoPilot. CrowdStrike blockiert alle sensiblen Daten, Anmeldeinformationen und regulierten Informationen, bevor sie diese Chatbots erreichen.<\/p>\n\n\n\n Dies ist in der Praxis bewiesen. Einer der eigenen Kundinnen von CrowdStrike, die Aldo Group, teilte mit, dass eine Mitarbeiterin versuchte, eine sensible Datei in ChatGPT hochzuladen. Falcon hat dies abgefangen, sodass es keinen Versto\u00df, keinen Vorfallbericht und keine schwierigen Gespr\u00e4che mit dem oder der Mitarbeiterin gab, die einfach einen Fehler gemacht hat.<\/p>\n\n\n\n Dies ist das perfekte Beispiel f\u00fcr eine Schutzplanke, da alle, von Praktikantinnen bis hin zu leitenden Angestelltinnen, Chatbots mehr denn je nutzen. Am Ende des Tages machen Menschen Fehler. Anstatt einen Mitarbeiter oder eine Mitarbeiterin f\u00fcr ein Fehlurteil oder neue Mitarbeiter*innen f\u00fcr die Unkenntnis des Protokolls zu bestrafen, glauben wir daran, die Technologie bereitzustellen, die den Fehler stoppt, bevor er gemacht wird. Governance sollte das unsichtbare Sicherheitsnetz sein, das es Ihrem Team erm\u00f6glicht, innovativ zu sein, ohne die Angst, dass ein einziger Klick zu einer Unternehmenskatastrophe wird. <\/p>\n\n\n\nHow much autonomy should agentic AI have in production environments without human intervention?<\/h4>\n\n\n\n
Was genau ist also agentische K\u00fcnstliche Intelligenz?<\/h2>\n\n\n\n
Gro\u00dfartige Technik. Neuland.<\/h2>\n\n\n\n
Die Zwangsadoption verschlimmert die Situation noch<\/h2>\n\n\n\n
Das wahre Risiko ist un\u00fcberwachte K\u00fcnstliche Intelligenz<\/h2>\n\n\n\n
Wie gute Regierungsf\u00fchrung tats\u00e4chlich aussieht<\/h2>\n\n\n\n