Künstliche Intelligenz: Ein Game-Changer mit Risiken
Die künstliche Intelligenz (KI) beherrscht den Markt und schafft neue Möglichkeiten, doch Experten zufolge müssen IT-Führungskräfte die Risiken verstehen und Maßnahmen ergreifen, um diese zu adressieren.
Die Auswirkungen der künstlichen Intelligenz auf unsere Gesellschaft sind enorm. „Aus wirtschaftlichen Gründen zwingt sie uns dazu, all unsere Probleme in Vorhersageprobleme umzuwandeln“, so Jeff Moss, Gründer von Black Hat, während der Eröffnungsrede auf der Black Hat USA 2023 in Las Vegas. Experten teilten mit, wie dramatisch die generative KI das Spiel verändert.
Für Moss liegt der größte Einfluss der KI auf dem kulturellen Diskurs darin, dass sie uns dazu bringt, über Probleme zu spekulieren, die wir noch nicht erlebt haben, und Antworten auf Fragen gibt, die die generative KI selbst möglicherweise nicht vollständig versteht.
Dies zwingt IT-Leiter dazu, proaktiv aus einer Sicherheitsperspektive zu reagieren, insbesondere weil die KI zwei Zeitzonen verschmolzen hat: Sie bringt die Zukunft in die Gegenwart.
Es stellen sich Fragen nach Internetrechten, Datenschutzrechten und dem Vertrauen der Öffentlichkeit in die erhaltenen Informationen. „Wie man authentische Informationen unterscheiden oder identifizieren kann, wird uns wohl Sorgen bereiten“, meinte Moss.
Nun kommt die Komplexität von Millionen von Nutzern hinzu, die auf KI zugreifen. Wie Maria Markstedter, Gründerin und CEO von Azeria Labs, in ihrer Keynote bemerkte: „Mit der Veröffentlichung von ChatGPT wurden diese Tools von 1 Prozent auf 99 Prozent zugänglich gemacht.“
Doch wie wirkt sich die Entwicklung der KI auf die Fähigkeit von Sicherheitsprofis aus, neue Angriffsflächen zu navigieren? Und wie sollte der Geschäftstechnologiebereich mit der KI-Revolution weiterentwickeln?
Hier ist, was IT-Entscheidungsträger wissen müssen:
Die Neugestaltung der Cybersicherheitslandschaft mit Blick auf KI Wie Markstedter erklärte, begann OpenAI ein Rennen um die Marktdominanz, mit Google als Erstem und Microsoft, das danach vorpreschte. Nun ist KI überall. „Microsoft hat Berichten zufolge 13 Milliarden Dollar in OpenAI investiert. Microsoft ist also ganz klar in dieses KI-Rennen investiert“, sagte Markstedter.
„Aber Unternehmen wurden skeptisch, weil OpenAI eine Blackbox ist und standardmäßig alles, was in ChatGPT eingegeben wird, Teil des Datensatzes von OpenAI wird. Und Unternehmen wollen ihre sensiblen Daten nicht an einen externen Anbieter weitergeben“, fügte Markstedter hinzu.
Dies ist besorgniserregend, denn während Unternehmen KI in ihre Arbeitsabläufe und Dienstleistungen integrieren, wollen sie die Kontrolle über ihre privaten Daten nicht aufgeben.
„Wir müssen über die Sicherheitsaspekte und Auswirkungen nachdenken, wenn wir einem wirklich autonomen System erlauben, autoritäre Maßnahmen zu ergreifen“, betonte Markstedter.
KI-Training und Anpassung des Bedrohungsmodells Während einige Unternehmen sich dafür entschieden haben, OpenAI von den Arbeitsgeräten der Mitarbeiter zu verbannen, sagten Experten auf der diesjährigen globalen Sicherheitsveranstaltung, es sei besser, sie zu regulieren und zu schulen.
Ein Teil dieser Schulung beginnt mit dem Verständnis, wie KI funktioniert. „Wir müssen also die Technologie verstehen, die unsere Systeme und unser Bedrohungsmodell verändert, um diese aufkommenden Probleme anzugehen“, sagte Markstedter.
Mit einem prognostizierten Wachstum des KI-Marktes auf 28,5 Milliarden Dollar bis 2028, laut Experten auf der Black Hat USA 2023, wird dieser Prozess zweifellos weitergehen.
Zur Schulung der KI können IT-Leiter Machine Learning as a Service wählen. Oder sie können sich auf Cybersicherheitsprofis in ihrem Unternehmen verlassen, die über KI-Kenntnisse verfügen - insbesondere „diejenigen, die KI-Systeme ausreichend verstehen, um ihre Angriffsvektoren zu bewerten und neue Sicherheitsleitplanken zu erfinden, und diejenigen, die KI nutzen, um ihre eigene Arbeit und Forschung effizienter zu gestalten“, so Markstedter.
Warum KI für stärkere Sicherheit plädiert Auf der Black Hat USA 2023 teilten Experten mit, wie das Rennen um die Markteinführung neuer Technologien mit der Sicherheit in Konflikt stehen kann. Doch beide sind entscheidend und müssen gleichzeitig voranschreiten.
„Kein Anbieter möchte als unsicher oder leicht zu hacken gelten. Schließlich müssen sie ihren Umsatz schützen und ihre Nutzerbasis vergrößern“, sagte Markstedter.
Deshalb hat die KI - mit ihrem aufsehenerregenden öffentlichen Debüt - den Fall für die Sicherheit intensiviert, und deshalb müssen Unternehmen die Sicherheit von Anfang an wertschätzen.
