Das Cybersecurity-Startup Jericho Security gab heute bekannt, dass es 3 Millionen Dollar an Pre-Seed-Finanzierung gesammelt hat, um Lösungen zu entwickeln, die mit künstlicher Intelligenz (KI) immer komplexere Phishing-Angriffe bekämpfen, die von KI-Systemen generiert werden.
Die Finanzierungsrunde wurde von der Venture-Capital-Firma Era geleitet und umfasst Beteiligungen von Lux Capital, FoundersXFund, MetaLabs, Alcove, Textbook, Alumni Venture Group, Thorntree und mehreren Einzelinvestoren.
Der Ansatz von Jericho Security markiert eine neue Grenze für die Cybersicherheit und nutzt maschinelles Lernen, um im Wesentlichen "KI mit KI zu bekämpfen". Jericho stellt in Simulationen ein KI-Rot-Team gegen ein KI-Blau-Team, um Schwachstellen aufzudecken und robustere Verteidigungen zu entwickeln.
Sage Wohns, Mitbegründer und CEO von Jericho Security, erzählte VentureBeat, dass er inspiriert wurde, das Unternehmen zu gründen, nachdem er einen Stanford-Professor über die potenziellen Gefahren von generativen KI-Phishing-Angriffen sprechen hörte.
"[Der Professor] sagte es beiläufig", erklärte Wohns. "Er sagte: 'Was passiert, wenn ein großes Sprachmodell Lernbehaltungen hat und versucht, Sie anzugreifen, aus seinen Angriffen zu lernen und Sie ad infinitum anzugreifen?' Und ich war nur so: 'Warte, sagst du das einfach so und kehrst dann nicht zu deinem Vorlesungsthema zurück? Du hast gerade eine Bombe auf uns alle fallen lassen.'"
KI-Red-Team vs. KI-Blue-Team
Wohns sagt, seine Vision für die Zukunft sei es, ein KI-Red-Team und ein KI-Blue-Team zu schaffen, die voneinander lernen und ihre Leistungen verbessern können. Das KI-Red-Team wäre dafür verantwortlich, realistische und personalisierte Phishing-Angriffe zu generieren, die die Sicherheitslage von Kunden und Mitarbeitern testen können. Das KI-Blue-Team wäre dafür verantwortlich, diese Angriffe mit Hilfe von fortgeschrittener Sprachverarbeitung, benutzerdefinierten, privat gehosteten Sprachmodellen und vermittelten Daten zu erkennen und zu verhindern.
"Indem wir diese beiden Teams gegeneinander antreten lassen, können wir eine Feedback-Schleife schaffen, die uns hilft, uns an die sich verändernde Landschaft der KI anzupassen und der Kurve voraus zu bleiben", sagte er.
In der Welt der Cybersicherheit stellt dieser Ansatz einen großen Wandel in der Branchenlandschaft dar. Er deutet auf eine Zukunft hin, in der Cyberkriegsführung von KI-Modellen bestimmt wird, die ständig miteinander interagieren, sich weiterentwickeln und voneinander lernen.
Wohns betonte die Wichtigkeit, sich auf bestehende Bedrohungen zu konzentrieren, anstatt auf hypothetische zukünftige. "Es geht darum, sich konzentriert auf bestehende Bedrohungen zu konzentrieren und sich nicht von hypothetischen Zukünften ablenken zu lassen, und Bereiche, von denen wir wissen, dass sie bestehende Bedrohungen sind, zuerst zu bearbeiten", sagte er.
Beständige Bedrohung durch Phishing-Angriffe
Wohns sagte auch, dass er eine riesige Marktmöglichkeit für seine Lösung sieht, da aktuelle Cybersicherheitslösungen aufgrund der gen KI obsolet werden. Er nannte KnowBe4, einen führenden Anbieter von Sicherheitsschulungen und simulierten Phishing-Angriffen, als Beispiel für ein Unternehmen, das wegen gen KI technisch obsolet wird.
"Sie sind ein unglaubliches Unternehmen und Geschäft", sagte er. "Aber sie stehen vor technischer Obsoleszenz wegen generativer KI. Sie existieren jetzt seit 10 Jahren; sie sind jetzt dreimal ausgezogen. Und es ist ein phänomenales Geschäft, weil die Menschen Lösungen haben müssen. Sie müssen es kaufen."
Wohns teilte auch einige Beispiele für generative Phishing-Angriffe, die er gesehen oder von denen er gehört hatte, wie gefälschte Rechnungen von Costco oder Best Buy, gefälschte Bankkonto-Updates aus geleakten Datenquellen und gefälschte VC-Angebote für Startups. "Deshalb haben wir einen sehr niedrigen Preis ($3 pro Benutzer pro Monat), denn ich möchte das an die Welt bringen, damit die Menschen sich dieser Bedrohungen bewusst sind."
"[Silicon Valley Bank] hat ein Debakel für die gesamte Startup-Community verursacht, bei dem eine ganze Reihe von generativen Phishing-Kampagnen gegen Startups begonnen haben, die von falschen VCs ausgehen und sagen: 'Hey, wir können Ihnen Geld überweisen, wenn Sie uns Ihre Bankdaten geben'", fügte er hinzu. "Das war beängstigend zu sehen."
Gründungsteam von Veteranen Jericho Security ist das Ergebnis jahrzehntelanger kollektiver Beobachtung der Evolution von Cybersicherheitsbedrohungen durch seine Gründer.
Wohns ist ein erfahrener KI-Technologe und ehemaliger CEO von Agolo, einem Unternehmen für Natural Language Processing (NLP). Tim Hwang ist der Mitbegründer und CEO von FiscalNote, einer Plattform für das Management von Regierungsbeziehungen. Dan Chyan ist ein Experte für Cybersicherheit und Gründungspartner von PKC Security, einer Beratungsfirma für Cybersicherheit.
Die Finanzierung aus der Pre-Seed-Runde wird verwendet werden, um das Produktangebot von Jericho Security zu erweitern, das Team zu vergrößern und die Operationen weltweit zu skalieren.
