Künstliche Intelligenz im Wandel: Chancen, Risiken und aktuelle Entwicklungen im Überblick

Inhaltsverzeichnis:

Künstliche Intelligenz: Chancen, Risiken und aktuelle Entwicklungen

Vordenkerin Amy Webb: Umwälzungen durch KI erwartet

ARD und ZDF: Widerstand gegen KI-Konzerne in Urheberrechtsfragen

Builder.ai: 700 Inder statt KI – Start-up fliegt mit Betrugsmasche auf

Europas Chance: Vertrauenswürdige KI durch das Projekt CAIRNE

Künstliche Intelligenz ersetzt Ingenieur: Durchbruch in der Strömungsmechanik

Bewerbungen mit KI: Unternehmen kritisieren Einfallslosigkeit

Künstliche Intelligenz: Chancen, Risiken und aktuelle Entwicklungen

Vordenkerin Amy Webb: Umwälzungen durch KI erwartet

Die US-Futuristin Amy Webb sieht in der Künstlichen Intelligenz (KI) eine Technologie, die das Potenzial hat, die Grenzen des Menschseins auszuloten. Webb warnt jedoch auch vor den Risiken, insbesondere vor der Gefahr der „erlernten Hilflosigkeit“. Sie betont, dass KI nicht nur Chancen, sondern auch erhebliche Herausforderungen mit sich bringt.

Das Manager Magazin berichtet zudem über die Kosten für den Zugang zu exklusiven Inhalten: Das Digital-Abo „manager+“ kostet derzeit 259,99 € pro Jahr oder 26,99 € pro Monat. Webb hebt hervor, dass die gesellschaftlichen und wirtschaftlichen Auswirkungen von KI weitreichend sein werden und fordert eine kritische Auseinandersetzung mit den neuen Möglichkeiten.

Entdecke das volle Potenzial von Künstlicher Intelligenz im Aktien- und Krypto-Trading – mit dem ultimativen Praxis-eBook!

Mehr Erfahren

KI kann die Medizin und andere Lebensbereiche grundlegend verändern.
Es besteht die Gefahr, dass Menschen durch zu viel KI-Nutzung ihre Eigenständigkeit verlieren.

„Eine große Gefahr ist erlernte Hilflosigkeit“, so Amy Webb laut Manager Magazin.

Infobox: Amy Webb sieht in KI sowohl revolutionäre Chancen als auch erhebliche gesellschaftliche Risiken. (Quelle: Manager Magazin)

ARD und ZDF: Widerstand gegen KI-Konzerne in Urheberrechtsfragen

Laut SZ.de stellen sich ARD und ZDF gegen KI-Konzerne wie ChatGPT und Perplexity, die journalistische Inhalte für das Training ihrer Systeme nutzen, ohne die Urheber zu vergüten. Der Deutsche Journalistenverband (DJV) warnt: „Wenn wir nicht aufpassen, trainieren Journalisten gerade die KIs, die sie später ersetzen.“

Die meisten deutschen Verlage, darunter auch die Süddeutsche Zeitung, haben den Zugriff auf ihre Texte für das KI-Training inzwischen untersagt. Der DJV sieht in der Entwicklung eine Gefahr nicht nur für Geschäftsmodelle und den Berufsstand, sondern auch für die Demokratie.

Journalistische Inhalte werden ohne Vergütung für KI-Training genutzt.
Deutsche Verlage verweigern zunehmend den Zugriff auf ihre Texte.
Der DJV sieht die Demokratie durch KI gefährdet.

„Das ist das Ende des pluralistischen Journalismus“, warnt der Deutsche Journalistenverband laut SZ.de.

Infobox: Öffentlich-rechtliche Sender und Verlage wehren sich gegen die kostenlose Nutzung ihrer Inhalte durch KI-Konzerne. (Quelle: SZ.de)

Builder.ai: 700 Inder statt KI – Start-up fliegt mit Betrugsmasche auf

Das Londoner Start-up Builder.ai versprach, dass mindestens 80 Prozent der Programmentwicklung von KI erledigt würden. Tatsächlich wurde die Hauptarbeit jedoch von rund 700 schlecht bezahlten Entwicklern in Indien übernommen, wie die „Indian Times“ berichtet. Die KI kam nur für Vorentscheidungen zum Einsatz, die auf veralteter Technologie basierten.

Laut STERN.de sammelte Builder.ai bis zu 445 Millionen Dollar an Investitionen ein, unter anderem von der Bank von Katar und Microsoft. Der Firmenwert wurde zeitweise auf 1,5 Milliarden Dollar geschätzt. Nach dem Rückzug von 37 Millionen Dollar durch Viola Credit blieben dem Unternehmen nur noch fünf Millionen Dollar an Barreserven, während es Amazon und Microsoft rund 115 Millionen Dollar für Cloud-Rechnungen schuldete. Die Firma musste Insolvenz anmelden. Ermittlungen in New York wurden eingeleitet, nachdem der neue Geschäftsführer auf massive finanzielle Falschdarstellungen aufmerksam wurde.

Investitionen	Firmenwert	Schulden (Cloud)	Barreserven
445 Mio. $	1,5 Mrd. $	115 Mio. $	5 Mio. $

Builder.ai versprach 220 Mio. $ Jahresumsatz, tatsächlich waren es nur knapp 50 Mio. $.
Die Praxis des „Round-Tripping“ wurde genutzt, um Verkaufszahlen künstlich aufzublasen.

Infobox: Builder.ai ist ein Beispiel für den Missbrauch des KI-Hypes: Hinter dem KI-Label steckte klassische Outsourcing-Arbeit. (Quelle: STERN.de, Times of India, Bloomberg, Wall Street Journal)

Europas Chance: Vertrauenswürdige KI durch das Projekt CAIRNE

Prof. Dr. Holger Hoos, einer der Gründer der europäischen Initiative CAIRNE (früher Claire), betont im heise online-Podcast die Bedeutung von Investitionen in vertrauenswürdige KI. Die Initiative existiert seit 2018 und zielt darauf ab, ein europaweites Netzwerk für KI-Forschung und -Entwicklung zu schaffen.

Hoos warnt vor den Gefahren unzuverlässiger KI-Systeme und betont, dass generative KI wie ChatGPT mit Logik nicht gut umgehen kann. Er sieht die Gefahr, dass zu viel KI in der Softwareentwicklung zu fehlerhafter und ineffizienter Software führen kann. Gleichzeitig sieht er Chancen, Talente aus den USA zurückzuholen und fordert eine europäische Großforschungseinrichtung für KI, ähnlich dem CERN.

CAIRNE fördert ein europäisches KI-Netzwerk seit 2018.
Gefahr durch unzuverlässige KI-Systeme in Behörden, Unternehmen und Schulen.
Hoos fordert mehr Investitionen und eine europäische Großforschungseinrichtung für KI.

„Es droht eine Situation, in der wir alle in fehlerhafter und ineffizienter Software ertrinken“, so Prof. Dr. Holger Hoos laut heise online.

Infobox: Europa setzt auf vertrauenswürdige KI und will mit gezielten Investitionen und Forschung die technologische Souveränität stärken. (Quelle: heise online)

Künstliche Intelligenz ersetzt Ingenieur: Durchbruch in der Strömungsmechanik

Forscher der Universität Stuttgart haben laut Scinexx den weltweit ersten KI-Ingenieur entwickelt, der aus vier KI-Agenten besteht. Dieses System kann komplexe Aufgaben aus der Strömungsmechanik eigenständig planen, durchführen und die Ergebnisse in wissenschaftlichen Publikationen aufbereiten. In Tests löste das System Probleme zu Wasserströmungen, Drainage von Erdöl und Aerodynamik eines Motorrads.

Das System OpenFOAMGPT besteht aus vier spezialisierten Agenten: Preprocessing, Prompt Generate, OpenFOAMGPT (Simulation) und Postprocessing. Die Ergebnisse waren zu 100 Prozent reproduzierbar. Das System kann zudem eigenständig wissenschaftliche Veröffentlichungen erstellen. Mit „Turbulence.ai“ wurde das System weiterentwickelt, um auch Hintergrundrecherche und Hypothesenbildung zu übernehmen.

OpenFOAMGPT löst komplexe Fluiddynamik-Probleme mit 100-prozentiger Reproduzierbarkeit.
Das System kann eigenständig wissenschaftliche Publikationen verfassen.
Turbulence.ai ist der weltweit erste KI-Wissenschaftler im Bereich Strömungsmechanik.

Infobox: Der KI-Ingenieur aus Stuttgart kann komplexe technische Probleme lösen und wissenschaftliche Arbeiten verfassen – ein Meilenstein für KI in den Ingenieurwissenschaften. (Quelle: Scinexx, arXiv-Preprint, 2025)

Bewerbungen mit KI: Unternehmen kritisieren Einfallslosigkeit

Laut einer repräsentativen Umfrage des Digitalverbands Bitkom, über die RP Online berichtet, nutzen inzwischen gut zwei Drittel (67 Prozent) der Deutschen Künstliche Intelligenz zumindest gelegentlich – doppelt so viele wie 2024. Allerdings befragt nur ein Fünftel (18 Prozent) die KI häufig, und ein Drittel der Nutzer hat kein Vertrauen in die Technologie.

Besonders beliebt ist der Einsatz von KI bei der Erstellung von Bewerbungen: Zwei von drei Bewerbungen werden mittlerweile mit KI erstellt. Unternehmen bemängeln jedoch die mangelnde Individualität und Einfallslosigkeit der so erstellten Unterlagen, sehen aber auch Chancen in der Nutzung von KI für Bewerbungsprozesse.

Nutzeranteil KI (gelegentlich)	Häufige Nutzung	Vertrauensverlust
67 %	18 %	33 %

Zwei von drei Bewerbungen werden mit KI erstellt.
Unternehmen kritisieren fehlende Individualität.
KI bietet dennoch Chancen im Bewerbungsprozess.

Infobox: Die Nutzung von KI bei Bewerbungen nimmt stark zu, doch Unternehmen fordern mehr Kreativität und Persönlichkeit. (Quelle: RP Online, Bitkom)

Quellen:

Ihre Meinung zu diesem Artikel

Ihr Name

Ihre E-Mail Adresse

Bitte geben Sie eine gültige E-Mail-Adresse ein.

Ihr Kommentar

Bitte geben Sie einen Kommentar ein.

Bitte informieren Sie mich per Mail bei Veröffentlichung oder bei Antwort

Anonymous am 06.06.2025

Ich finde das mit Builder.ai echt heftig, weil sowas zeigt halt total, wie leicht manche auf den KI-Hype reinfallen und dass hinter den großen Versprechen oft gar nicht so viel echte Technik steckt, sondern einfach nur Menschen, die schlecht bezahlt schuften müssen.

Anonymous am 06.06.2025

Was mich grad echt zum Nachdenken gebracht hat, ist der Punkt mit dem KI-Ingenieur aus Stuttgart. Also wenn ich mir das so durchles, dass ein System komplett eigenständig wissenschaftliche Arbeiten in der Strömungsmechanik machen kann (und sogar publishing ready!), dann frag ich mich schon, wo das noch hinführt. Klar, in der Theorie ist das beeindruckend, aber ich frag mich halt auch: Wer überprüft dann die ganzen Ergebnisse, wenn das irgendwann voll automatisiert läuft? Nicht dass wir demnächst tonnenweise Papers haben, die zwar aussehn wie Forschung, aber halt niemand mehr wirklich überblickt oder kritisch hinterfragt.

Was mir außerdem auffällt – und das hat noch keiner hier angemerkt – ist das mit den Bewerbungen. Es wird ständig von Chancen geredet, aber wenn jetzt schon zwei Drittel aller Bewerbungen mit KI geschrieben werden, dann wundert mich echt nicht, dass die Personaler die Nase voll haben. Wenn du dann nur noch dieselben Sätze liest, hilft das doch keinem. Ich kenn einige Leute, die so bewerben – aber mal ehrlich, richtig auffallen tust du damit halt nicht. Vielleicht haben die Unternehmen da echt nen Punkt, dass mehr Persönlichkeit und Kreativität rein sollte. Die Technik ist cool, aber für viele Dinge bleibt "echt menschlich" halt trotzdem wichtiger.

Und zur Vertrauenswürdigkeit von KI... ich find die Idee mit der europäischen Lösung, wie bei CAIRNE oder so, eigentlich mega gut. Ich hab öfter das Gefühl, dass in den USA alles nach dem Prinzip „Hauptsache schnell, Rest egal“ läuft (siehe die Fails wie mit diesem Builder.ai). In Europa kann man das vielleicht einfach besser, wenn man wirklich auf Sicherheit und Fairness achtet. Aber ehrlich gesagt geht das halt nur, wenn auch Geld investiert wird – solange alles immer nur als Experiment läuft, wird der Abstand zu den Amis immer größer, oder?

Bin gespannt, wies da weitergeht. Manche Dinge können halt richtig hilfreich sein, aber ein bisschen Bauchweh bleibt bei der Geschwindigkeit der Entwicklung schon.

Anonymous am 07.06.2025

Interessant, dass unter dem Artikel noch gar keiner was zu dem KI-Ingenieur aus Stuttgart gesagt hat. Ich hab das echt zweimal gelesen, weil ich mir gar nicht vorstellen konnte, dass vier „Agenten“, also quasi KI-Programme, komplexe technische Aufgaben und noch dazu wissenschaftliche Publikationen von allein hinkriegen sollen. Fühlt sich irgendwie an wie Science Fiction, aber es scheint ja offenbar schon zu funktionieren (zumindest laut Artikel). Für mich wirft das schon die Frage auf, wo da künftig eigentlich noch der Mensch gebraucht wird – gerade in Bereichen, wo es bisher immer hieß, das sei zu “speziell” oder “kreativ” für Computer. Jetzt macht die KI halt sogar Aerodynamik-Berechnungen und schreibt Studien dazu – krass.

Gleichzeitig ging es mir beim Lesen aber auch wie Amy Webb das beschreibt, mit dieser Angst vor “erlernter Hilflosigkeit”. Wenn solche KI-Systeme mehr und mehr übernehmen, stumpft man dann vielleicht als Ingenieur, Forscher oder Entwickler irgendwann einfach komplett ab? Also, wenn man am Ende nur noch zuguckt, wie die KI alles regelt, und selber von der Materie kaum noch Ahnung hat… Macht nicht so richtig Lust auf die Zukunft, ehrlich gesagt.

Andererseits ist es halt auch so: Wenn ein Bereich wie die Fluiddynamik dringend Fachkräfte sucht und kaum noch Leute dafür ausgebildet werden, ist das vielleicht eine ziemlich gute Lösung. Tja, wie immer zwei Seiten der Medallie… An dem Thema wird auf jeden Fall noch ordentlich Diskussionsbedarf bestehen.

Anonymous am 07.06.2025

Also was ich irgendwie nich so raffe, die schreiben ja das bei den Bewerbungen die meisten KI nehmen aber die Chefs findns dann blöd, warum machen die das dann? Is doch irgendwie doppelt bescheurt. Warscheinlich merken die Leute einfach nicht das mans gleich sieht oder gibts da nen Trick wie mans besser macht.

Anonymous am 07.06.2025

Also ich hab das gelesen von dem KI-Ingeniuer von Stuttgart, also das von den 4 Agente und irgendwie kling das wie SciFi bissl. Ich denk mir, das kann doch garnicht ganz so stimmen daß die jetzt sogar Papers selber machen lässen, ist ja wie bei den Hausaufgaben frueher bloß digital oder so nur halt viel cleverer. Frag mich wie das dann ist wenn die was falsch schreiben, wenn die KI ja nicht alles so versteht wie ein normaler Mensch, dann steh da am Ende lauter Blödsin in den Wissenschaft sheften, oder? Gans ehrlich, irgendwann merkt das doch keiner mehr wenns alles automatisch geschrieben wird, dann verliern alle die Kontrolle und am Ende machts bumm weil irgend ne Strömung falsch berechnet war haha.

Und was ich auch krass fand was mit den Bewerbungen steht, weil soviele schreibens jetz mim KI, frag ich mich schon, wie merkt man denn das überhaupt bei den Firmen? Meine Schwester hat sich letztes Mal beworden und ich schwör, ihr Anschreiben war auch so total steif irgendwie. Vielleicht war ja KI, hatse aber net verraten. Und die Chefs meckern jetzt weil alles gleich klingt? Tja, aber vor paar Jahren haben die noch gesagt "macht mehr digital" und jetzt isses zuviel. Hätten die Manager lieber mal vorher drüber nachdenkt, ne?

Unn das mit diesem CAIRNE, da blick ich nicht ganz durch, weil CERN kenn ich aus dem Fernsehen wegen Weltraum aber was das jetz mit KI zu tun hat weiß ich auch nicht genau, vielleicht machen die Laser für Computer, wär ja cool.

Wollt ich nur mal sagen, dass das alles schon einz bissl zu schnell geht und man kapiert garnet mehr so alles. Bald macht KI noch Kommentare in Magazinen lol.

Zusammenfassung des Artikels

Künstliche Intelligenz bietet große Chancen, birgt aber auch Risiken wie erlernte Hilflosigkeit und Missbrauch; Europa setzt auf vertrauenswürdige KI.