KI zwischen Fortschritt, Grenzen und Risiken: Aktuelle Entwicklungen, Debatten und Anwendungen

Inhaltsverzeichnis:

Die ultimativen Grenzen der Künstlichen Intelligenz

Hessen: Schwalm-Eder-Kreis will mit KI Energie sparen

DeepSeek: Datenschützer wollen Chinas KI aus App Stores verbannen

Big Tech: KI-Entwickler dringend gesucht

Trump will Budgetkürzungen von KI entscheiden lassen

KI in der Medizin: Patienten vertrauen Ärzten weniger

Ärger um neues Polizeigesetz: KI spaltet Kretschmanns Koalition

KI überschätzt sich selbst: Studie deckt gefährliche Schwächen auf

Die ultimativen Grenzen der Künstlichen Intelligenz

Immer wieder wird diskutiert, ob Künstliche Intelligenz (KI) eines Tages klüger sein könnte als der Mensch. Stimmen aus den USA, wie der ehemalige Open-AI-Mitarbeiter Daniel Kokotajlo, warnen vor einer möglichen Auslöschung der Menschheit durch KI. Doch laut FAZ gibt es logische Grenzen, die kein Forscher überwinden kann. Diese Grenzen wurden bereits vor Jahrzehnten durch Beweise in der Logik aufgezeigt. Die Debatte um die Fähigkeiten und Gefahren von KI bleibt damit weiterhin aktuell, doch absolute Überlegenheit der Maschinen ist laut FAZ ausgeschlossen.

„Was früher Diebstahl hieß, heißt heute ‚KI-Training‘“ – so beschreibt die FAZ die aktuelle Diskussion um das Urheberrecht, da KI-Anbieter ihre Modelle mit urheberrechtlich geschützten Werken trainieren.

Wichtige Erkenntnis: Trotz rasanten Fortschritts gibt es für KI logische und mathematische Grenzen, die nicht überschritten werden können. (Quelle: FAZ)

Entdecke das volle Potenzial von Künstlicher Intelligenz im Aktien- und Krypto-Trading – mit dem ultimativen Praxis-eBook!

Mehr Erfahren

Hessen: Schwalm-Eder-Kreis will mit KI Energie sparen

Im Schwalm-Eder-Kreis in Hessen wird eine speziell entwickelte KI eingesetzt, um in öffentlichen Gebäuden wie Kindergärten, Rathäusern, Schwimmbädern und Friedhofshallen Energie zu sparen. CO2-Messgeräte erkennen anhand der Atemluft, wie viele Menschen sich in einem Raum aufhalten. Die KI wertet diese Daten aus und regelt Heizung und Licht bedarfsgerecht. Das Projekt, das spätestens im Winter 2026 in fünf Gemeinden starten soll, wird mit 1,2 Millionen Euro aus einem Förderprogramm der Hessischen Landesregierung unterstützt. Beteiligt sind Bad Zwesten, Borken, Jesberg, Neuental und Wabern, in denen rund 30.000 Menschen leben.

Durch die Digitalisierung konnten bereits vor dem KI-Einsatz erhebliche Einsparungen erzielt werden, etwa 10.000 Euro pro Jahr durch die Anpassung einer Lüftungsanlage.
Die CO2-Messung bietet zudem Vorteile beim Datenschutz, da keine personenbezogenen Daten erfasst werden.
Das Projekt soll als Vorbild für ganz Hessen dienen und könnte dazu beitragen, mehr Geld für andere kommunale Angebote bereitzustellen.

Infobox: Das KI-Projekt im Schwalm-Eder-Kreis zeigt, wie Digitalisierung und KI zu nachhaltigen und finanziellen Vorteilen für Kommunen führen können. (Quellen: tagesschau.de, hessenschau.de)

DeepSeek: Datenschützer wollen Chinas KI aus App Stores verbannen

Die chinesische KI-App DeepSeek steht in der Kritik von Datenschützern, da alle eingegebenen Daten, einschließlich Textnachrichten, Standortdaten und hochgeladener Dateien, auf Servern in China gespeichert werden. Thomas Fuchs, Datenschutzbeauftragter Hamburg, betont, dass sämtliche Nutzerdaten nach China übermittelt werden. Dirk General-Kuchel, Chefredakteur von Computer Bild, weist darauf hin, dass nicht die App selbst, sondern die Datenleitung nach China das Problem darstellt. Datenschützer fordern daher, DeepSeek aus den App Stores zu entfernen.

„Es ist nur so, dass momentan den USA noch politisch mehr vertraut wird als China. Das mag sich auch ändern.“ – Chris Biemann, Universität Hamburg

Wichtig: Die Diskussion um DeepSeek verdeutlicht die Bedeutung von Datenschutz und die Unsicherheit bei der Nutzung ausländischer KI-Anwendungen. (Quelle: ZDFheute)

Big Tech: KI-Entwickler dringend gesucht

Der Bedarf an erfahrenen KI-Entwicklern ist weltweit enorm gestiegen. Laut DW bieten Tech-Unternehmen wie Meta Gehälter von bis zu 100 Millionen US-Dollar (85,4 Millionen Euro), um Top-Talente zu gewinnen. Meta hat 14,3 Milliarden US-Dollar (12,2 Milliarden Euro) in Scale AI investiert und 49 Prozent der Anteile erworben. Microsoft investierte 13 Milliarden US-Dollar (11 Milliarden Euro) in OpenAI, Amazon 8 Milliarden US-Dollar (6,8 Milliarden Euro) in Anthropic. Google zahlte 2,4 Milliarden US-Dollar (zwei Milliarden Euro) für das Führungspersonal von Windsurf.

Unternehmen	Investition	Empfänger
Meta	14,3 Mrd. USD	Scale AI
Microsoft	13 Mrd. USD	OpenAI
Amazon	8 Mrd. USD	Anthropic
Google	2,4 Mrd. USD	Windsurf

Die Zahl der Neueinstellungen im Bereich KI ist laut LinkedIn in den letzten acht Jahren weltweit um mehr als 300 Prozent gestiegen.
In mehreren Ländern ist der Beruf des KI-Entwicklers der am schnellsten wachsende Beruf.

Fazit: Der Wettbewerb um KI-Talente ist extrem, die Gehälter steigen rasant und die Investitionen erreichen Milliardenhöhe. (Quelle: DW)

Trump will Budgetkürzungen von KI entscheiden lassen

In den USA plant die Regierung unter Präsident Donald Trump, mithilfe des „Doge AI Deregulation Decision Tool“ Budgetkürzungen und Regulierungsabbau durch KI vornehmen zu lassen. Das System soll Gesetzestexte analysieren und unnötige Vorschriften identifizieren. Laut einem internen Dokument könnten so etwa 100.000 Regulierungen abgeschafft und 3,3 Billionen US-Dollar eingespart werden. Ziel ist es, 93 Prozent der menschlichen Arbeit in den US-Behörden durch KI zu ersetzen. Das System wird bereits für erste Analysen genutzt, eine offizielle Genehmigung steht jedoch noch aus.

Die Trump-Regierung hat laut American Action Forum seit Amtsantritt rund 550 Millionen US-Dollar und 566.000 Arbeitsstunden eingespart.
Es gibt Bedenken hinsichtlich der Fehleranfälligkeit des Systems, insbesondere bei komplexen gesetzlichen Vorgaben.

Zusammenfassung: Die US-Regierung setzt verstärkt auf KI zur Effizienzsteigerung, doch Experten warnen vor möglichen Fehlern und dem Verlust menschlicher Kontrolle. (Quelle: Watson.de)

KI in der Medizin: Patienten vertrauen Ärzten weniger

Eine Studie der Universität Würzburg und der Charité Berlin, veröffentlicht im Fachblatt „JAMA Network Open“, zeigt, dass Patienten Ärzten weniger vertrauen, wenn diese KI in ihrer Arbeit einsetzen. Über 1.200 Erwachsene in den USA bewerteten Mediziner, die mit KI arbeiten, als weniger kompetent, vertrauenswürdig und empathisch. Selbst wenn die KI nur für administrative Aufgaben genutzt wurde, sank das Vertrauen. Die Bereitschaft, einen Termin in solchen Praxen zu vereinbaren, war ebenfalls geringer.

Mehr als 500 KI-Systeme werden bereits regelmäßig in Praxen und Kliniken eingesetzt.
Die Autoren der Studie empfehlen, Patienten über den KI-Einsatz aufzuklären und die Vorteile hervorzuheben, etwa mehr Zeit für die Patienten durch Entlastung bei Verwaltungsaufgaben.

Wichtig: Der Einsatz von KI in der Medizin kann das Arzt-Patienten-Verhältnis belasten, wenn nicht transparent kommuniziert wird. (Quelle: Spiegel)

Ärger um neues Polizeigesetz: KI spaltet Kretschmanns Koalition

In Baden-Württemberg sorgt ein Vertrag zur polizeilichen Nutzung einer Palantir-Software für einen Eklat. Die Grünen fühlen sich hintergangen und blockieren die Verabschiedung des Polizeigesetzes. Damit fehlt dem geplanten Sicherheitspaket ein zentraler Baustein. Die Diskussion dreht sich um den Einsatz von KI zur Kriminalitätsbekämpfung und die damit verbundenen politischen und datenschutzrechtlichen Fragen.

Fazit: Der Streit um KI in der Polizeiarbeit zeigt, wie sensibel der Einsatz von Technologie im Sicherheitsbereich ist und wie schnell politische Konflikte entstehen können. (Quelle: WELT)

KI überschätzt sich selbst: Studie deckt gefährliche Schwächen auf

Eine Studie, vorgestellt von der FAZ, zeigt, dass Künstliche Intelligenz zu Selbstüberschätzung neigt. Wenn KI auf „Human Level“ agiert, macht sie ähnlich viele Fehler wie Menschen. Die Folgen solcher Fehler können bei Maschinen jedoch gravierender sein. Die Studie warnt davor, die Fähigkeiten von KI zu überschätzen und weist auf die Risiken hin, wenn Maschinen Fehler übernehmen, die Menschen machen.

Die Vermarktung von KI als „auf einer Ebene mit dem Menschen“ verschleiert, dass auch die Fehlerquote vergleichbar ist.
Maschinelle Fehler können größere Auswirkungen haben als menschliche Fehlentscheidungen.

Wichtig: Die Selbstüberschätzung von KI ist eine ernstzunehmende Schwäche, die bei der Entwicklung und dem Einsatz von KI-Systemen berücksichtigt werden muss. (Quelle: FAZ)

Quellen:

Ihre Meinung zu diesem Artikel

Ihr Name

Ihre E-Mail Adresse

Bitte geben Sie eine gültige E-Mail-Adresse ein.

Ihr Kommentar

Bitte geben Sie einen Kommentar ein.

Bitte informieren Sie mich per Mail bei Veröffentlichung oder bei Antwort

Anonymous am 27.07.2025

Finde es ehrlich gesagt auch sehr bedenklich, wie locker manchmal mit dem Datenschutz umgegangen wird, wie bei dieser DeepSeek-App. Es reicht eben nicht aus, wenn die Technik cool oder praktisch ist, die Daten sollten halt trotzdem geschützt sein. Dass man so einfach alles nach China überträgt, ohne dass viele Nutzer das überhaupt mitkriegen, zeigt doch mal wieder wie wenig Kontrolle man eigentlich hat, sobald irgendwas "modern" und "KI" ist.

Anonymous am 28.07.2025

also was ich nich versteh ist dadran mit den ki leuten die soviele milloionen bekommen... wie kann das denn sein das einer für so KI entwickung 100 million bekommt?? das ist ja fast wie so ein lotto jackput lol. da fragt man sich echt wovon wird das bezahlt von unseren daten? ich glaub eh das die firmen eh schon überall mitlesen mit ki und so, das geld muss ja irgendwo herkommen. und dann das mit der Medizien, das die leute den ärzten net mer vertrauen wenn die KI benutzen... ich sag ma, wenn man beim artzt ist dann will man eh meistens was verschrieben kriegen, da isses doch egal ob jetz rechner oda arzt draufguckt? wobei wenn KI dann falsche mediczin vorschlägt ist auch nich so doll. voll viele mein ja immer Künstliche Inteligenz weiß alles besser abe die machen ja selber auch fehler oder. wie in dem text stand das die sich selber überschäten, ich meine wie kann das überhaupt sein, das sind doch maschienen die sollten doch immer rechnen was geht und nich. aber naja. bei polizei und so, wen KI alles automatisch checkt kann das doch schnell schiefgehn, ist dann auch blööd. bei den gesetzen in amerika, wenn die KI da einfach alles streicht, vielleicht fehlt dann was wichtiges. das ist schon n bissl viel was die alles anstellen mit den programmen und apps. und dann immernoch die sache mit lüftungsanlagen und hessen, da wusste ich nich mal das ki da überall lichter an und ausmacht, dachte mehr fürs internet oder autos und so. am ende ist vllt alles nur noch ki und keiner rafft mehr wie mans ohne macht.

Anonymous am 28.07.2025

Ich find beim Lesen von dem Artikel besonders spannend, wie unterschiedlich KI in verschiedenen Bereichen aufgenommen wird. Vor allem das Beispiel mit dem Schwalm-Eder-Kreis ist meiner Meinung nach ein echter Lichtblick (Wortspiel nicht geplant) – da zeigt sich mal, wie KI konkret vor Ort und richtig sinnvoll eingesetzt werden kann. Weniger Energieverbrauch, weniger Kosten, keiner wird „überwacht“ und die Daten bleiben anonym, das ist wirklich top gemacht. Generell reden ja viele immer gleich von Überwachung und Kontrollverlust, aber das Beispiel zeigt ja, dass es mit sorgfältigem Design und ein bisschen Menschenverstand auch ganz anders gehen kann.

Irgendwie schade, dass von solchen regionalen Projekten viel zu selten berichtet wird. Die Riesen-Milliarden-Investitionen von Meta und Co. machen natürlich mehr Schlagzeilen, klar, aber ob das am Ende auch dem Durchschnittsdeutschen irgendwas bringt, ist ja nochmal ne ganz andere Frage.

Was bei mir auch hängen geblieben ist: Der Punkt mit den Ärzten, denen die Leute anscheinend weniger trauen, wenn sie KI einsetzen. Versteh ich ehrlich gesagt zum Teil – Medizin ist halt was Persönliches, da will man lieber, dass ein Mensch am Ende die Verantwortung trägt. Gleichzeitig find ich es aber auch etwas typisch, dass Innovation erstmal mit Skepsis begegnet wird. Wahrscheinlich dauert’s noch einige Jahre, bis das echt normal wird, wie bei anderen Technologien halt auch.

Und dann noch das Beispiel mit den Polizeigesetzen in BaWü: Da sieht man, dass Technik halt nie nur „neutral“ ist, sondern immer irgendwie politisch wird. Ich kann die Grünen da sogar ein Stück weit verstehen – so Sicherheitssoftware ist nicht einfach nur ein neues Excel, sondern hat halt echte Auswirkungen, gerade was Datenschutz und Grundrechte betrifft.

Alles in allem: Ich find’s wichtig, dass nicht nur die Risiken – siehe DeepSeek oder das KI-Überlegenheits-Horrorszenario – diskutiert werden, sondern auch die echten Mehrwerte von KI, aber halt auch die grauzonen dazwischen. Im Moment hab ich das Gefühl, der Hype ist riesig, aber der Alltag mit Technik ist dann oft viel bodenständiger, als es die Schlagzeilen suggerieren.

Anonymous am 28.07.2025

Was mich an dem Artikel besonders beschäftigt hat, war der Punkt mit dem Vertrauensverlust bei Ärzten durch KI-Einsatz. Ist schon verrückt, dass viele Leute gleich skeptisch werden, obwohl die Technik ja oft nur unterstützen soll und nicht den Arzt ersetzt. Vielleicht müsste man echt mehr aufklären, dann wär die Ablehnung eventuell nicht so groß.

Anonymous am 28.07.2025

Was ich an dem Artikel auch spannend fand: Es geht irgendwie dauernd nur um diese ganz großen Themen wie Datenschutz, Jobverlust oder dass Maschinen uns die Weltherrschaft streitig machen könnten. Dabei gibt's dazwischen ja auch jede Menge Kuriositäten, die kaum einer auf dem Zettel hat. Zum Beispiel das Ding mit der KI in der Medizin. Ich war letztes Jahr bei meinem Arzt und hab beim Röntgen gemerkt, dass die da jetzt auch irgendeine Software nutzen, die so „mitguckt“. Hab mich schon gefragt, ob das positiv ist – und wenn ich dann lese, dass die Leute den Ärzten mit KI weniger vertrauen, dann wundert mich das irgendwie nicht. Irgendwie will man halt am Ende doch nen echten Menschen, dem man sein Problem schildert, sonst fühlt man sich bisschen wie ne Nummer im System.

Außerdem, was ich auch krass finde, ist der ganze Hype um die KI-Entwickler und was die verdienen sollen. 100 Millionen Dollar für nen Entwickler?! Das ist doch einfach komplett jenseits von Gut und Böse. Klar, KI ist wichtig aber mal ehrlich: Diese Summen könnten manche der Probleme, die die KI verursachen kann, wahrscheinlich auch schon vorher lösen, wenn sie statt dessen in sinnvolle Regulierungen und Kontrollmechanismen gesteckt würden.

Und zum Thema KI in der Verwaltung oder bei diesen Polizeigesetzen – das klingt oft so, als würde das alles automatisch objektiver und besser werden, aber wie oft hat sich schon gezeigt, dass gerade da Fehler eben heftige Folgen haben können? Und am Ende will es wieder keiner gewesen sein. Ich glaube, statt immer schneller auf neue Technik zu setzen, sollte man halt auch schauen, wo sie wirklich Sinn macht und wo eben nicht.

PS: Das Projekt im Schwalm-Eder-Kreis find ich dagegen gar nicht schlecht. Wenn’s wirklich hilft, Energie zu sparen ohne dass jemand überwacht wird, why not. Gibt ja auch gute und unproblematische Anwendungen, muss ja nicht immer gleich alles dystopisch sein.

Anonymous am 28.07.2025

Also was ich noch nich so wriklich blicke ist wie das eig mit die KI jobbs so is, hab mal iwo gelesn das Leute jetzt unfassbare Summen krigen also echt 100milionen Dollar für bissel coden? Also wenn das so ist dann wär ich ja schon bei der hälfte voll dabei haha :D Aber mal im ernst, warum bezahlen die da soviel für KI-Entwickler nur weil alle jetz KI machen wollen, früher hiess das doch Informatiker oder so. Is das jetzt eig, dass jeder so nen KI-job demnäxt haben soll oder sind das wieder nur so SiliconValley sachen die man bei uns eh niergends kricht ausser vl in Berlin oder so? Ich hab so das Gefühl, das is alles tot überdreht und dann denkt jeder dass bald alle menschen durch computer ersetzt werden, bis dann was schief geht wie in der studie wo steht dass die KI sich überschätzt, also ehrlich ich würd nem Roboter keine Polizistenaufgabe geben, die stehn sonst plötlich vor meiner Haustür wegen ner falsche Nummer im System lol. Und diese Sache mit Trump, also das mit Doge AI, erst dacht ich das hat was mit dem Hundememe zu tun, wär aber auch irwie ne coole Behoerden, aber dann soll das am Ende noch Reglungen abschaffen und 3,3 Billionen sparen wtf? Das klappt niemals, das is doch nu son Politiker-blabla. In echt sparen die eher an Rechnern als an Leuten und im Endeffekt sitzen dann eh wieder Beamte vorm PC und klickn was an, kenn das von meim Onkel der macht so Verwaltungskrams, der sagt auch immer da ändert sich nüscht. Also KI find ich spannend aber bei so Sachen mit Gesetze und Polizei und Ärzte bin ich eher so langsam erstmal abwarten, weils nacher mehr Ärger gibt als wirklich Hilf!

TastaturHeld am 28.07.2025

Ich schnall irgendwie garnicht wie mans schafft das ne KI so tun kann als wär die polizei eigendlich ein mensch, weil das is doch voll riskant wenn die dann einfach was verwechselt, is das nich voll komisch auch politisch?

Anonymous am 28.07.2025

Also ich versteh nich warum das mit den CO2 Messeren so ein riesen Vorteil sein soll beim Datenschutz, aber is ja eig nich so das atmen jetzt geheim is oder? Und das da 10000€ durch die Luft gespart wird find ich bisschen komisch, weil dann kann ja jeder Fenster aufmachen und auch Geld sparen lol. Aber find trotzdem gut das die das machen wenns klappt, irgndwer muss ja mal anfangen sonst gibts ewig zu hohen Stromverbrauch.

Zusammenfassung des Artikels

Künstliche Intelligenz stößt an logische Grenzen, wird aber vielfältig eingesetzt – von Energieeinsparung bis Politik –, wobei Datenschutz und Akzeptanz umstritten bleiben.