--- title: Menschliche Aufsicht über KI: Sicherheit, Herausforderungen und neue Ansätze canonical: https://ki-echo.de/menschliche-aufsicht-ueber-ki-sicherheit-herausforderungen-und-neue-ansaetze/ author: Provimedia GmbH published: 2025-10-09 updated: 2025-10-09 language: de category: KI-News description: Künstliche Intelligenz wird in verschiedenen Bereichen eingesetzt, von der Pflege bis zur Medienbranche, bringt jedoch sowohl Chancen als auch Herausforderungen mit sich. Während KI die Effizienz steigern kann, gibt es Bedenken hinsichtlich Arbeitsplatzverlusten und unerfüllten Erwartungen an Kosteneinsparungen. source: Provimedia GmbH --- # Menschliche Aufsicht über KI: Sicherheit, Herausforderungen und neue Ansätze > **Autor:** Provimedia GmbH | **Veröffentlicht:** 2025-10-09 **Zusammenfassung:** Künstliche Intelligenz wird in verschiedenen Bereichen eingesetzt, von der Pflege bis zur Medienbranche, bringt jedoch sowohl Chancen als auch Herausforderungen mit sich. Während KI die Effizienz steigern kann, gibt es Bedenken hinsichtlich Arbeitsplatzverlusten und unerfüllten Erwartungen an Kosteneinsparungen. --- ## Wie menschliche Aufsicht über Künstliche Intelligenz gelingt Die Diskussion um die menschliche Aufsicht über Künstliche Intelligenz (KI) wird zunehmend dringlicher, insbesondere nach einem tödlichen Unfall mit einem selbstfahrenden Auto von Uber im Jahr 2018. Bei diesem Vorfall wurde eine Frau von einem KI-gesteuerten Fahrzeug erfasst, während die Sicherheitsfahrerin abgelenkt war. Experten betonen, dass menschliche Aufsicht nicht nur eine gesetzliche Anforderung ist, sondern auch die Qualität und Sicherheit von KI-Systemen verbessert. > „Menschliche Aufsicht ist keine bloße 'Checkbox'-Aufgabe, sondern verantwortungsvolle Arbeit.“ Die europäische KI-Verordnung fordert, dass Menschen gezielt eingesetzt werden, um Risiken für Gesundheit und Sicherheit zu minimieren. Dennoch gibt es Bedenken, ob Menschen in der Lage sind, KI-Systeme effektiv zu überwachen, da sie oft nicht über die nötigen Informationen oder die Zeit verfügen, um Risiken rechtzeitig zu erkennen. Die interdisziplinäre Forschung zeigt jedoch, dass unter den richtigen Bedingungen menschliche Aufsicht durchaus wirksam sein kann. **Zusammenfassung:** Menschliche Aufsicht ist entscheidend für die Sicherheit von KI-Systemen und wird durch die europäische KI-Verordnung gefordert. Es gibt jedoch Bedenken hinsichtlich der Effektivität dieser Aufsicht. ## KI-Hype an der Börse: Was passiert, wenn die Blase platzt? Der aktuelle Hype um Künstliche Intelligenz hat die Aktienkurse von Unternehmen, die in diesem Bereich tätig sind, in die Höhe getrieben. Analysten warnen jedoch vor einer möglichen Blasenbildung, ähnlich der Dotcom-Blase der frühen 2000er Jahre. Die Frage bleibt, was passiert, wenn diese Blase platzt und welche Auswirkungen dies auf den Markt haben könnte. Die Marktkonzentration in den USA ist ein weiteres Thema, das besorgniserregend ist. Unternehmen wie Nvidia und OpenAI dominieren den Markt, was zu einer ungleichen Verteilung von Ressourcen und Innovation führen könnte. Anleger sollten sich bewusst sein, dass der KI-Hype nicht nur Chancen, sondern auch erhebliche Risiken birgt. **Zusammenfassung:** Der Hype um KI könnte zu einer Blasenbildung an den Börsen führen, was Anleger vor Herausforderungen stellt. Die Marktkonzentration in den USA verstärkt diese Risiken. ## Künstliche Intelligenz: Hi! Ein innovatives Projekt zielt darauf ab, die Kommunikation zwischen Menschen und Walen zu verbessern, indem Künstliche Intelligenz eingesetzt wird. Forscher nutzen ein KI-Modell namens Dolphin Gemma, um die Laute der Wale zu analysieren und eine respektvolle Verständigung zu ermöglichen. Diese Bemühungen könnten die Beziehung zwischen Mensch und Wal nachhaltig verändern. Die Herausforderung besteht darin, dass Wale oft auf menschliche Aktivitäten reagieren, indem sie ihre Kommunikation anpassen. Dies zeigt, wie wichtig es ist, die Bedürfnisse und Verhaltensweisen dieser Tiere zu verstehen, um eine respektvolle Interaktion zu fördern. **Zusammenfassung:** Ein KI-Projekt zielt darauf ab, die Kommunikation zwischen Menschen und Walen zu verbessern, was neue Ansätze für den Schutz dieser Tiere eröffnen könnte. ## Folgen für Beschäftigte: Studie: Künstliche Intelligenz gefährdet viele Jobs in Schlüsselbranchen Eine aktuelle Studie der Beratungsfirma BearingPoint zeigt, dass der Einsatz von Künstlicher Intelligenz in Deutschland viele Jobs in Schlüsselbranchen gefährdet. 80 Prozent der befragten Unternehmen geben an, dass sie mit einem Personalüberhang von 20 Prozent rechnen, der bis 2028 auf 30 bis 40 Prozent steigen könnte. Besonders betroffen sind Banken, Versicherungen und Finanzdienstleister, die bereits 12 Prozent ihrer KI-Pläne umgesetzt haben. Die Studie hebt hervor, dass der Fachkräftemangel in der KI-Entwicklung ein akutes Problem darstellt. Während die Nachfrage nach KI-Technologien steigt, bleibt die Zahl der qualifizierten Fachkräfte hinter den Erwartungen zurück, was die Kluft zwischen Überhang und Mangel weiter vergrößert. **Zusammenfassung:** Der Einsatz von KI gefährdet viele Arbeitsplätze in Schlüsselbranchen, während gleichzeitig ein Mangel an Fachkräften besteht. Unternehmen müssen sich auf diese Veränderungen einstellen. ## Einsatz Künstlicher Intelligenz: Medien klagen über enttäuschte Erwartungen In der deutschen Medienbranche wird Künstliche Intelligenz zunehmend eingesetzt, um Kosten zu senken und Effizienz zu steigern. Laut dem KI-Reifegrad-Report 2025 nutzen 96 Prozent der befragten Medienhäuser KI in ihren Redaktionen. Dennoch haben sich viele Erwartungen an die Technologie nicht erfüllt, insbesondere in Bezug auf Kosteneinsparungen und Umsatzwachstum. Die Studie zeigt, dass 67 Prozent der Medienhäuser Kosteneinsparungen durch KI erhoffen, jedoch nur 17 Prozent tatsächlich Einsparungen verzeichnen. Zudem berichten 43 Prozent von einer abnehmenden Sichtbarkeit ihrer digitalen Angebote, was die Herausforderungen der Branche verdeutlicht. **Zusammenfassung:** Trotz des hohen Einsatzes von KI in der Medienbranche bleiben viele Erwartungen unerfüllt, insbesondere in Bezug auf Kosteneinsparungen und Umsatzwachstum. ## Diestedde: Künstliche Intelligenz hilft Pflegekräften In Diestedde wird Künstliche Intelligenz eingesetzt, um Pflegekräfte zu unterstützen und ihre Arbeitsbelastung zu reduzieren. Die Technologie ermöglicht eine effizientere Dokumentation und Kommunikation, was den Pflegekräften mehr Zeit für die direkte Betreuung der Patienten gibt. Dies könnte einen positiven Einfluss auf die Qualität der Pflege haben. Die Implementierung von KI in der Pflege zeigt, wie Technologie dazu beitragen kann, die Herausforderungen im Gesundheitswesen zu bewältigen und die Arbeitsbedingungen für Pflegekräfte zu verbessern. **Zusammenfassung:** Künstliche Intelligenz wird in der Pflege eingesetzt, um die Arbeitsbelastung der Pflegekräfte zu reduzieren und die Qualität der Patientenbetreuung zu verbessern. Quellen: - [Wie menschliche Aufsicht über Künstliche Intelligenz gelingt](https://www.faz.net/pro/digitalwirtschaft/kuenstliche-intelligenz/wie-menschliche-aufsicht-ueber-kuenstliche-intelligenz-gelingt-110719480.html) - [KI-Hype an der Börse: Was passiert, wenn die Blase platzt?](https://www.deutschlandfunk.de/ki-platzt-die-boersen-blase-100.html) - [Künstliche Intelligenz: Hi!](https://www.zeit.de/2025/43/kuenstliche-intelligenz-sprache-froschung-wale) - [Folgen für Beschäftigte: Studie: Künstliche Intelligenz gefährdet viele Jobs in Schlüsselbranchen](https://www.n-tv.de/ticker/Studie-Kuenstliche-Intelligenz-gefaehrdet-viele-Jobs-in-Schluesselbranchen-article26081960.html) - [Einsatz Künstlicher Intelligenz: Medien klagen über enttäuschte Erwartungen](https://meedia.de/news/beitrag/20289-einsatz-kuenstlicher-intelligenz-medien-klagen-ueber-enttaeuschte-erwartungen.html) - [Diestedde: Künstliche Intelligenz hilft Pflegekräften](https://www.die-glocke.de/kreis-warendorf/wadersloh/artikel/diestedde-kuenstliche-intelligenz-hilft-pflegekraeften-1759846450) - [KI und Chatbots: Verlernen wir zu denken? Das untersucht Roberto Simanowski in "Sprachmaschinen"](https://www.sueddeutsche.de/kultur/ki-philosophie-sprachmaschine-roberto-simanowski-buch-rezension-li.3317336) - [Pilotprojekt in Rotenburg: Mit Drohnen und KI Waldbrände schneller erkennen](https://www.hessenschau.de/panorama/pilotprojekt-in-rotenburg-mit-drohnen-und-ki-waldbraende-schneller-erkennen-v1,drohnen-waldbrand-sichtung-100.html) - [Wie ein Start-Up aus Berlin den Ver­trags­prü­fung­s­pro­zess revo­lu­tio­niert](https://www.lto.de/recht/sponsored/s/vertragspruefung-mit-ki-auf-knopfdruck-ohne-prompten-anzeige) - [KI-Videos mit Sora 2: "Wir erlauben die Generierung historischer Persönlichkeiten"](https://www.golem.de/news/ki-videos-mit-sora-2-wir-erlauben-die-generierung-historischer-persoenlichkeiten-2510-200924.html) - [vbw begrüßt Pläne für eine beschleunigte Verankerung von KI](https://www.vbw-bayern.de/vbw/PresseCenter/Pressemitteilung-zur-St%C3%A4rkung-einer-fl%C3%A4chendeckenden-KI-Anwendung.jsp) - [Für "differenzierte Fragen": Google schaltet KI-Suche ab sofort auch für Deutschland frei](https://www.n-tv.de/technik/Google-schaltet-KI-Suche-ab-sofort-auch-fuer-Deutschland-frei-article26081043.html) - [Für Colossus 2: Nvidia investiert Milliarden in X.AI](https://www.golem.de/news/fuer-colossus-2-nvidia-investiert-milliarden-in-x-ai-2510-200925.html) - [Holtzbrinck eröffnet AI Hub in San Francisco, um Innovation in Wissenschaft, Bildung und Medien zu fördern](https://www.braunschweiger-zeitung.de/wirtschaft/Presseportal/article410178419/holtzbrinck-eroeffnet-ai-hub-in-san-francisco-um-innovation-in-wissenschaft-bildung-und-medien-zu-foerdern.html) - [Kooperation mit NVIDIA: Steht die Hitachi-Aktie vor neuen Impulsen?](https://www.finanzen.net/nachricht/aktien/blackwell-power-kooperation-mit-nvidia-steht-die-hitachi-aktie-vor-neuen-impulsen-00-14937883) - [KI für die Industrie: Einzigartiger Studiengang in Sachsen-Anhalt mit Roboterhund Byte](https://www.mdr.de/nachrichten/sachsen-anhalt/magdeburg/magdeburg/ki-uni-studium-studiengang-wirtschaft-100.html) - [Helport AI führt Performance-Ranking bei Atome an und baut Partnerschaft aus](https://de.investing.com/news/company-news/helport-ai-fuhrt-performanceranking-bei-atome-an-und-baut-partnerschaft-aus-93CH-3176940) - [AI Breakfast](https://www.bitkom.org/Themen/Startups-Scaleups/AI-Breakfast) --- *Dieser Artikel wurde ursprünglich veröffentlicht auf [ki-echo.de](https://ki-echo.de/menschliche-aufsicht-ueber-ki-sicherheit-herausforderungen-und-neue-ansaetze/)* *© 2026 Provimedia GmbH*