--- title: KI zwischen Fortschritt und Kontrolle: Neue Chancen, Risiken und Kosten canonical: https://ki-echo.de/ki-zwischen-fortschritt-und-kontrolle-neue-chancen-risiken-und-kosten/ author: Provimedia GmbH published: 2026-07-18 updated: 2026-07-18 language: de category: KI-News description: KI verspricht Produktivitätsgewinne, verursacht aber teils Zusatzarbeit, Kontrollaufwand und neue Risiken; ihr gesellschaftlicher Nutzen hängt von Transparenz, Datenhoheit und politischen Entscheidungen ab. source: Provimedia GmbH --- # KI zwischen Fortschritt und Kontrolle: Neue Chancen, Risiken und Kosten > **Autor:** Provimedia GmbH | **Veröffentlicht:** 2026-07-18 **Zusammenfassung:** KI verspricht Produktivitätsgewinne, verursacht aber teils Zusatzarbeit, Kontrollaufwand und neue Risiken; ihr gesellschaftlicher Nutzen hängt von Transparenz, Datenhoheit und politischen Entscheidungen ab. --- ## KI im Überblick: Produktivität, Kontrolle und neue Risiken ## KI beim Programmieren kann Entwickler bremsen Künstliche Intelligenz soll das Programmieren eigentlich beschleunigen. Laut *t3n* zeigen einige Studien jedoch, dass KI-Tools Entwickler sogar ausbremsen können. Programmieren gilt als naheliegender Anwendungsfall für große Sprachmodelle, weil Code eine Form von Sprache ist, in großen Mengen benötigt wird und seine Funktionsfähigkeit durch Ausführen überprüft werden kann. Dennoch stellt sich laut *t3n* die Frage, ob der Einsatz von KI in der Softwareentwicklung tatsächlich effizienter macht. **Zusammenfassung:** KI bietet beim Programmieren grundsätzlich großes Potenzial, kann durch ihren Einsatz aber auch zusätzliche Verzögerungen verursachen. ## KI ist laut DIE ZEIT keine automatische Garantie für Fortschritt *DIE ZEIT* beschreibt Künstliche Intelligenz zugleich als größte Chance der heutigen Zeit und als eine der größten Bedrohungen. Die öffentliche Debatte schwanke dabei häufig zwischen diesen beiden Extremen, obwohl KI sowohl zu einem besseren Leben beitragen als auch gesellschaftliche Spaltungen vertiefen, Menschen manipulieren, Eigentum entziehen und die Demokratie aushöhlen könne. Als entscheidenden Unterschied zu früheren Technologien nennt der Artikel die Möglichkeit, dass KI zumindest perspektivisch intelligenter als der Mensch werden könnte. Dadurch könnte der bisherige Mechanismus außer Kraft gesetzt werden, wonach technischer Fortschritt Arbeitsplätze ersetzt, zugleich aber zumindest ebenso viele neue und meist deutlich bessere Arbeitsplätze schafft. KI greife zunehmend in Bereiche ein, die Menschen ausmachen, darunter Sprache, Analyse, Kreativität, Organisation und komplexe Entscheidungen. Hinzu komme die Geschwindigkeit der Entwicklung: Während industrielle Revolution und Digitalisierung Jahrzehnte gedauert hätten, vollziehe sich die KI-Entwicklung innerhalb weniger Jahre. Der Artikel verweist zugleich auf Chancen in Medizin, Verwaltung, Bildung, Mobilität und Forschung. KI könne Krankheiten früher erkennen, Medikamente schneller entwickeln, Diagnosen und Behandlungen verbessern, unliebsame Arbeit übernehmen und Bildung individueller zugänglich machen. Besonders profitieren könnten die fast eine Milliarde Menschen, die heute in Armut leben und nicht genug Essen, medizinische Versorgung, Bildung und andere Daseinsvorsorge haben. Ob KI breite Wohlstandsgewinne erzeugt, hängt laut *DIE ZEIT* von Institutionen und gesellschaftlichen Machtverhältnissen ab. Die Ausgestaltung des technischen Fortschritts sei eine politische Entscheidung: KI könne Menschen produktiver machen oder sie ersetzen, Macht demokratisieren oder in den Händen weniger konzentrieren sowie Wohlstand vergrößern oder Ungleichheit explodieren lassen. > „Künstliche Intelligenz ist die größte Chance unserer Zeit – und zugleich eine der größten Bedrohungen.“ **Zusammenfassung:** KI entwickelt sich laut *DIE ZEIT* schnell und mit weitreichenden Folgen. Ob sie der Gesellschaft nutzt, hängt nicht automatisch von der Technik, sondern von politischen Entscheidungen und gesellschaftlichen Machtverhältnissen ab. ## Apple überholt Nvidia beim Börsenwert Nach Angaben der *WELT* ist Apple wieder das wertvollste Unternehmen der Welt und hat Nvidia vom Spitzenplatz verdrängt. Besonders bemerkenswert sei, dass Apple unter den großen Technologiekonzernen am wenigsten in Künstliche Intelligenz investiert habe. Nvidia gilt laut *WELT* als größter Profiteur des KI-Booms. Dass dennoch Apple an die Spitze zurückkehrt, stelle die bisherige Logik des KI-Booms infrage und werde durch einen Blick in die Börsengeschichte eingeordnet. **Zusammenfassung:** Apple führt beim Börsenwert wieder vor Nvidia, obwohl Nvidia als größter Profiteur des KI-Booms gilt. ## Manuelle KI-Kontrollen belasten Finanzteams Eine von IDC im Auftrag von Sage durchgeführte Studie kommt laut *heise online* zu dem Ergebnis, dass manuelle Kontrollen von KI-Ausgaben erwartete Effizienzgewinne häufig wieder aufzehren. Für die Untersuchung wurden im Februar 2026 weltweit 2275 hochrangige Finanzentscheider aus kleineren und mittleren Unternehmen befragt. Die Stichprobe umfasste 17 Branchen in Nordamerika sowie Europa und dem Nahen Osten, darunter Deutschland. Die Analysten bezeichnen die Arbeitszeit für die manuelle Prüfung von KI-generierten Daten als „Verifizierungssteuer“. | Erkenntnis | Wert | | Deutsche Finanzentscheider mit 15 bis 29 Stunden Validierungsaufwand pro Woche | Fast jeder dritte | | Deutsche Finanzentscheider mit mehr als 30 Stunden Validierungsaufwand pro Woche | 18 Prozent | | In Deutschland erneut investierter Anteil der durch KI eingesparten Zeit | 28 Prozent | | Deutsche Finanzführungskräfte, die nicht nachvollziehbare KI-Tools ablehnen | 68 Prozent | | Weltweiter Anteil | 71 Prozent | | Unternehmen, die für transparente Ansätze einen Aufpreis zahlen würden | Mehr als die Hälfte | | Durchschnittliche Transparenzprämie | elf Prozent über den Standard-Lizenzkosten | | Transparenzprämie bei besonders zahlungsbereiten Firmen | rund 20 Prozent | Das Problem seien meist nicht offensichtliche Fehler, sondern fehlende Transparenz. Finanzabteilungen müssten Annahmen, Datenquellen und Berechnungen nachvollziehen können, bevor sie Berichte oder Prognosen freigeben. Der Markt reagiert laut *heise online* mit sogenannten „Glass-Box-Ansätzen“, die Entscheidungswege und verwendete Quellen offenlegen. Besonders hoch sei die Zahlungsbereitschaft in stark regulierten Branchen wie Gesundheitswesen, Bau und Finanzwirtschaft. Auch die Rolle des Chief Financial Officer verändert sich. Knapp 70 Prozent der Befragten erwarten, dass die Fähigkeit, KI-Entscheidungen zu erklären, bis 2030 für CFOs ebenso wichtig sein wird wie das Lesen einer Bilanz. Eine weitgehend autonome Finanzabteilung ist der Studie zufolge bislang selten: Nur vier Prozent der Unternehmen arbeiten nach eigener Einschätzung bereits weitgehend autonom. 62 Prozent setzen weiterhin auf manuelle oder regelbasierte Prozesse, während sich Hybridmodelle entwickeln, bei denen KI Analysen, Datenabgleiche und Berichtsentwürfe beschleunigt, die endgültige Entscheidung aber beim Menschen bleibt. **Zusammenfassung:** Finanzteams benötigen erhebliche Zeit für die Prüfung von KI-Ergebnissen. Transparenz und Erklärbarkeit werden laut *heise online* zu entscheidenden wirtschaftlichen Faktoren. ## Microsoft-Chef warnt vor dem Verlust von Unternehmenswissen *BILD* berichtet über eine Warnung von Microsoft-Chef Satya Nadella. Unternehmen könnten sich zu stark auf einzelne KI-Anbieter verlassen und dabei wertvolle Informationen über ihr eigenes Geschäft preisgeben. Nach Nadellas Darstellung fließen mit jeder Eingabe, Rückmeldung und Korrektur weitere Informationen in die Systeme ein. Besonders relevant seien die Korrekturen, die Menschen vornehmen, wenn ein Modell einen Fehler macht. > „Modelle lernen aus ‚Abfallprodukten‘ – den Prompts, die Menschen verfassen, den Werkzeugen, die Agenten nutzen, und vor allem den Korrekturen, die Menschen vornehmen, wenn das Modell falsch liegt. Jede Korrektur fließt in das institutionelle Know-how ein.“ Als mögliche Gegenmaßnahmen nennt Nadella Orchestrierungsebenen, mit denen Unternehmen zwischen verschiedenen KI-Modellen wechseln können. Außerdem spricht er sich für eigene Lernumgebungen in der Cloud aus, in denen Firmen Daten, Eingaben und Rückmeldungen selbst verwalten. *BILD* zufolge suchen Unternehmen bereits nach Alternativen zu proprietären Modellen. Idit Levine, Gründerin und CEO von Solo.io, berichtet von wachsendem Interesse an offenen Lösungen, die lokal laufen und mehr Kontrolle über Daten ermöglichen. Gleichzeitig könnten sie Kosten senken. Die Warnung erhält laut *BILD* besondere Aufmerksamkeit, weil Microsoft selbst Milliarden in OpenAI und Anthropic investiert hat. > „Indem Sie Intelligenz nutzen, erschaffen Sie Intelligenz. Und das, was Sie erschaffen, sollte Ihnen gehören.“ **Zusammenfassung:** Unternehmen sollen ihre Datenhoheit sichern und Abhängigkeiten von einzelnen KI-Anbietern vermeiden. Offene Modelle, Orchestrierungsebenen und eigene Lernumgebungen werden als mögliche Wege genannt. ## KI sorgt für zusätzliche Arbeit an Sozialgerichten *tagesschau.de* berichtet über eine Klagewelle an den Sozialgerichten in Rheinland-Pfalz. Bürger nutzen zunehmend Künstliche Intelligenz, um Leistungen wie Grundsicherung, Bürgergeld, Erwerbsminderungsrente oder einen Schwerbehindertenausweis einzuklagen. Auch Streitigkeiten mit Krankenkassen über Therapien oder Hilfsmittel werden genannt. Eine langjährige Richterin beschreibt den Anstieg als sprunghaft und erklärt, einen solchen Anstieg von Klagen noch nicht erlebt zu haben. Die Richter erkennen laut *tagesschau.de* häufig, wenn ein Schriftsatz von einer kostenlosen KI-Anwendung erstellt wurde. Die Texte seien ungewöhnlich lang und oft ein Mehrfaches der sonst üblichen zwei bis drei Seiten. Zudem enthielten sie Wiederholungen, gingen am konkreten Fall vorbei oder verwiesen auf unpassende Paragraphen. Teilweise interpretiere die KI bestehende Urteile falsch oder zitiere Gerichtsentscheidungen, die es gar nicht gibt. Die Richter müssten die Schriftsätze trotzdem vollständig lesen, weil sich entscheidende Informationen überall im Text befinden könnten. | Entwicklung in Rheinland-Pfalz | Wert | | Zusätzliche Verfahren 2025 an den vier Sozialgerichten im Vergleich zum Vorjahr | fast 1.800 | | Anstieg der Verfahren | ein Fünftel | | Zusätzliche Eilverfahren 2025 im Vergleich zum Vorjahr | 405 | | Anstieg der Eilverfahren | mehr als ein Drittel | Die vier Sozialgerichte in Koblenz, Mainz, Speyer und Trier verzeichneten 2025 im Vergleich zum Vorjahr fast 1.800 Verfahren mehr. Für das laufende Jahr liegen noch keine Zahlen vor, die Tendenz wird jedoch als eindeutig beschrieben. Zusätzlich stieg die Zahl der Eilverfahren. Diese müssen bevorzugt bearbeitet werden und binden nach Darstellung des Artikels unmittelbar Personal. Das Landessozialgericht vermutet, dass auch hier KI-Anwendungen eine Rolle spielen, weil sie häufig zum Antrag auf einstweiligen Rechtsschutz raten. Der Bundesgeschäftsführer des Deutschen Richterbundes, Sven Rebehn, sieht darin ein bundesweites Problem. Ohne zusätzliches Personal könnten die Sozialgerichte die wachsende Verfahrenswelle kaum bewältigen. > „Mithilfe Künstlicher Intelligenz stellen die Betroffenen selbst Dokumente zusammen, die vielfach ausufernd lang sind, falsche Anträge enthalten oder auf Urteile Bezug nehmen, die es gar nicht gibt.“ Das rheinland-pfälzische Justizministerium stellt laut *tagesschau.de* neue Richterstellen in Aussicht. Gleichzeitig gilt es als schwierig, geeignetes Personal zu finden, weil die Zahl der auf Sozialrecht spezialisierten Juristen überschaubar sei. Ausgerechnet KI könnte bei der Entlastung helfen: Das Ministerium entwickelt eine Anwendung, die bei umfangreichen Verfahren Akteninhalte erfassen, strukturieren und wichtige Informationen schneller auffindbar machen soll. Wann die Sozialgerichte sie einsetzen können, ist offen. Rechtliche Entscheidungen sollen weiterhin ausschließlich von Richterinnen und Richtern getroffen werden. Die Sozialjuristin Sigrid Jahr unterscheidet zwischen kostenpflichtigen speziellen Anwendungen für Juristen und kostenlosen KI-Angeboten. Erstere seien etwa bei Formulierungsvorschlägen hilfreich, während Gratis-Angebote Fälle häufig zu allgemein behandelten. > „Je weniger die streitigen Punkte herausgearbeitet werden, desto schlechter für den Kläger.“ **Zusammenfassung:** KI erleichtert den Zugang zu Klagen, führt laut *tagesschau.de* aber auch zu langen, fehlerhaften und zusätzlichen Schriftsätzen. Die Sozialgerichte in Rheinland-Pfalz verzeichnen deutlich mehr Verfahren und prüfen zugleich den Einsatz eigener KI zur Entlastung. Quellen: - [KI in der Softwareentwicklung: Macht uns die Technik wirklich produktiver?](https://t3n.de/news/ki-in-der-softwareentwicklung-macht-uns-die-technik-wirklich-produktiver-1752523/) - [Künstliche Intelligenz: Die KI wird nicht von allein gut](https://www.zeit.de/wirtschaft/2026-07/kuenstliche-intelligenz-revolution-regulierung-gemeinwohl) - [Börsenwert: Apple überholt Nvidia – und stellt die Logik des KI-Booms auf den Kopf](https://www.welt.de/wirtschaft/plus6a5a38b5bb3fbf9dba987dba/boersenwert-apple-ueberholt-nvidia-und-stellt-die-logik-des-ki-booms-auf-den-kopf.html) - [Manuelle Kontrollen von KI-Output kosten Finanzteams jede Woche wertvolle Zeit](https://www.heise.de/news/Manuelle-Kontrollen-von-KI-Output-kosten-Finanzteams-jede-Woche-wertvolle-Zeit-11369574.html) - [Microsoft-Chef warnt: Firmen verraten ihr Wissen an die KI](https://www.bild.de/leben-wissen/digital/microsoft-chef-warnt-firmen-verraten-ihr-wissen-an-die-ki-6a588b9b8e06d6769140e84c) - [Rheinland-Pfalz: KI statt Anwalt - Flut von Klagen überschwemmt Sozialgerichte](https://www.tagesschau.de/inland/regional/rheinlandpfalz/swr-sozialgerichte-in-rlp-aechzen-unter-massen-von-ki-klagen-100.html) --- *Dieser Artikel wurde ursprünglich veröffentlicht auf [ki-echo.de](https://ki-echo.de/ki-zwischen-fortschritt-und-kontrolle-neue-chancen-risiken-und-kosten/)* *© 2026 Provimedia GmbH*