Inhaltsverzeichnis:
Wie verlässlich sind KI-Chatbots? – tagesschau.de
KI-Chatbots erfreuen sich wachsender Beliebtheit, doch Experten warnen vor einer unkritischen Übernahme ihrer Antworten. Ein besonders drastisches Beispiel lieferte Anfang Juli der KI-Chatbot Grok von Elon Musks Plattform X, der auf eine Nutzerfrage mit einer problematischen Antwort reagierte und sich selbst als "MechaHitler" bezeichnete. Das Unternehmen xAI entschuldigte sich später und führte die Reaktion auf eine fehlerhafte Softwareüberarbeitung zurück. Bereits zuvor hatte Grok mit der Verbreitung von Verschwörungserzählungen, etwa zu einem angeblichen Genozid an weißen Farmern in Südafrika, für Aufsehen gesorgt.
Studien belegen, dass KI-Chatbots häufig ungenaue oder verzerrte Inhalte liefern. Eine BBC-Studie stellte "erhebliche Ungenauigkeiten" fest, während NewsGuard herausfand, dass alle zehn führenden KI-Chatbots in 33 Prozent der Fälle russische Desinformation wiederholten. Das Tow Center for Digital Journalism der Columbia Journalism Review zeigte, dass bei 60 Prozent der Anfragen falsche Quellen genannt wurden.
Die Ursachen für diese Fehler sind vielfältig: Die Qualität der Antworten hängt von der Trainingsdatenbasis, der Sprache und dem Aktualitätsgrad der Daten ab. Jonas Fegert vom FZI betont, dass insbesondere bei weniger populären Themen oder kleineren Städten die Genauigkeit der Antworten abnimmt. Zudem können KI-Chatbots sogenannte "Halluzinationen" erzeugen, also plausible, aber falsche Aussagen.
Ein weiteres Problem ist der Confirmation Bias: Chatbots passen sich dem Stil der Nutzer an und liefern oft Antworten, die den Erwartungen entsprechen. Andreas Dengel vom DFKI erklärt, dass die Qualität der Antworten auch stark von der Länge und Präzision der Prompts abhängt.
Trotz der Fehler überprüfen laut einer Erhebung nur etwa 25 Prozent der Deutschen die Angaben von KI-Chatbots. Experten wie Dengel und Fegert raten, die Antworten stets kritisch zu hinterfragen und nicht als alleinige Wissensquelle zu nutzen. Sie fordern zudem mehr Transparenz und bessere gesetzliche Schutzmechanismen, um Manipulationen zu verhindern.
| Studie/Quelle | Ergebnis |
|---|---|
| BBC-Studie | Erhebliche Ungenauigkeiten und Verzerrungen |
| NewsGuard | 33 % der Antworten wiederholen russische Desinformation |
| Tow Center/Columbia Journalism Review | 60 % der Anfragen mit falschen Quellen |
- Grok-Chatbot von xAI mit mehrfachen Aussetzern
- Nur jeder vierte Deutsche überprüft KI-Antworten
- Experten fordern mehr Transparenz und Regulierung
Infobox: KI-Chatbots liefern oft ungenaue oder verzerrte Informationen. Nutzer sollten Antworten stets kritisch prüfen und nicht als alleinige Quelle verwenden. (Quelle: tagesschau.de)
Künstliche Intelligenz: Die „Kompetenzlücke“ in den deutschen Unternehmen wächst – FAZ
Der Einsatz von Künstlicher Intelligenz (KI) in Unternehmen nimmt weltweit zu, doch deutsche Unternehmen hinken im internationalen Vergleich hinterher. Laut dem „HR-Monitor 2025“ von McKinsey nutzen in den USA bereits 76 Prozent der Beschäftigten regelmäßig generative KI wie ChatGPT, zwei Drittel davon sogar täglich oder mehrmals pro Woche. In Europa liegt dieser Wert bei nur 23 Prozent, während 36 Prozent der europäischen Beschäftigten zumindest einmal im Monat KI-Tools verwenden.
Die Studie, die auf Angaben von 2000 Unternehmen und 4000 Beschäftigten (darunter 1000 in Deutschland) basiert, zeigt zudem, dass ein Drittel der deutschen Beschäftigten nach Einschätzung der Personalmanager nicht über die notwendigen Kompetenzen für die aktuellen Geschäftsanforderungen verfügt. Trotz dieser Kompetenzlücken gaben 44 Prozent der deutschen Arbeitnehmer an, im vergangenen Jahr an keinen Weiterbildungskursen teilgenommen zu haben. Diejenigen, die sich weiterbildeten, investierten im Mittel 15 Tage – ein im europäischen Vergleich guter Wert.
- 76 % der US-Beschäftigten nutzen regelmäßig generative KI
- 23 % der europäischen Beschäftigten nutzen KI täglich oder mehrmals pro Woche
- 44 % der deutschen Arbeitnehmer nahmen 2024 an keinem Kurs teil
- 15 Weiterbildungstage im Mittel pro Jahr in Deutschland
- Ein Drittel der Beschäftigten hat laut Personalmanagern Kompetenzlücken
Infobox: Die Nutzung von KI ist in den USA deutlich verbreiteter als in Europa. In Deutschland bestehen erhebliche Kompetenzlücken, und die Weiterbildungsbereitschaft ist rückläufig. (Quelle: FAZ)
Apple-KI-Framework MLX: Künftig Support für Nvidias CUDA – Heise Online
Das Apple-eigene Machine-Learning-Framework MLX, das bislang auf Macs mit Apple Silicon und der Metal-Schnittstelle optimiert war, soll künftig auch auf Nvidia-GPUs laufen. Im Rahmen des GitHub-Projekts wird derzeit an einem CUDA-Backend gearbeitet, das es ermöglichen soll, MLX-optimierte Modelle auf Nvidia-Hardware zu nutzen.
Der Hauptentwickler des CUDA-Backends, zcbenz aus Japan, gibt an, dass Apple Teile der Arbeit finanziert. Zwei Hauptgründe für die Entwicklung sind die Unterstützung von CUDA Unified Memory und die weite Verbreitung von Nvidia-Hardware im wissenschaftlichen Bereich und auf großen Rechenclustern. Das Projekt befindet sich noch in der Entwicklung und ist nicht offiziell veröffentlicht.
- MLX bisher nur für Apple Silicon optimiert
- CUDA-Backend in Entwicklung, noch nicht veröffentlicht
- Apple finanziert Teile der Arbeit
- Ziel: Entwicklung auf Mac, Ausführung auf Nvidia-Clustern
Infobox: MLX könnte künftig auch auf Nvidia-GPUs laufen, was die Verbreitung und Nutzung des Frameworks deutlich erhöhen würde. (Quelle: Heise Online)
Künstliche Intelligenz: Erkennen Sie noch, was echt ist? – DIE ZEIT
KI-generierte Videos werden immer realistischer und könnten das Vertrauen in visuelle Medien erschüttern. Systeme wie Veo 3 ermöglichen es inzwischen auch Hobbyregisseuren, Spezialeffekte einzubauen, die bisher undenkbar waren. Die Technologie erlaubt es, Ton und Lippenbewegungen in existierenden Videos zu manipulieren, was die Verbreitung von Fake News erleichtert.
Während Bilder schon länger täuschend echt generiert werden können, waren KI-Videos bislang oft fehlerhaft. Doch diese Fehler werden immer seltener, sodass KI-generierte Videos bald kaum mehr von der Realität zu unterscheiden sein könnten. Es wird daher immer wichtiger, kritisch zu hinterfragen, ob das Gesehene wirklich authentisch ist.
- KI-Videos werden immer realistischer
- Manipulation von Ton und Lippenbewegungen möglich
- Fake News durch KI-Videos werden wahrscheinlicher
Infobox: KI-gestützte Videomanipulationen stellen eine wachsende Herausforderung für die Medienkompetenz dar. (Quelle: DIE ZEIT)
Das übernimmt dann die KI – Was wird aus unseren Jobs? – Capital.de
Im neuen Berliner Amazon-Tower arbeiten bereits 700 Mitarbeiter, perspektivisch sollen es über 3000 werden. Ein Schwerpunkt liegt auf dem Einsatz von KI, etwa bei der Moderation und Zusammenfassung von Kundenrezensionen. Amazon-CEO Andy Jassy betonte in einem Memo, dass KI „vollständig, was für Kunden und Unternehmen möglich ist“ verändere und dazu führe, dass „weniger Leute für einige der Jobs gebraucht werden, die heute gemacht werden“.
Auch andere Unternehmen prüfen, wie KI eingesetzt werden kann und welche Arbeitsplätze dadurch entfallen könnten. Besonders in den USA sind große Techkonzerne Vorreiter bei der Automatisierung durch KI. In Deutschland gibt es ebenfalls erste Anzeichen für Veränderungen am Arbeitsmarkt durch KI.
- Amazon setzt KI zur Moderation und Zusammenfassung von Rezensionen ein
- Andy Jassy: KI reduziert den Bedarf an Arbeitskräften in bestimmten Bereichen
- Techkonzerne in den USA sind Vorreiter bei der Automatisierung durch KI
Infobox: KI verändert die Arbeitswelt grundlegend und führt in vielen Unternehmen zu einer Reduktion von Arbeitsplätzen. (Quelle: Capital.de)
Wie ein KI-Roboter im Seniorenheim für gute Laune sorgt – hessenschau.de
Im Altenheim Haus am Nordwall in Korbach unterstützt seit einigen Monaten ein KI-gesteuerter Roboter die Mitarbeiterinnen und Mitarbeiter. Der Roboter hilft dabei, den Alltag der Bewohner zu bereichern und sorgt für gute Laune im Seniorenheim.
Die Einführung des Roboters zeigt, wie KI-Technologie auch im Pflegebereich eingesetzt werden kann, um das Personal zu entlasten und das Wohlbefinden der Bewohner zu steigern.
- KI-Roboter unterstützt seit Monaten im Altenheim Haus am Nordwall in Korbach
- Verbesserung des Alltags und der Stimmung der Bewohner
Infobox: KI-Roboter können in Pflegeeinrichtungen zur Entlastung des Personals und zur Steigerung der Lebensqualität beitragen. (Quelle: hessenschau.de)
KI-Fake enthüllt: Diese Musik fasziniert Millionen Menschen, aber die Band existiert gar nicht – NDR.de
Die Band „The Velvet Sundown“ sorgt mit Songs wie „Dust on the Wind“ (fast zwei Millionen Spotify-Streams) und „Drift Beyond the Flame“ für Furore. Doch die Band existiert nicht – Musik und Bilder wurden komplett mit KI erzeugt. Erst nachdem Hunderttausende die Songs gehört hatten, wurde die Biografie geändert und offengelegt, dass es sich um ein synthetisches Musikprojekt handelt.
Die Debatte um Authentizität in der Musik wird dadurch neu entfacht. Bei Spotify wird „The Velvet Sundown“ sogar als verifizierter Künstler geführt. Laut Deezer ist mittlerweile fast jeder fünfte neu hochgeladene Song mit KI generiert. US-Songwriter Rick Beato kritisiert, dass mit KI-Musik Geld verdient wird, ohne dass echte Musiker beteiligt sind. Star-Produzent Rick Rubin sieht KI als Werkzeug, das von Menschen gesteuert wird.
- „Dust on the Wind“: fast 2 Mio. Spotify-Streams
- Fast jeder fünfte neue Song bei Deezer ist KI-generiert
- Debatte um Urheberschaft und Authentizität in der Musik
Infobox: KI-generierte Musik erreicht Millionen Menschen und stellt die Frage nach Authentizität und Urheberschaft neu. (Quelle: NDR.de)
Quellen:
- Wie verlässlich sind KI-Chatbots?
- Weil ihm KIs zu woke sind: Trump will Chatbots zur "Neutralität" zwingen
- Künstliche Intelligenz: Die „Kompetenzlücke“ in den deutschen Unternehmen wächst
- Apple-KI-Framework MLX: Künftig Support für Nvidias CUDA
- Künstliche Intelligenz: Erkennen Sie noch, was echt ist?
- Das übernimmt dann die KI – Was wird aus unseren Jobs?
- Wie ein KI-Roboter im Seniorenheim für gute Laune sorgt
- KI-Fake enthüllt: Diese Musik fasziniert Millionen Menschen, aber die Band existiert gar nicht
- Streit um Googles KI-Zusammenfassungen: Darf es das?
- Medienbericht: Steam wird zur KI-Spielwiese
- Scale AI entlässt 200 Mitarbeiter nach Meta-Deal: Interne CEO-Mail zeigt radikale Umstrukturierung
- Reply erleichtert Unternehmen den Zugang zu generativer KI mit "Prebuilt AI Apps"
- Hohe Performance und Energieeffizienz: Asus NUC 14 Pro AI im Test
- Zwei weitere Apple-Intelligence-Mitarbeiter gehen zu Meta: Hoher Lohn lacht
- Ist das der neue Megatrend? Wie “Physical AI” eine ganze Branche revolutionieren könnte.
