Sie sind hier: Startseite » Markt » Studien

Das Problem "Datenverzerrungen"


Studie: Viele deutsche Unternehmen kämpfen mit Data Bias
Um zu verhindern, dass Datenverzerrungen in die Entwicklung von KI-Anwendungen einfließen, ist eine Kombination aus Technologie, Schulungen und den richtigen Methoden erforderlich


Deutschen Unternehmen ist bewusst, dass Datenverzerrungen ein Problem von KI-Anwendungen sind. Sie wissen aber nicht so recht, wie sie effektiv dagegen angehen können. Das zeigt eine aktuelle Umfrage von Progress. Wenn Daten für das Training von KI-Modellen eingesetzt werden, transportieren sie unweigerlich die Voreingenommenheit der Personen, die diese Daten erstellt haben, in die Modelle. Das kann dazu führen, dass KI-Anwendungen falsche und diskriminierende Entscheidungen treffen und dadurch finanzielle, ethische oder rechtliche Schäden für Unternehmen verursachen.

Die Studie "Data Bias: The Hidden Risk of AI" geht der Frage nach, wie bewusst Unternehmen dieses Problem ist und wie sie damit umgehen. Für die Studie befragte das Marktforschungsunternehmen Insight Avenue im Auftrag von Progress weltweit Business- und IT-Verantwortliche. Die Befragten nutzen Künstliche Intelligenz (KI) und Machine Learning (ML) für ihre Entscheidungsfindung oder planen, dies künftig zu tun. An der Umfrage nahmen auch zahlreiche deutsche Unternehmen teil.

Die wichtigsten Ergebnisse der Umfrage für Deutschland:

>> 60 Prozent der Business- und IT-Verantwortlichen gehen davon aus, dass sie in den kommenden Jahren bei der Entscheidungsfindung stärker auf KI und ML angewiesen sein werden.
>> 84 Prozent von ihnen sind der Ansicht, dass Datenverzerrungen mit dem zunehmenden Einsatz von KI und ML zu einem größeren Problem werden. Allerdings befassen sich derzeit nur 10 Prozent mit diesem Problem und haben einen laufenden Evaluierungsprozess dafür.
>> 66 Prozent glauben, dass es in ihrem Unternehmen derzeit Datenverzerrungen gibt.
>> 76 Prozent sind der Ansicht, dass sie mehr gegen Datenverzerrungen tun müssten.
>> 58 Prozent sehen mangelndes Bewusstsein und Verständnis für Verzerrungen als Hindernis für einen richtigen Umgang damit. Für weitere 46 Prozent ist der Mangel an Experten wie Data Scientists eine große Hürde.

"Unsere Welt wird immer abhängiger von Software, die folgenreiche Entscheidungen trifft. Data Bias ist deshalb ein Problem, das nicht ignoriert werden kann", erklärt Thomas Schuller, Regional Director DACH bei Progress. "Um zu verhindern, dass Datenverzerrungen in die Entwicklung von KI-Anwendungen einfließen, ist eine Kombination aus Technologie, Schulungen und den richtigen Methoden erforderlich. Es liegt an uns Menschen, dafür zu sorgen, dass Software Entscheidungen immer auf Basis der richtigen Informationen trifft und damit Gutes bewirken kann." (Progress: ra)

eingetragen: 05.06.23
Newsletterlauf: 12.07.23

Progress Software: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.


Meldungen: Studien

  • Lückenhafte Datensicherung birgt Risiken

    Hycu hat die Ergebnisse einer aktuellen Studie veröffentlicht, die unter Anwaltskanzleien und Fachleuten aus dem Rechtsbereich durchgeführt wurde. Während Anwaltskanzleien zunehmend auf Cloud-basierte Anwendungen umsteigen, zeigen die Ergebnisse der neuen globalen Umfrage, dass es erhebliche Wissenslücken hinsichtlich der Verantwortlichkeiten im Bereich Datensicherung gibt. Laut dem in Kürze erscheinenden Bericht "State of SaaS Resilience 2025" glauben 85 Prozent der IT-Entscheidungsträger im Bereich Unternehmens- und freiberufliche Dienstleistungen, einschließlich Rechtsdienstleistungen, dass native SaaS-Plattformen wie iManage Cloud, Microsoft 365, DocuSign und Box eine umfassende Datensicherung bieten.

  • Skepsis gegenüber SaaS

    Die IT-Modernisierung zählt seit Jahren zu den Top-Prioritäten von CIOs - allerdings gibt es aufgrund der hohen Komplexität oft nur geringe Fortschritte. Der Druck zur IT-Modernisierung ist jedoch höher denn je, denn je häufiger veraltete Anwendungslandschaften auf moderne digitale Technologien treffen, desto stärker werden ihre technischen und wirtschaftlichen Grenzen sichtbar. Management und Fachbereiche erkennen daher zunehmend die Notwendigkeit von Modernisierungsmaßnahmen.

  • Cloud-Angriffe werden schneller und intelligenter

    Sysdig, Anbieterin von Cloud-Sicherheit in Echtzeit, hat ihren aktuellen Cloud Defense Report 2025 veröffentlicht. Der Bericht enthält Erkenntnisse und Prognosen über die entscheidende Rolle von KI, Open Source und Transparenz durch Runtime Insights (Laufzeit-Analysen) im Kontext aktueller Cloud-Bedrohungen. Die Datengrundlage stammt aus einer sorgfältigen und methodisch fundierten Analyse von Millionen von Cloud-Konten und Kubernetes-Containern, die Sysdig-Kunden täglich betreiben und sichern. Die repräsentative Stichprobe umfasst eine Vielzahl von Cloud-affinen Branchen auf der ganzen Welt.

  • Interne IT-Dienstleister: Umsätze steigen

    Interne IT-Dienstleister von Unternehmen und Organisationen in Deutschland verzeichnen 2024 ein Wachstum von durchschnittlich rund 10 Prozent und gewinnen im Kontext der digitalen Transformation an Bedeutung. Im Fokus stehen dabei der Wandel zum datengetriebenen Unternehmen, die Entwicklung KI-basierter Anwendungen, die IT-Modernisierung, das Vorantreiben der Prozessautomatisierung sowie die Kompensation des Fachkräftemangels und des demografischen Wandels durch digitale Technologien.

  • Risiken im Zusammenhang mit KI kaum versichert

    Künstliche Intelligenz (KI) ist längst in deutschen Unternehmen im Dienstleistungssektor voll angekommen - das zeigt eine aktuelle Umfrage zu Nutzung, Chancen und Risiken von KI, die im Auftrag von Hiscox durchgeführt wurde. Befragt wurden Anwendende sowie (Mit-) Entscheider über den Einsatz von KI.

  • Investitionen beginnen sich auszuzahlen

    Rockwell Automation hat die deutschen Ergebnisse ihres 10. jährlichen Berichts zur intelligenten Fertigung vorgestellt. Die Daten zeigen, dass der Fertigungssektor erhebliche Investitionen und Erträge in generative KI tätigt, aber immer noch mit Herausforderungen wie ungleichmäßiger Personalentwicklung und unzureichend genutzten Daten zu kämpfen hat.

  • Verständnis von systemischen Cyberrisiken

    CyberCube und Munich Re, Anbieterin in ihren jeweiligen Gebieten, Modellierung und Rück-Versicherung, haben die wesentlichen Ergebnisse einer gemeinsamen Umfrage veröffentlicht. Gegenstand waren schwerwiegende Cyber-Kumulereignisse und die relative Widerstandsfähigkeit von Unternehmen gegenüber systemischen Ereignissen aufgrund wirksamer Maßnahmen zur Risikominderung.

  • Warum Echtzeitdaten für KI entscheidend sind

    Daten waren für Unternehmen schon immer wichtig, das ist nichts Neues. Was sich jedoch verändert hat, ist die Geschwindigkeit, mit der sie verarbeitet werden müssen. Herkömmliche Datenarchitekturen stoßen zunehmend an ihre Grenzen, insbesondere wenn es darum geht, Entscheidungen auf Basis aktueller Daten in Echtzeit zu treffen.

  • Verantwortung für Datenschutz und Compliance

    Fivetran, Anbieterin für Data Movement, präsentiert eine neue Studie. Sie zeigt: Nicht einmal die Hälfte (49 Prozent) der Technologie-Verantwortlichen in Unternehmen sind der Meinung, ihre derzeitige Datenarchitektur wäre den Anforderungen für den Einsatz von KI gewachsen. Gleichzeitig planen 89 Prozent noch dieses Jahr ihre eigenen Daten für das Training großer Sprachmodelle (LLMs) zu verwenden. Diese Diskrepanz verdeutlicht, wie schnell die Unternehmen den Einsatz von KI vorantreiben, obwohl sie gleichzeitig einräumen, dass ihre Datensysteme dafür noch nicht bereit sind.

  • Hybride oder Cloud-first-Umgebungen sind Standard

    Keeper Security veröffentlichte ihren neuen Insight Report "Securing Privileged Access: Der Schlüssel zur modernen Unternehmensverteidigung". Da sich Unternehmen auf ein immer komplexeres Netzwerk von Benutzern, Anwendungen und Infrastrukturen verlassen, ist die Verwaltung privilegierter Zugriffe zur Verhinderung von Cyberangriffen sowohl kritischer als auch komplizierter geworden. Die rasche Einführung von Cloud-, Hybrid- und Multi-Vendor-Umgebungen in Kombination mit der zunehmenden Raffinesse und KI-gestützten Cyberangriffen erhöht den Bedarf an Lösungen, die sichere, skalierbare und zentralisierte Zugangskontrollen durchsetzen können.

Wir verwenden Cookies um unsere Website zu optimieren und Ihnen das bestmögliche Online-Erlebnis zu bieten. Mit dem Klick auf "Alle akzeptieren" erklären Sie sich damit einverstanden. Erweiterte Einstellungen