Bereits Kunde? Jetzt einloggen.
Lesezeit ca. 8 Min.

Überregulierung droht – Kritik an Vorschlägen der Datenethikkommission


Computerwoche - epaper ⋅ Ausgabe 46/2019 vom 04.11.2019

Die von der Bundesregierung eingesetzte Datenethikkommission hat sich mit ihren Handlungsempfehlungen zum Umgang mit Daten und Algorithmen nicht viele Freunde gemacht. Überregulierung drohe den digitalen Umbau der Wirtschaft massiv zu bremsen, mahnen Kritiker.


Artikelbild für den Artikel "Überregulierung droht – Kritik an Vorschlägen der Datenethikkommission" aus der Ausgabe 46/2019 von Computerwoche. Dieses epaper sofort kaufen oder online lesen mit der Zeitschriften-Flatrate United Kiosk NEWS.

Bildquelle: Computerwoche, Ausgabe 46/2019

Von Heinrich Vaske, Editorial Director


Die von der deutschen Bundesregierung eingesetzte Datenethikkommission (DEK) hat mit ihren soeben erschienenen Handlungsempfehlungen zum „Umgang mit Daten und algorithmischen Systemen für die nationale, europäische und internationale Ebene“ teils heftige Kritik ausgelöst. Verbände monieren das Gutachten, weil ...

Weiterlesen
epaper-Einzelheft 10,99€
NEWS 14 Tage gratis testen
Bereits gekauft?Anmelden & Lesen
Leseprobe: Abdruck mit freundlicher Genehmigung von Computerwoche. Alle Rechte vorbehalten.

Mehr aus dieser Ausgabe

Titelbild der Ausgabe 46/2019 von Ex-SAP-CEO Bill McDermott wird neuer Chef von ServiceNow. Zeitschriften als Abo oder epaper bei United Kiosk online kaufen.
Ex-SAP-CEO Bill McDermott wird neuer Chef von ServiceNow
Titelbild der Ausgabe 46/2019 von 3D-Druck ist reif für die Produktionspraxis. Zeitschriften als Abo oder epaper bei United Kiosk online kaufen.
3D-Druck ist reif für die Produktionspraxis
Titelbild der Ausgabe 46/2019 von Amazon schaltet letzte Oracle-Datenbank ab. Zeitschriften als Abo oder epaper bei United Kiosk online kaufen.
Amazon schaltet letzte Oracle-Datenbank ab
Titelbild der Ausgabe 46/2019 von Splunk-CEO Doug Merritt: Datensilos müssen nicht schlecht sein. Zeitschriften als Abo oder epaper bei United Kiosk online kaufen.
Splunk-CEO Doug Merritt: Datensilos müssen nicht schlecht sein
Titelbild der Ausgabe 46/2019 von Produktionsbetriebe verwenden IIoT für interne Prozessoptimierung. Zeitschriften als Abo oder epaper bei United Kiosk online kaufen.
Produktionsbetriebe verwenden IIoT für interne Prozessoptimierung
Titelbild der Ausgabe 46/2019 von IBM öffnet seine KI für andere Cloud-Plattformen. Zeitschriften als Abo oder epaper bei United Kiosk online kaufen.
IBM öffnet seine KI für andere Cloud-Plattformen
Vorheriger Artikel
Ex-SAP-CEO Bill McDermott wird neuer Chef von ServiceNow
aus dieser Ausgabe
Nächster Artikel 3D-Druck ist reif für die Produktionspraxis
aus dieser Ausgabe

... sie befürchten, dass eine übermäßige Regulierung den Umbau der Wirtschaft für die digitale Zukunft durch zu viel Regulierung bremsen oder sogar im Keim ersticken könnte.

Die DEK hatte vor gut einem Jahr von der Bundesregierung den Auftrag erhalten, ethische Leitlinien und rechtliche Handlungsempfehlungen zum Umgang mit Daten, Algorithmen und KI zu erarbeiten. Die Kommission besteht aus 16 Mitgliedern aus den Bereichen Technik, Ethik und Recht. Sie hat als unabhängiges und eigenverantwortliches Expertengremium gearbeitet und ihre Beratungen im September 2019 abgeschlossen. Sprecherinnen der Kommission sind die Juristin Christiane Wendehorst und die Ethikerin Christiane Woopen, zu den Mitgliedern gehören unter anderem BDI-Präsident (und ehemaliger Bitkom-Sprecher) Dieter Kempf sowie der deutsche KI-Papst Wolfgang Wahlster. Seitens der Bundesregierung sind Justiz- und Innenministerium verantwortlich.

Rückbau „zum analogen Inselstaat“

Der Digitalverband Bitkom warnt nun vor überzogener Regulierungswut. „Wir begrüßen sehr, dass wir in Deutschland einen breiten gesellschaftlichen Dialog über Datenethik führen. Unser Wertekodex gilt auch in der digitalen Welt und wir müssen ihn dort konsequent zur Geltung bringen“, sagte Bitkom-Präsident Achim Berg. Ziel könne es aber nicht sein, „den Weg in die digitale Welt zu verstellen und Deutschland zu einem analogen Inselstaat zurückzubauen“.

Deutschland müsse weg von einer theoretischen Diskussion, die sich ausschließlich mit Risiken und Gefahren beschäftige. Jetzt sei die Zeit gekommen, die Chancen neuer Technologien für die Lösung der großen aktuellen Herausforderungen unserer Gesellschaft zu nutzen. Ein Ärgernis sind für den Bitkom etwa die Offenlegungs- und Transparenzpflichten.

„Man sollte deutsche Unternehmen nicht zwingen, die von ihnen erhobenen Daten letztlich auch der Konkurrenz zur Verfügung zu stellen. Unsere internationalen Wettbewerber klopfen sich auf die Schenkel, wenn wir ihnen unsere Datenschätze auf dem Silbertablett überreichen. Datenzugangsregeln können und dürfen nur sehr punktuell greifen“, so Berg. „Es geht beim Datenzugang auch um wichtige Fragen von Innovationskraft, Datenschutz sowie Vertragsfreiheit und Marktentwicklungschancen.“ Nach Ansicht des Bitkom reichen die geltenden Gesetze und Vorschriften aus. Datenzugang müsse grundsätzlich auf dem Prinzip der Vertragsfreiheit und damit der Freiwilligkeit beruhen.

►Mehr zu den Themen Ethik und Digitalisierung lesen Sie auf der Website der COMPUTERWOCHE:

Künstliche Intelligenz – auch eine Frage der Ethikwww.cowo.de/3546097

Branche will Leitlinien für digitale Ethik – aber bitte ohne Regulierungwww.cowo.de/3546492

KI in der digitalen Medizin braucht natürliche Verantwortungwww.cowo.de/3545017

Algorithmen unter Generalverdacht

Auch bei den Vorschlägen zur Algorithmenregulierung sei die Kommission zu weit gegangen. Anstatt bestimmte Algorithmen zu identifizieren, die wegen ihres Gefährdungspotenzials besonders reguliert werden müssten, würden in dem Abschlussbericht fast alle Algorithmen unter einen Generalverdacht gestellt. „Algorithmen sind bereits heute Teil unseres täglichen Lebens“, sagte Berg. „Die allerwenigsten bergen das Risiko von Diskriminierung oder Gefahr für Leib und Leben.“ Sie seien die Grundlage jeglicher Digitalisierung.

Eine Risikobewertung für jeden einzelnen Algorithmus sei angesichts der Fülle von Anwendungen nicht praktikabel. Um Missbrauch oder Fehlverhalten auszuschließen, könnten geltendes Vertrags-und Verbraucherrecht, Antidiskriminierungsgesetze, das Haftungsrecht oder Datenschutzgesetze herangezogen werden. „Wir brauchen mehr Verständnis von Algorithmen, nicht mehr Verbote“, mahnte Berg.

Auch der Internet-Verband eco kann dem Vorstoß der DEK nicht viel abgewinnen. „Mit einigen Forderungen ist die Kommission deutlich übers Ziel hinausgeschossen“, sagte eco-Vorstand Oliver Süme. „Regulierungsphantasien wie eine allgemeine europäische Algorithmen-Verordnung (EUVAS) könnten zur echten Digitalisierungsbremse werden, denn Algorithmen sind die Basis digitaler Transformation.“

Der eco warnt vor Unmengen neuer Gesetze und Regeln. Er schlägt vor, einen „diskursiven Ansatz“ zu verfolgen. Eine „blinde Überregulierung“ würde nach Einschätzung des Verbandes die Entwicklung und den Einsatz von KI als Schlüsseltechnologie der deutschen Wirtschaft massiv beeinträchtigen und die Digitalisierung weiter verzögern. Zahlreiche Unternehmen übernähmen bereits Verantwortung für ethische Herausforderungen im Zusammenhang mit der digitalen Transformation und trügen im Rahmen von Selbstverpflichtungsinitiativen erfolgreich zur Einhaltung ethischer Normen bei.

Eine schallende Ohrfeige erhalten die deutschen Regulierer vom unabhängigen Non-Profit-Forschungsinstitut und Think Tank Center for Data Innovation mit Sitz in Brüssel und Washington. Eline Chivot, Senior Policy Analyst, schreibt in einem Kommentar, die Kommission sende ein besorgniserregendes Signal an Unternehmen, die sich derzeit „auf eigene Gefahr“ mit KI beschäftigten. Die Firmen seien bereits Opfer der strengen und in der Praxis kaum vollständig umsetzbaren Europäischen Datenschutz-Grundverordnung (DSGVO). Jetzt für die gesamte Wirtschaft KI-Regeln aufzustellen, nicht für einzelne Branchen, zeige, dass die Politiker KI als Bedrohung sähen, nicht als Chance.

Blaupause für das digitale Scheitern

Eine von der EU-Kommission eingesetzte hochrangige Expertengruppe für KI habe ausdrücklich davor gewarnt, nicht mit kontraproduktiven und unnötigen KI-Vorschriften den Fortschritt zu hemmen. Trotzdem scheine Deutschland gewillt zu sein, Unternehmen mit immer mehr Anforderungen an die Nutzung von KI Steine in den Weg zu legen, schreibt die Analystin. Wenn Europa in der digitalen Wirtschaft wettbewerbsfähiger werden wolle, dürfe man nicht Innovation durch Regulierung ersetzen.

Europas Politiker sollten sich demnach lieber auf die Entwicklung einer KI-Strategie konzentrieren, die in Menschen, Daten und digitale Infrastrukturen investiert. Wichtig sei eine innovationsfreundliche Regulierung, damit europäische Unternehmen auf Dauer mit amerikanischen und chinesischen Konkurrenten mithalten könnten.

Sollten die deutschen Richtlinien der Maßstab für künftiges EU-Recht werden, so Chivot abschließend, würden die EU-Standards eine Blaupause dafür, wie man in der digitalen Ökonomie scheitern kann. Versuche Deutschland einen Alleingang zu machen und die Empfehlungen der Kommission für sich umzusetzen, werde das sämtliche Ziele im Zusammenhang mit Industrie 4.0 und einem digitalen europäischen Binnenmarkt zunichtemachen.

Abfragen in natürlicher Sprache – Google verbessert seine Suchmaschine mit BERT

Die Neugier der Menschen ist endlos, sagt Pandu Nayak, Vice President Search bei Google. Für den Suchmaschinenanbieter geht es deshalb vor allem darum, die Suche nach Informationen so komfortabel wie möglich zu gestalten. Ein neuer Algorithmus, der natürliche Sprache besser versteht, soll dabei helfen.


Pandu Nayak, Vice President für den Bereich Search bei Google, ist sich sicher: „Wenn es eine Sache gibt, die ich in den 15 Jahren Arbeit an der Google-Suche gelernt habe, ist es, dass die Neugier der Menschen endlos ist.“ Tag für Tag würden Milliarden Suchanfragen verarbeitet. „Aber 15 Prozent dieser Anfragen haben wir nie zuvor gesehen.“ Die Herausforderung bestehe darin, Ergebnisse für unerwartete Anfragen zu liefern.

Dabei ist Google laut Nayak einen großen Schritt weitergekommen. Mit Hilfe von Machine Learning (ML) soll die Suchmaschine künftig in natürlicher Sprache formulierte Abfragen beantworten können. Dafür hat der Anbieter die Technik Bidirectional Encoder Representations from Transformers (BERT) entwickelt. Das System hatte Google bereits im vergangenen Jahr als Open-Source-Projekt veröffentlicht. Jetzt ist BERT offensichtlich soweit, in Googles Suchmaschinentechnik integriert zu werden. Das soll zunächst im englischen Sprachraum geschehen. Wann BERT auch den deutschen Nutzern zur Verfügung steht, ist noch nicht bekannt. Nayak zufolge kann das System die Beziehungen zwischen Wörtern wesentlich besser verstehen und einordnen. Das funktioniert, indem der Algorithmus Präpositionen in den Suchabfragen bearbeiten kann. Langfristig will Google erreichen, dass Nutzer nicht mehr nur Schlagworte in die Suchmaske eingeben, sondern normal formulierte Fragen. Mit Hilfe des neuen Algorithmus sollen die Ergebnisse exakter zu den Abfragen passen.

Allerdings sieht sich Google noch lange nicht am Ziel. Spracherkennung bleibe eine Herausforderung, sagte Nayak. Die neu entwickelten ML-Modelle seien teilweise so komplex, dass der Anbieter auch mit seiner Hardware an Grenzen gestoßen sei. Erst mit den neuesten Tensor Processing Units (TPUs) sei die notwendige Rechenleistung erreicht worden.

Pentagon vergibt Milliardenprojekt JEDI an Microsoft und brüskiert damit Trump-Kritiker Jeff Bezos von Amazon

Amazon-Gründer und -CEO Jeff Bezos hat bei der Vergabe des JEDI-Projekts gegenüber Microsoft den Kürzeren gezogen. Insidern zufolge hatte dabei sein Intimfeind, der US-Präsident Donald Trump, die Finger im Spiel. Man geht davon aus, dass nun ein gerichtliches Nachspiel folgt.


Das US-amerikanische Verteidigungsministerium hat Microsoft damit beauftragt, die Joint Enterprise Defense Infrastructure (JEDI) aufzubauen. Die Vergabe des rund zehn Milliarden Dollar schweren Projekts an den Softwarehersteller kam überraschend. Im Vorfeld war Amazon Web Services (AWS) als Favorit für den Aufbau einer Cloud-Infrastruktur für das US-Militär gehandelt worden. Die Amazon-Tochter verfügt über die notwendigen höchsten Sicherheitszertifizierungen und arbeitet seit Jahren mit dem US-Geheimdienst CIA zusammen.

Die Frage ist nun, ob US-Präsident Donald Trump mit dieser Entscheidung Amazon-Chef Jeff Bezos bestrafen will, dem die Trump-kritische Zeitung „Washington Post“ gehört. Amazon-Sprecher Drew Herdener sagte, AWS sei der klare Marktführer im Cloud Computing. „Eine detaillierte Bewertung der Vergleichsangebote müsste eindeutig zu einem anderen Schluss führen.“ Das Pentagon wies alle Verdächtigungen zurück. Der Prozess sei den geltenden Gesetzen und Regeln gemäß abgelaufen. Alle Parteien seien gleich und fair behandelt worden.

Das sehen aber nicht alle Rechtsexperten so. Trump und Bezos gelten als Intimfeinde. Der Washington Post hatte der US-Präsident wiederholt vorgeworfen, „Fake News“ zu verbreiten.

Insiderberichten zufolge ist US-Verteidigungsminister Mark Esper im Sommer von höchster Stelle im Weißen Haus angewiesen worden, die Vergabe des JEDI-Deals noch einmal „genau zu prüfen“. Im Vorfeld hatte bereits Oracle, das wie IBM schon früher im Rennen um den Auftrag ausgeschieden war, massiv Lobbyarbeit gegen Amazon betrieben. Von einer Verschwörung des Online-Händlers mit dem Ex-Verteidigungsminister James Mattis und Mitarbeitern der Obama-Regierung war die Rede. Oracle hatte erfolglos versucht, sich wieder in das JEDI-Rennen einzuklagen. Experten gehen nun davon aus, dass Amazon vor Gericht ziehen und eine Untersuchung erzwingen wird.

Deutsche Telekom baut Campus-Netze und eine Edge-Compute-Plattform

Die Deutsche Telekom hat zwei neue Campus-Netz-Angebote für Unternehmen angekündigt. Ab dem kommenden Jahr soll es zwei Produktvarianten für Großunternehmen und Mittelständler geben. Die Kunden könnten zwischen den Varianten Campus M und Campus L wählen.

Beim speziell für den Mittelstand konzipierten Produkt Campus M wird das Firmengelände über das öffentliche Netz versorgt. Dafür sei eine perfekte Mobilfunkabdeckung bis in jeden Winkel entscheidend, sagen die Telekom-Verantwortlichen. Bei Bedarf soll das mit Extraantennen auf dem Gelände und in den Gebäuden funktionieren. Die Daten gingen logisch getrennt vom öffentlichen Netz an die verarbeitenden Rechner, hieß es. Ähnlich wie im Festnetz nutzt das Unternehmen dann ein virtuelles privates Netzwerk (VPN). Über Quality-of-Service-Komponenten soll sich Campus M zudem an unterschiedliche Kundenbedarfe anpassen lassen.

Campus L für Großkunden bietet ein eigenes, privates Mobilfunknetz mit zugesicherten Netzressourcen auf dem Firmengelände. Neben dem Aufbau der Mobilfunk-Antennen-Infrastruktur gehört auch ein eigener Server für das Firmengelände zum Paket, der das Backend für die private Netzinfrastruktur bildet. So verlassen die Daten den Campus nicht, verspricht der Anbieter. „Die Campus-Lösungen gehen auf die jeweiligen Bedarfe der Unternehmen ein“, sagte Hagen Rickmann, Geschäftsführer Geschäftskunden der Telekom. Für unternehmenskritische Anwendungen, die Reaktionen in Echtzeit erfordern, will die Telekom eine Edge-Compute-Plattform anbieten. Diese soll die Reaktionszeiten im privaten Netz verkürzen. Als potenzielle Einsatzgebiete nennt der Anbieter zeitkritische Produktions- und Logistikprozesse, autonome Transportsysteme, mobile Roboter und KI-gestützte Wartung. Mit Hilfe von Edge Computing ließen sich große Datenmengen nahe am Ursprungsort in kurzer Zeit verarbeiten, lautet das Versprechen. Die Verantwortlichen sprechen von Reaktionszeiten von unter zehn Millisekunden – auch im 4G-Netz. „Mit der, Edge in the box‘ bieten wir die perfekte Erweiterung zu den Campus-Netzen“, betonte Telekom-Vorstand und T-Systems-Chef Adel Al-Saleh. Ultrakurze Latenzzeiten ermöglichten der Industrie ganz neue Anwendungen und Automatisierung. 2020 soll der kommerzielle Einsatz der Edge-Compute-Plattform beginnen.

Darüber hinaus will die Telekom vier Edge-Cloud-Rechenzentren für das Mobilfunknetz aufbauen und sowohl für Campus L als auch für Campus M zusätzlich anbieten.Bei Campus L ist die Edge Cloud das Backup für die lokale Edge-Plattform. Das soll den Betrieb der Edge-Anwendungen selbst bei einem lokalen Ausfall sichern. Mit den neuen Rechenzentren könnten darüber hinaus auch Campus-M-Kunden latenzkritische Anwendungen betreiben, hieß es. Sie benötigen damit kein spezielles Rechenzentrum auf dem eigenen Werksgelände.

Das Gutachen der DEK

Die Handlungsempfehlungen der DEK enthalten unter anderem folgende Vorschläge (im Wortlaut):
→ ein risikoadaptiertes Regulierungssystem für den Einsatz von algorithmischen Systemen mit einer nach Schädigungspotenzial abgestuften Regulierung,
→ den Aufbau beziehungsweise die Stärkung sektorenspezifischer Aufsichtsinstitutionen zur risikoadäquaten Kontrolle von algorithmischen Systemen,
→ die Schaffung eines bundesweiten „Kompetenzzentrums Algorithmische Systeme“,
→ abhängig vom „Schädigungspotenzial algorithmischer Systeme“ eine gesetzliche Verankerung von Regelungsinstrumenten wie „Ex-ante-Zulassungsverfahren oder Vorabprüfungen durch Aufsichtsinstitutionen“, Transparenzpflichten (Kennzeichnungspflichten, Informationspflichten, Offenlegungspflichten gegenüber Aufsichtsbehörden) und die Pflicht zur Protokollierung verwendeter Datensätze und von Software-Programmabläufen sowie zu Risikofolgenabschätzungen,
→ die Etablierung einer EU-Verordnung mit Grundanforderungen an die Zulässigkeit von algorithmischen Systemen und
→ spezifische rechtliche Vorgaben für persönlichkeitssensible Profilbildungen von Qualitätsanforderungen bis hin zu absoluten Grenzen.


Foto: Olivier Le Moal/Shutterstock

Fotos: Google; lev radin/Shutterstock