Skip to main content
Log in

Auf dem Weg zu einer ethisch verantwortungsvollen Datennutzung

  • HAUPTBEITRAG
  • Published:
Informatik Spektrum Aims and scope

Zusammenfassung

Digitalisierung, Automatisierung und künstliche Intelligenz (KI) beeinflussen zunehmend unser Leben und unsere Arbeit; sie können für beide Bereiche Verbesserungen und Erleichterungen bringen. Doch viele Arbeitsplätze, wie wir sie heute kennen, werden sich grundlegend verändern. Neue Aufgaben werden neue Fähigkeiten erfordern.

Wird KI nicht genutzt, gehen viele Chancen verloren. Doch der Einsatz von KI und insbesondere die damit verbundene Verwendung personenbezogener Daten birgt auch große Risiken und wirft vielfältige ethische Fragen auf. Diese werden international bereits intensiv diskutiert: in Internet- und Technologiekonzernen ebenso wie in akademischen Gruppen und supranationalen Organisationen.

In diesem Artikel betrachte ich speziell die Auswirkungen von KI und Automatisierung auf unsere Gesellschaft und wie wir darauf reagieren sollten – insbesondere aus ethischer Sicht. Hierzu analysiere ich das Dilemma zwischen individueller Freiheit, Datenschutz und Nutzen sowie Vorschläge zu ethischen Leitlinien und die damit verbundenen Schwierigkeiten.

Auch im öffentlichen Sektor stellt sich weniger die Frage, ob KI eingesetzt werden soll, sondern wo und wie. Abschließend zeige ich deshalb auf, wie eine Behörde des öffentlichen Sektors die ethischen Herausforderungen der KI bewältigen kann. So sollte jede Organisation über maßgeschneiderte KI-Ethikleitlinien verfügen, um einen verantwortungsvollen Umgang mit KI zu gewährleisten. Ein unabhängiger KI-Ethikbeirat könnte die Einhaltung dieser Leitlinien überwachen und die Organisation bei der Behandlung des Themas begleiten.

This is a preview of subscription content, log in via an institution to check access.

Access this article

Price excludes VAT (USA)
Tax calculation will be finalised during checkout.

Instant access to the full article PDF.

Abb. 1
Abb. 2
Abb. 3
Abb. 4
Abb. 5

Notes

  1. Im Sinne einer besseren Lesbarkeit beschränkt sich das Dokument bei der Nennung von Personen, Berufen, Positionen und Titeln auf die männliche Form, ohne damit die weibliche ausschließen zu wollen.

Literatur

  1. Zika G et al (2018) Digitalisierung bringt große Umwälzungen am Arbeitsmarkt, IAB. https://www.iab.de/751/section.aspx/1549. Zugegriffen: 14. Mai 2020

  2. Frey C, Osborne M (2013) The future of employment: How susceptible are jobs to computerisation? Oxford Martin School. https://www.oxfordmartin.ox.ac.uk/downloads/academic/The_Future_of_Employment.pdf. Zugegriffen: 14. Mai 2020

  3. Samans R et al (2016) The future of jobs, World Economic Forum. https://www.weforum.org/reports/the-future-of-jobs. Zugegriffen: 14. Mai 2020

  4. Shoham Y et al (2018) The AI Index 2018 Annual Report, AI Index Steering Committee, Human-Centered AI Initiative. Stanford University, Stanford, CA

    Google Scholar 

  5. Wong J (2019) Google reportedly targeted people with ‘dark skin’ to improve facial recognition, The Guardian. https://www.theguardian.com/technology/2019/oct/03/google-data-harvesting-facial-recognition-people-of-color. Zugegriffen: 14. Mai 2020

  6. Porter J (2019) Federal study of top facial recognition algorithms finds ‘empirical evidence’ of bias, The Verge. https://www.theverge.com/2019/12/20/21031255/facial-recognition-algorithm-bias-gender-race-age-federal-nest-investigation-analysis-amazon. Zugegriffen: 14. Mai 2020

  7. Unabhängige Hochrangige Expertengruppe für Künstliche Intelligenz (2019) Ethik-Leitlinien für eine vertrauenswürdige KI. https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines. Zugegriffen: 14. Mai 2020

  8. OECD (2019) OECD principles on artificial intelligence, OECD. https://www.oecd.org/science/forty-two-countries-adopt-new-oecd-principles-on-artificial-intelligence.htm. Zugegriffen: 14. Mai 2020

  9. Metzinger T (2019) Ethics washing made in Europe, Der Tagesspiegel. https://www.tagesspiegel.de/politik/eu-guidelines-ethics-washing-made-in-europe/24195496.html. Zugegriffen: 14. Mai 2020

  10. Google Artificial intelligence at Google: our principles, Google. https://ai.google/principles/. Zugegriffen: 14. Mai 2020

  11. IBM IBM trusted AI for business. https://www.ibm.com/watson/ai-ethics/. Zugegriffen: 14. Mai 2020

  12. Microsoft Corporation Microsoft AI Principles. https://www.microsoft.com/en-us/ai/our-approach-to-ai. Zugegriffen: 14. Mai 2020

  13. AlgorithmWatch AI ethics guidelines global inventory. https://algorithmwatch.org/en/project/ai-ethics-guidelines-global-inventory/. Zugegriffen: 14. Mai 2020

  14. future of life Institute Asilomar AI principles. https://futureoflife.org/ai-principles/. Zugegriffen: 14. Mai 2020

  15. Floridi L, Cowls J, Beltrametti M et al (2018) AI4People—an ethical framework for a good AI society: opportunities, risks, principles, and recommendations, minds & machines. https://link.springer.com/article/10.1007/s11023-018-9482-5. Zugegriffen: 14. Mai 2020

  16. Candela J (2019) Facebook and the Technical University of Munich announce new independent TUM institute for ethics in artificial intelligence, Facebook. https://newsroom.fb.com/news/2019/01/tum-institute-for-ethics-in-ai/. Zugegriffen: 14. Mai 2020

  17. Walker K (2019) An external advisory council to help advance the responsible development of AI, Google. https://www.blog.google/technology/ai/external-advisory-council-help-advance-responsible-development-ai/. Zugegriffen: 14. Mai 2020

  18. Open Data Institute (2019) Data ethics canvas, the ODI. https://theodi.org/article/data-ethics-canvas/#1557853049317-baab6160-135f. Zugegriffen: 14. Mai 2020

  19. Die Bundesregierung (2018) Strategie Künstliche Intelligenz der Bundesregierung. https://www.bmwi.de/Redaktion/DE/Publikationen/Technologie/strategie-kuenstliche-intelligenz-der-bundesregierung.pdf. Zugegriffen: 14. Mai 2020

  20. Wendehorst C, Woopen C et al (2019) Gutachten der Datenethikkommission. https://www.bmjv.de/DE/Themen/FokusThemen/Datenethikkommission/Datenethikkommission_node.html. Zugegriffen: 14. Mai 2020

  21. Ethics for Big Data and Analytics – Mandy Chessell, 2014

Download references

Author information

Authors and Affiliations

Authors

Corresponding author

Correspondence to Markus Schmitz.

Rights and permissions

Reprints and permissions

About this article

Check for updates. Verify currency and authenticity via CrossMark

Cite this article

Schmitz, M. Auf dem Weg zu einer ethisch verantwortungsvollen Datennutzung. Informatik Spektrum 43, 366–373 (2020). https://doi.org/10.1007/s00287-020-01298-9

Download citation

  • Published:

  • Issue Date:

  • DOI: https://doi.org/10.1007/s00287-020-01298-9

Navigation