Skip to main content
SpringerLink
Log in

Technische und rechtliche Betrachtungen zur Autonomie kooperativ-intelligenter Softwareagenten

  • Technical Contribution
  • Published:
KI - Künstliche Intelligenz Aims and scope Submit manuscript

Zusammenfassung

Die Automatisierung technischer Systeme basiert auf präzisen Definitionen für deren Verhalten und der ebenso präzisen Umsetzung in zuverlässige und robuste Lösungen. Zukünftige Automatisierungsansätze, wie bspw. das autonome Fahren [vgl. Bundesanstalt für Straßenbau (2012)], werden jedoch viel umfassender als bisher auf Sensordaten, Kontextwissen, Adaptions- und Interaktionsfähigkeit technischer Systeme angewiesen sein. So befahren “teilautomatisierte” Fahrzeuge im Probebetrieb schon heute ohne Fahrereingriffe das öffentliche Straßennetz. KI-basierte Lösungsansätze spielen dabei eine zunehmend wichtigere Rolle (vgl. u.a. die Ansätze und Ergebnisse der Forschungsprogramme Autonomik und Industrie 4.0), insbesondere eröffnen sie die Möglichkeit, einen technisch geprägten Autonomie-Begriff zu entwickeln, der über das Konzept der Automatisierung hinausreicht. Dies ist allerdings mit zwei Problemen verbunden: Einerseits garantieren nicht alle KI-Methoden Determinismus und Determiniertheit, andererseits kann es bei Interaktion autonomer Systeme (im Folgenden als Agenten bezeichnet) mit ihrer Umwelt selbst dann zu unerwünschten Situationen kommen, wenn diese technisch einwandfrei funktionieren – es sei denn, es gelänge dem Entwickler, alle möglichen Zustände und Verhaltensweisen der Umwelt in vollem Umfang zu antizipieren und im Gesamtsystemmodell abzubilden. Dies wirft rechtliche Fragen auf. Tritt der Mensch damit zunehmend seine Verantwortung für notwendige Entscheidungen in seinem gesellschaftlichen Umfeld an Softwareagenten ab? Kann der Agent für sein Handeln verantwortlich gemacht werden, wird er für die Folgen seines Verhaltens haften? Aber auch, wenn mehrere Agenten bspw. gemeinsam ein Musikstück komponieren: wem gehören die Rechte, müssen für dessen Abspielen ebenfalls GEMA-Gebühren bezahlt werden – und wer bekommt die Einnahmen? Und wer haftet, wenn ein autonomes Fahrzeug (ohne Fahrer) Unfälle verursacht?

This is a preview of subscription content, log in via an institution to check access.

Access this article

Log in via an institution

Price excludes VAT (USA)
Tax calculation will be finalised during checkout.

Instant access to the full article PDF.

Institutional subscriptions

Abbildung 1
Abbildung 2

Notes

  1. [32], 159, 245.

  2. http://www.autonomik40.de

  3. Maschinelles Lernen ist ein wichtiges Teilgebiet der Künstlichen Intelligenz, siehe bspw. Russel, Norvig (2009).

  4. Bond, Gasser (1988), Ch. 1.

  5. [5], 157-189.

  6. [20].

  7. vgl. www.autonomik.de

  8. Sester, Nitschke (2004).

  9. Steiner, Mahling, Haugender (1990).

  10. http://www.autobaulog.de.

  11. http://www.smartsite-project.de.

  12. §1 Abs. 2 StVO: Jeder Verkehrsteilnehmer hat sich so zu verhalten, dass kein anderer geschädigt, gefährdet oder mehr, als nach den Umständen unvermeidbar, behindert oder belästigt wird.

  13. vgl. hierzu bspw. das Projekt „Autonomes Fahren“ an der Universität Ulm (https://www.uni-ulm.de/in/automatisiertes-fahren).

  14. Sehr anschaulich beschrieben wird die ethische Problematik dieser technisch zu realisierenden Art von Entscheidungen in [24]: Zu kurz gesprungen – Was tun selbst fahrende Autos, wenn sie beim Ausweichen wählen müssen: Hinein ins Motorrad oder in die Fußgängergruppe?

  15. Conte, Castelfranchi (1995), 4 ff.

  16. Zu nennen sind unter vor allem synergetische Effekte, Konflikte und Rückkopplungen. v. Martial (1992).

  17. Beispiel angelehnt an einen realen Fall im Januar 2014 im norwegischen Lærdalsøyri, siehe http://www.drohnen.de/1132/norwegen-drohnen-behindern-rettungseinsatz-der-feuerwehr/.

  18. [9].

  19. [30].

  20. [12].

  21. vgl. Durfee, Rosenschein (1994, S. 54).

  22. [5].

  23. Sen, Weiss (1999); Kirn, Klöfer (1995).

  24. Kirn (ebd.).

  25. so z.B. realisiert im EU FP6-Projekt BREIN für ein Flughafenszenario.

  26. [7], 353, 355 mit weiteren Literaturhinweisen, [35], Ziff. 3.3.1, 34, Ziff. 9.2.2, 117 f., Sester, Nitschke (2004), 548 f.

  27. Brox, Walker, Allgemeiner Teil des BGB, 34. Auflage 2010, § 33, Rdnr. 702, Erman/Saenger (2011) Vorbemerkung § 1 Rdnr. 1., Hömig/Antoni (2013), Art 2, Rdnr. 2, Erman/Müller BGB (2011), Vor § 104 Rdnr.-2-.3.

  28. [7], 353, 354; Sester, Nitschke (2004) 548,549.

  29. Erman/Müller (2011), Vor § 104 Rdnr.1, Brox, Walker (2010), § 12 Rdnr. 259.

  30. [7], 353, 355 mit weiteren Literaturhinweisen, Sorge (2006), Ziff. 3.3.1, 34, Ziff. 9.2.2, 117 f., Sester, Nitschke (2004), 548 f. .

  31. Sester, Nitschke (2004), 548, [35], Kapt. 3.3.2, 34 ff., [29], Kapt. D, Rdnr. 858 f., [26], Rdnr. 828 f., LG Köln Urt. v. 6.04.2002, CR 2003, 613, 615, siehe auch BGH Urt. v. 26.1.2005, CR 2005, 355 f., so auch OLG Frankfurt Urt. v. 29.1.2002 CR 2003, 450 f., [16], Kapt. 4, Rdnr. 22 f., Palandt/Ellenberger, BGB((2014), § 147 Rdnr. 5.

  32. [7], 153 f., Sester, Nitschke (2004), 548.

  33. OLG Hamm Urt. v. 12.1.2004, NJW 2004, 2601. LG Köln Urt. v. 16.04.2002 CR 2003, 613, 615, siehe auch BGH Urt. v. 26.1.2005, CR 2005, 355 f., so auch OLG Frankfurt Urt. v. 9.1.2002, CR 2003, 450 f.

  34. Siehe hierzu BGH Urt,.8.5..2014 MDR 2014,891,892 Rdnr.23,24.

  35. [29] Kapt. D II.2, Rdnr. 858, [23], 3592 f., Palandt/Grüneberg(2014), § 278, Rdnr. 11, Erman/Westermann (2011) 278, Rdnr. 25. .

  36. Siehe hierzu OLG Köln Urt. 21.2.1992 NJW 1992, 1772.

  37. BGH Urt. v. 16.10.2012, NJW 2013, 598 f., siehe auch BGH Urt. 7.11.2001, CR 2002, 213, 215., [18], 298 f., Ablehnend: OLG Hamm Urt. v. 16.11.2006, NJW 2007, 611 und BGH Urt. v. 11.5 2011, MDR 2011, 774. Siehe hierzu BGH Urt. v. 7.11.2001, NJW 2002, 363, 365 (Internet-Auktion), nach dem es nicht auf das Erklärungsbewusstsein ankommt, sondern auf den Vertrauenstatbestand, der bei Anwendung der erforderlichen Sorgfalt hätte vermieden werden können.

  38. Palandt/Grüneberg (2014) §276, Rdnr. 20 und 21, Erman/Westermann (2011),, § 276, Rdnr. 13 und § 275, Rdnr. 1,5, BGH Urt. v. 31.10.2006, NJW 2007, 762 f. und BGH Urt. v. 13.1.2011, NJW 2011, 756 f Rdnr.10, und BGH 8.5.2014 NJW 2014,891,Rdnr.23,24.., Ähnlich Heussen CR 2004, 1 ff., OLG Düsseldorf Urt. v. 18.10.1990, CR 1992, 724 f., siehe hierzu [40], 2385 f.

  39. Siehe hierzu Wietfeld, Rolle von Verkehrssicherungspflichten bei der Abgrenzung von Dienst-und Werkverträgen, NJW 2014,1206,1210.

  40. BGH Urt. v. 14.5.2013, MMR 2013, 535 (Autocomplete-Entscheidung).

  41. Siehe hierzu auch BVerfG Beschl. v. 25.1.2012, NJW 2012, 1500 f., BGH Urt. v. 17.12.2013 NJW 2014, 2019, 2032.

  42. EuGH Urt. v. 13.05.2014, MMR 2014, 445,Rdnr.74, siehe auch Arning, Moss, Schefzig (2014), 457, 453. Anders das EuGH Urt. v. 24.11.2011, CR 2012, 33, 36 (Rdnr.49).

  43. BVerfG Beschl. v. 25.1.2012, NJW 2012, 1500 (Rdnr.33).

  44. BGH Urt. v. 14.5.2013 MMR 2013, 535 (Autocomplete-Entscheidung).

  45. AG Frankfurt Urt. v. 25.9.2009, ITRB 2011, 108, BGH Urt. v. 12.7.2012, CR 2013, 150, BGH Urt. v. 15.8.2013, MDR 2013, 1286, BGH Urt. v. 23.3.2012, CR 2013, 464, siehe [29], Kapt. D, IV, 2b, Rdnr. 1279, 1285, 1287, 1288, 1289, 1294, 1298, [18], 426 ff.,.

  46. EuGH Urt. v. 17.7.2011, MMR 2011, 596, siehe hierzu die Anmerkung von Rössel in CR 2011, 589 sowie BGH Urt. v. 12.11.2009, MMR 2010, 556.

    BGH Urt. v. 29.4.2010, MMR 2010, 475, BGH Urt. v. 19.10.2011, NJW 2012, 1886, [18] S. 415, 424.

  47. BGH Urt. v. 22.7.2010, MMR, 2011, 172, siehe hierzu [15], Rdnr. 2146, 2153, so Hoeren (2912) S., 433.

  48. OLG Hamburg Urt. v. 20.02.2007, MMR 2007, 315, OLG München Urt. v. 29.9.2011, CR 2011, 126, OLG Hamburg Beschl. v. 2.9.2004, NJW 2005, 442, OLG Hamburg Urt. v. 13.11.2009, MMR 2010, OLG Stuttgart Urt. v. 26.11.2008, MMR 2009, 196, 141, [15] Rdnr. 2209.

  49. BGH Urt. v. 14.5.2013, MMR 2013,535; EuGH Urt. v. 12.7.2011, CR 2011, 597, 604, BGH Urt. v. 12.11.2009, MMR 2010, 556. (Marions Kochbuch), siehe hierzu auch AG Frankfurt Urt. v. 25.9.2009, ITBR 2011, 108.

  50. [41], 22 ff.

  51. Krcmar(2010),Kapt 3.2 Seiten 95,96.

  52. EuGH Urt. v. 13.05.2014 MMR 2104, 445 (Rdnr. 40).

  53. EuGH Urt. v. 13.05.2014, MMR 2104, 445 (Rdnr. 83), siehe auch Arning, Moos, Schefzig (2014), 447, 451.

  54. [13] § 3 Rdnr.48. siehe auch Arning, Moos, Schefzig (2014), 447, 451.

  55. Siehe hierzu Domschke und Scholl (2006), 2, 5.

  56. BGH Urt. v. 12.5.2010, NJW 2010, 2061 Rdnr. 19 und BGH Urt. v.8.1.2014, CR 2014, 473 Rdnr. 17 siehe auch Borges, NJW 2014, 2305, 2308.

  57. BVerfG. Urt. 27.2.2008 NJW 2008,822 Rdnr.169,179.

  58. OLG Hamm Urt. v. 12.1.2004, NJW 2004, 2601.

  59. Siehe auch BGH Urt. v. 11.3.2009, MMR 2009, 341 (ebay Mitgliedskonto), a. A. OLG Frankfurt Urt. v. 20.12.2007, CR 2008, 243 (Überwachungspflicht der Eltern) und BGH Urt. v. 11.5.2011, MMR 2011, 447 und BGH Urt. v. 12.7.2012, NJW 2013, 7847 (Alone in the Dark).

    Siehe [18], Kapitel VII, II, Nr. 5, 435 f. mit weiteren Hinweisen auf die einschlägige Rechtsprechung, Redeker, Rdnr. 1319 ff.

  60. [14].

  61. BGH Urt. v. 12.05.2010, MMR 2010, 565., OLG Frankfurt Beschl. v. 20.12.2007, CR 2008, 243, 294., EuGH Urt. v. 12.7.2011, MMR 2011, 596, BGH Urt. v. 29.4.2010, MMR 2010, 475, BGH Urt. v. 19.10.2011, NJW 2012, 1886, [15], Rdnr. 2137, [18], 415, 424, siehe Beispiele bei [29], Rdnr. 1298 ff., 1327, LG Frankfurt Urt. v. 18.08.2010, ITBR 2011, 108. .

  62. BGH Urt. v. 23.9. 2003, NJW 2003, 3764 f., EuGH Urt. v. 12.7.2011, CR 2011, 598, 605, [29], Rdnr. 1298.

  63. [25], Rdnr. 1168 f., Erman, Schieman (2011), § 823 Rdnr. 152 f., Palandt/Sprau, (2014), § 823 Rdnr. 80 f.

  64. BGH Urt.16.6.2009 NJW 2009,2952 Rdnr.16. hierzu BGH Urt,.8.5..2014 MDR 2014,891,892 Rdnr.23,24.

  65. [22] § 2 Rdnr. 19; Müller-Hengstenberg, Kirn (2007), 2370, 2373.

  66. Hager in Staudinger/Eckpfeiler (2011), Kapt. T Rdnr. 618, 706.

  67. MünchKomm/Wagner BGB Band 2, 4. Auflage 2004, § 4 ProdHaftG Rdnr. 9 bis 13, § 823, Rdnr. 561, 562. BeckFormB IT Recht/Rasmussen-Bonne K5 Ziffer 17 Seite 663.

  68. Hager in Staudinger, Eckpfeiler (2011), Kapt. T Rdnr. 615, [22] § 4 Rdnr. 6, 64, MünchKomm/Wagner BGB Band 2, 4. Auflage 2004, § 4 ProdHaftG Rdnr. 9 bis 13, § 823, Rdnr. 561, 562. BeckFormB IT Recht/Rasmussen-Bonne K5 Ziffer 17 Seite 663. Siehe hierzu BGH Urt. 25.2.2014 NJW (2014) 2106 Rdnr.16, Oechsler NJW 2014.2080. Taeger CR 1976, 257,263.

  69. Siehe Problemfälle bei [22], § 1, Rdnr. 85, [26], Rdnr. 1861, BGH Urt. v. 31.3.1998, NJW 1998, 1942 f., BGH Urt. v. 24.3.1992, NJW 1992, 1678.

  70. Haber in Staudinger/Eckpfeiler (2011), Kapt. T, Rdnr. 608-616, [22], § 1 Rdnr. 5, 62-69, , Meyer, Harland (2007), 689. [26], Rdnr.1861. Siehe hierzu BGH Urt.25.2.2014, NJW 2014.2106 Rdnr.16.

  71. Kullmann, §1 Rdnr. 69, BGH Urt. v. 9.5.1995, NJW 1995, 2162, 2165, BGH Urt. v. 16.6.2009, NJW 2009, 2952, 2955 Rdnr. 17;, Meier, Welau CR 1990,95, 98, Kort CR 1990,251f.

  72. Siehe FS 74.

  73. BVerfG Urt.27.2.2008 NJW 2008,822,824 Rdn.170. .

  74. Bundesminister für Wirtschaft und Technologie,“Sicherheitsempfehlungen für Cloud Computing Anbieter(Februar 2012) Seite 20.www.bmwi.de; Bundesamt für Sicherheit in der Informationstechnik, Sicherheitsempfehlungen für Cloud Computing Anbieter, Februar 2012, Seite 20 f. www.bsi.bund.de .

  75. http://www.bsi.bund.de/SharedDocs/Downloads/DE/BSI/Mindestanforderungen/Eckpunkte-papier-Sicherheitsempfehlungen-CloudComputing-Anbieter.pdf?__blob=publicationFile.

Literatur

  1. Arning M, Moos F, Schefzig J (2014) Vergiss (!) Europa! CR 2014:447–456

    Google Scholar 

  2. Bond A, Gasser L (eds) (1988) Readings in distributed artificial intelligence. Morgan Kaufman Publishers, San Mateo

    Google Scholar 

  3. Brox Walker (2010) Allgemeiner Teil des BGB Vahlen

  4. Bundesanstalt für Straßenbau (2012) Rechtsfolgen zunehmender Fahrzeugautomatisierung. Fahrzeugtechnik Heft F, vol 83, Bergisch-Gladbach

  5. Burkhard HD (1993) Theoretische Grundlagen (in) der Verteilten Künstlichen Intelligenz. In: Müller HJ (eds) Verteilte Künstliche Intelligenz und Anwendungen. BI-Verlag, S 157–189

  6. Conte R, Castelfranchi C (1995) Cognitive and social action. UCL Press, London

    Google Scholar 

  7. Cornelius K (2002) Elektronische Agenten. MMR 2002:353–358

    Google Scholar 

  8. Domschke W, Scholl A (2006) Heuristische Verfahren. Jenaer Schriften zur Wirtschaftswissenschaften 08/2006. http://www.wiwi.uni-jena.de/papers/wp-sw0806.pdf. Zugegriffen 30 Jul 2014

  9. Durfee E (1991) Posting at DAI-List Digest http://www.cs.cmu.edu/afs/cs/Web/Groups/AI/pubs/lists/dai-list/dailist/045.02aug91. Accessed 29 Jul 2014

  10. Durfee E, Rosenschein J (1994) Distributed problem solving and multi-agent systems: comparisons and examples. In: Klein M(eds) Distributed artificial intelligence—papers from the thirteenth international workshop, Lake Quinalt, Washington. Technical Report WS-94-02, AAAI Press, Menlo Park pp 52–62

  11. Ermann (2011) BGB Kommentar. 13 Auflage, Otto Schmidt Verlag

  12. Gasser L (1991) Posting at DAI-List Digest http://www.cs.cmu.edu/afs/cs/Web/Groups/AI/pubs/lists/dai-list/dailist/046.12aug91. Accessed 29 July 2014

  13. Gola/Schomerus (2010) BDSG, 10 Auflage Beck Verlag

  14. Gounalakis G (2013) Rechtliche Grenzen der Autocomplete Funktion von Google. NJW 2013:2321–2324

    Google Scholar 

  15. Härting N (2014) Internetrecht, 5th edn. Otto Schmidt, Köln

    Book  Google Scholar 

  16. Heckmann D (2007), Praxiskommentar Internetrecht. Juris GmbH

  17. Hömig D, Antoni K-H (2013) Grundgesetz für die Bundesrepublik Deutschland, 10. Nomos Verlag, Auflage

    Google Scholar 

  18. Hoeren T (2012) Internet- und Kommunikationsrecht, 2nd edn. Otto Schmidt, Köln

    Book  Google Scholar 

  19. Krcmar (2010), Informationsmanagement, 5.Auflage Springer Verlag

  20. Kirn S (1996) Gestaltung von Multiagentensystemen—ein organisationszentrierter Ansatz. Universität Münster, Habilitationsschrift

    Google Scholar 

  21. Kirn S., Klöfer A. (1995) Verbundintelligenz kooperativer Softwaresysteme: Organisationstheoretische Grundlagen, Stand der Technik und Forschungsaspekte. In: KI—Künstliche Intelligenz, Heft 2, 1995, S. 20–28

  22. Kullmann H-J (2010) Produkthaftung, 6.Auflage, Erich Schmidt Verlag

  23. Lienhard U (2003) Missbräuchliche Internet-Dialer—eine unbestellte Dienstleistung. NJW 2003:3592–3597

    Google Scholar 

  24. Lobe A (2014) Zu kurz gesprungen—was tun selbst fahrende Autos, wenn sie beim Ausweichen wählen müssen: Hinein ins Motorrad oder in die Fußgängergruppe? Die ZIEIT, S. 21. http://www.zeit.de/2014/33/autonomes-fahren-auto-strassenverkehr. 7 Aug 2014

  25. Looschelders D (2012) Schuldrecht: Besonderer Teil, 7. Auflage, Vahlen

    Google Scholar 

  26. Marly J (2014) Handbuch des Softwarerechts, 6. Auflage 2014 C.H.Beck

  27. Meyer O, Harland H (2007) Haftung für softwarebezogene Fehlfunktionen technischer Geräte am Beispiel von Fahrassistenzsystemen. CR 2007:689–695

    Google Scholar 

  28. Palandt (2014) BGB Kommentar 73, Auflage 2014, Beck Verlag

  29. Redeker H (2012) IT-Recht, 5th edn. Beck, C.H

    Google Scholar 

  30. Rosenschein, E. (1991) Posting at DAI-List Digest. http://www.cs.cmu.edu/afs/cs/Web/Groups/AI/pubs/lists/dai-list/dailist/046.12aug91. Accessed 29 Jul 2014

  31. Russel S, Norvig P (2009), Artificial Intelligence: a modern approach, 3rd ed. Prentice Hall

  32. Schirrmacher F (2013) EGO—das Spiel des Lebens. Blessing Verlag

  33. Sen S, Weiss G (1999) Learning in Multiagent Systems. In: Weiß G (ed) Multiagent systems, Chapter 6, MIT Press, pp 259–298

  34. Sester P, Nitschke T (2004) Software-Agent mit Lizenz zum…?—Vertragsschluss und Verbraucherschutz beim Einsatz von Softwareagenten. CR 2004:548–554

    Google Scholar 

  35. Sorge C (2006) Softwareagenten—Vertragsschluss, Vertragsstrafe. Universitätsverlag Karlsruhe, Reugeld 2006

    Google Scholar 

  36. Staudinger (2011) BGB Eckpfeiler des Zivilrechts 2011, de Gruyter Verlag

  37. Steiner D, Mahling D, Haugeneder H (1990) Human computer cooperative work. In: Proc. of the 10th AAAI International Workshop on Distributed Artificial Intelligence

  38. v. Martial F (1992) Coordinating plans of autonomous agents. In: Lecture notes in artificial intelligence, vol 610. Springer-Verlag, Berlin

  39. Weitnauer W (Hrsg.) (2012) Beck’sche Formularbuch, IT Recht. Beck Verlag 3, Auflage

  40. Wojcik K (2013) Zivilrechtliche Haftung von Ratingagenturen nach europäischen Recht. NJW 2013:2385–2390

    MathSciNet  Google Scholar 

  41. Zelewski S (1998) Einsatz von Expertensystemen in den Unternehmen. Expert Verlag

Download references

Author information

Authors and Affiliations

  1. University Hohenheim, Lehrstuhl Wirtschaftsinformatik 2, Stuttgart, Germany

    Stefan Kirn & Claus D. Müller-Hengstenberg

Authors
  1. Stefan Kirn
    View author publications

    You can also search for this author in PubMed Google Scholar

  2. Claus D. Müller-Hengstenberg
    View author publications

    You can also search for this author in PubMed Google Scholar

Corresponding author

Correspondence to Stefan Kirn.

Rights and permissions

Reprints and permissions

About this article

Check for updates. Verify currency and authenticity via CrossMark

Cite this article

Kirn, S., Müller-Hengstenberg, C.D. Technische und rechtliche Betrachtungen zur Autonomie kooperativ-intelligenter Softwareagenten. Künstl Intell 29, 59–74 (2015). https://doi.org/10.1007/s13218-014-0334-z

Download citation

  • Received:

  • Accepted:

  • Published:

  • Issue Date:

  • DOI: https://doi.org/10.1007/s13218-014-0334-z

Search

Navigation