Was darf KI?

Kongress: Informatik und Gesellschaft

Anwendungen der künstlichen Intelligenz werden immer relevanter und beeinflussen jeden Aspekt unseren Lebens, weswegen sich die Gesetzgeber und Ethikkommissionen mit der Frage, "Was darf künstliche Intelligenz?", beschäftigen müssen. In den folgenden Artikeln geben wir einen Überblick über diese Thematik, welche wir auf dem Kongress am Montag, den 25.01.2021, um 16 Uhr weiter ausführen werden und zu dem wir die Leser*innen herzlich einladen möchten. Wir würden uns sehr darüber freuen, wenn wir Sie im Kongress begrüßen dürfen.

Den Kongress können Sie hier erreichen und sollten Sie keine Zugangsrechte besitzen, so können Sie diese auch kurzfristig per E-Mail an Nils Pancratz anfragen.

Neben diesem Thema werden auf dem Kongress auch noch weitere Themen aus dem Bereich des Moduls, "Informatik und Gesellschaft" vorgestellt, die Sie dem Ablaufplan, den Sie hier finden, entnehmen können.

Ethische Probleme bei künstlicher Intelligenz

Timo Siems

„Die Ethik hat es mit menschlichen Handlungen zu tun."

Annemarie Pieper in Einführung in die Ethik1

Sie versucht die Frage zu beantworten welche Kriterien eine Handlung erfüllen muss, um als moralisch gesehen zu werden. Das Ziel ist eine objektive Gültigkeit von Regeln zum moralischen Handeln.

Ethik - Relevanz in Bezug auf die künstliche Intelligenz

Timo Siems

Wird sich mit dem Thema der „Künstlichen Intelligenz“ (kurz: KI) beschäftigt, so wird früher oder später festgestellt, dass es im realen Alltag verschiedene Szenarien gibt in der eine KI Steuerungs-, Führungs- und Bewertungsaufgaben übernimmt. Hinzu gesellt sich der Fakt, dass sich die KI, als auch deren Einsatzmöglichkeiten sich fortwährend weiterentwickeln. Das Thema „KI“ ist damit bereits heute allgegenwärtig und begegnet dem Menschen immer häufiger. Sei es bei der Übersetzung von Texten oder bei der Benutzung von Suchmaschinen.

Doch aber was genau hat die Ethik mit dem Thema zu tun?

Eine KI muss zwangsweise während ihrer Aufgabenerfüllung entscheiden, beurteilen und oder bewerten. Je nach ihrem Aufgabenbereich gestaltet sich der „Spielraum“ dieser Entscheidungen, Beurteilungen oder Bewertungen unterschiedlich und bringt verschiedenste Auswirkungen mit sich. So kann und muss eine (zukünftige) KI im Bereich des autonomen Fahrens beispielsweise Entscheidungen über Leben und Tod treffen oder eine KI im Bereich der Suchmaschine die Entscheidung, welche Ergebnisse angezeigt werden. Basierend hierauf können zum Beispiel Menschen(-gruppen) benachteiligt, bevorzugt aber auch gar komplett diskriminiert oder ausgrenzt werden.

Jetzt kommt der ethische Aspekt in Bezug auf die KI zum Tragen.

Aufkommende Fragestellungen wie „Hat die KI hier die passenden barriere- und diskriminierungsfreien Suchergebnisse für die eingeschränkte schwarze Person angezeigt?“ und „War es richtig, den Insassen vom autonomen Fahrzeug durch einen tödlichen Crash während des Ausweichens zu töten, anstelle des Kindes auf der Straße?“ bringen selbst erfahrende Menschen ins Grübeln und bringen jede Menge Diskussionsgesprächstoff mit sich. Denn wie soll sich eine künstliche Intelligenz diese Fragestellungen stellen, wenn noch nicht einmal der Mensch diese konkret beantworten kann?

Der Aspekt der Ethik wird somit fortlaufend relevanter und betrifft jeden Menschen. Vor allem in Zukunft. Und du gehörst dazu!

Das Trolley-Problem

Sean Eissing

Trolley-Problem - Quelle: https://youtu.be/n1qfWjGwQc4

Das Video hat euch die grundlegende Problematik vom Trolley Szenario beim autonomen Fahren gezeigt. Ein fahrerloses Fahrzeug hat keine Möglichkeit mehr zu bremsen. Es hat die Wahl zwischen zwei Übeln. Das Standardbeispiel ist die Entscheidung in ein Kind oder in zwei ältere Damen zu fahren, wobei jeder Zusammenstoß 100 prozentig tödlich endet.

Hier leiten sich einige ethische Fragen und Probleme ab. Es stellt sich zum Beispiel die Frage, ob es moralisch vertretbar ist ein Menschenleben zu opfern, um ein anderes zu retten. Darüber hinaus fordert das Dilemma weitere Entscheidungen: Zwei Leben oder eins? Welches Leben ist wertvoller? Wer soll sterben?

Im Kontext Ethik und KI ist die Frage wie das autonome Fahrzeug entscheiden soll. Beim ersten Überlegen würden viele sich dazu entscheiden, dass Kind zu retten. Wenn man dies einmal umformuliert hieße das, man entscheidet sich zwei alte Damen zu töten. Und hier wird es dann schwierig, denn das Szenario lässt uns mit keinem moralisch vertretbaren Ergebnis rauskommen.

Dennoch wird es oft benutzt, um die Wichtigkeit von ethischen Richtlinien für Autonome Fahrzeuge zu verdeutlichen, auch wenn man sagen muss, dass es ein Ausreißer ist und kein gutes Beispiel für die alltägliche Situation im Straßenverkehr. Aber uns wird durch das Problem bewusst, dass Künstliche Intelligenzen in der Zukunft beträchtlichen Schaden verursachen können. Es ist auch schon zu Unfällen mit autonomen Fahrzeugen gekommen. Um der Antwort auf dieses und ähnlichen Problemen näher zu kommen ist nicht nur ein Blick auf die Ethik, sondern auch auf die Rechtslage von Nöten.

Ethische Regulierungen auf nationaler und internationaler Ebene:

Patrick Fildebrandt

Es ist kaum möglich sich künstliche Intelligenz aus der heutigen Gesellschaft weg zu denken. Ob auf der Arbeit, in der Öffentlichkeit oder im privaten Haushalt - KI ist allgegenwärtig. Die autonome Entscheidungsfindung von KI wirft schon seit langer Zeit Fragen über die Entwicklung der ethischen Grundzüge der Gesellschaft auf, welche nicht so einfach beantwortet werden können. Ein Beispiel ist unteranderem das Trolley-Problem, welches wir bereits kennengelernt haben.

Wie gehen aber nun einzelne Länder mit den Ethikfragen rund um künstlicher Intelligenz um? In Deutschland gibt es z. B. das Gremium des deutschen Ethikrates, welche sich mit allgemeinen Ethikfragen in der Gesellschaft auseinandersetzen und die Bevölkerung über Ethikfragen aufklärt und zur Diskussion anregen soll.

Außerdem Ende 2020 eine Normungsraodmap-KI, vom DIN eV. und der DKE veröffentlicht. Dort werden mehr als 70 Handlungsempfehlungen zu Standardisierungs- und Normungsbedarfe ermittelt. Einer der Bedarfe ist die „Operationalisierung ethischer Werte“ 2. Es ist zurzeit nicht ersichtlich, auf welchen Grundlagen ethische Werte in den bestehenden Systemen gemessen und eingesetzt werden, daher müssen die Regierung und Unternehmen in Zusammenarbeit ein gemeinsames Modell entwerfen. Ein Beispiel ist das WKIO-Modell welches Werte auf bestimmte Eigenschaften analysiert.
Die Werte werden in Kriterien und Indikatoren zerlegt. Die daraus entstehenden Obersvablen sind messbar und können entsprechend konkretisiert werden. Die Konkretisierung lässt eine mögliche Prüfung der Umsetzung der Werte in KI-Systemen zu.3
Diese und weitere Normungen und Standards sollen dafür sorgen, dass der ethischen Mindeststandard sichergestellt wird.

Um einen Überblick zu bekommen, wie die ethischen Regulierungen auf internationaler Ebene ausfallen, dann kommt gerne zu unserem Kongress!

Rechtlicher Aspekt im Bezug auf künstliche Intelligenz

„Die Algorithmen beruhen auf Daten, die unsere Gesellschaft widerspiegeln, und in dieser werden bestimmte Gruppen nach wie vor benachteiligt."

Sandra Wachter, Forscherin an der Universität Oxford, aus dem Handelsblatt "Das ist der Unterschied zwischen KI und erklärbarer KI"4

Neue Technologien müssen immer neue rechtliche Rahmenbedingungen mit sich bringen. So auch das Thema der künstlichen Intelligenz, auf welche in den folgenden Unterkapiteln eingegangen wird.

KI und die DSGVO

Hendrik Wolters

Mit der Einführung der DSGVO am 25.Mai 2018 gingen auch erste Verordnungen in Bezug auf KI einher. Diese wurden in der „Hambacher Erklärung“, einer Datenschutzkonferenz der Datenschutzaufsichtsbehörden des Bundes und der Länder, weiter verfeinert 5. So geht es unter Anderem hier darum, dass KI transparent, nachvollziehbar und erklärbar sein und Diskriminierungen vermeiden muss. Besonders die Erklärbarkeit von Entscheidungen können viele KI-Systeme noch nicht ihr eigen nennen. 4

Auch braucht ein KI-System der „Hambacher Erklärung“ nach eine Verantwortliche Person, welche durchgängig die Sicherheit der Verarbeitung der Daten und die Sicherheit des KI-Systems vor Manipulation schützen muss. 6

Wie man in diesen Beispielen sehen kann gelten Datenschutzrechtliche Anforderungen auch für KI-Systeme, welche sich genauso wie das Thema KI immer weiter entwickeln werden. Dabei ist auch immer Abzuwägen, wie viel Freiraum man der Entwicklung geben möchte, um im Wettkampf mit Anderen Länder im Thema KI mitzuhalten, und wie sehr man die Rechte von Personen Schützen möchte. 7

Auswirkungen der KI auf die Grundrechte

Anil Arslan

Die KI wird immer wichtiger und daher wird es umso relevanter, dass man weiß, inwiefern die Grundrechte durch eine KI beeinflusst werden können. Unter Grundrechte ist die Europäische Grundrechtcharta gemeint, welche in sechs Kapitel unterteilt ist und in diesem Unterthema im kleinen Rahmen angeschnitten wird. Beispielsweise wurde ein Algorithmus entwickelt, welcher die Wahrscheinlichkeit der Straffälligkeit einer Person ermittelt. Bilder einer dunkel- und hellhäutigen Person wurden miteinander verglichen und es fiel auf, dass die KI die dunkelhäutige Person als höhere Gefahr eingestuft hat.8 In diesem Beispiel wird die Charta der Gleichheit verletzt, die besagt, dass alle Person vor dem Gesetz gleich sind. (Art. 20 GRC)

Die Charta der Solidarität bezieht sich unter anderem auf das Recht auf Umweltschutz. (Art. 37 GRC) Google hat es geschafft, die Energiebilanz ihrer Datenzentren um 40 Prozent zu reduzieren, welche einen positiven Effekt auf den Umweltschutz hat. Ein KI-System identifiziert, welche Aktionen den Energieverbrauch minimieren und gleichzeitig eine Reihe von von robusten Sicherheitsbedingungen erfüllen. Danach werden die ermittelten Aktionen an das Rechenzentrum gesendet, wo sie vom lokalen Steuerungssystem verifiziert und dann umgesetzt werden können.9

Rechte der KI in der Zukunft

Anil Arslan

Der Mensch steht an dem Punkt, an dem er nicht mehr das einzige kreative Wesen auf der Welt sein kann. Denn autonome Systeme, also KI's werden in Zukunft nicht nur mehr Entscheidungen treffen, sondern auch in Interaktionen eintreten, die bisher dem Menschen zugeschrieben waren.10 Wenn der Interaktionsraum von autonomen Maschinen mit den Menschen größer wird, stellt sich die Frage, ob sie auch eine eigene Haftung und Rechte brauchen. In Zukunft muss also sichergestellt werden, dass Hersteller und Programmierer von autonomen Systemen keine Haftung tragen wenn Maschinen für irgendwelche Schäden verantwortlich sind.

Filme wie "iRobot"11 haben fiktive Szenarien aufgezeigt, wo Roboter eigenständig Handeln können und sich menschlich verhalten. Diese Roboter, die eigentlich für gewisse Dienstleistungen oder Zwecke hergestellt wurden sorgten für einen patriotischen Aufstand gegen die Menschheit. Wie jeder von uns weiß ist die Zukunft ungewiss. Es wäre durchaus möglich eine KI zu erschaffen, die dem Menschen in vielen Bereichen ähnelt. Wenn dieser Punkt eintritt, müsste man stark über eigene Rechte für Roboter nachdenken. Mehr dazu findet ihr auf unserem Kongress.

Maßnahmen zur Förderung der künstlichen Intelligenz in der Europäischen Union

Jannes ter Veen

Die EU-Kommission hat in den letzten Jahren viel Aufwand betrieben künstliche Intelligenz in den Mitgliedsstaaten weiter zu fördern. Zum einen soll dies durch finanzielle Unterstützung der Forschung geschehen, die durch Gelder aus den Programmen "Horizont Europa" und "Digitales Europa" realisiert wird.12

Zum anderen durch gemeinsame Forschung der Mitgliedsstaaten. Die Schaffung von Datenräumen steht dabei im Vordergrund. Diese ermöglichen den Austausch von Wissen zum Thema KI über die Grenzen der Länder hinweg. Eine Maßnahme ist dabei die Förderung des AI4EU Projekts. Dieses besteht aus 79 Partnern in 21 Ländern und wird bis Ende des Jahres 2021 20 Mio. Euro erhalten.1213

Zum Forschen werden talentierte Fachkräfte benötigt, diese will die EU-Kommission durch 2 Maßnahmen fördern. Fortgeschrittene Studiengänge im Bereich der KI sollen mit Stipendien unterstützt werden und die gesamte Bevölkerung, besonders die mit Bezug zur KI, soll in digitalen Kompetenzen und dem lebenslangen Lernen gefördert werden.12

Die EU verfügt über genug Unternehmen und Forschungszentren um international bei der Entwicklung künstlicher Intelligenz vorne dabei zu sein. Im Bereich der Robotik ist die EU sogar führend.14

Welche Rechte hat eine KI auf internationaler Ebene?

Hendrik Wolters

In Deutschland haben wir bereits Richtlinien mit entsprechenden Maßnahmen für KI, aber wie sieht es in Ländern Außerhalb von Europa aus. US-Firmen wie Google oder Amazon können z.B. an riesige Mengen von Personenbezogenen Daten gelangen und diese als Anlaufstelle für neue KI benutzen. 15 Diese Personenbezogenen Daten möchte die USA allerdings nun auch immer mehr schützen um sich unter Anderem mehr von Ländern wie zum Beispiel China in Sachen Datenschutz zu unterscheiden. Wiederum sind in China erst Ende Mai 2019 neue Ethik Richtlinien veröffentlicht worden, welche wiederum nicht alle ethischen Minderheiten in Xinjiang mit einbeziehen. 16

Auch in Ländern wie Indien und Japan wird derzeitig viele über die Rechte von KI diskutiert und ein wichtiger Bereich der hier drunter fällt ist das Eigentum von KI erzeugten Produkten. Während in Japan die ersten grundlegenden Rechte bereits in den späten 90ern festgelegt worden sind in Indien die Eigentumsrechte von ohne Menschen Beihilfe erzeugte Produkte von KI umstritten. 17

Die Interessen daran einheitliche Richtlinien für KI zu erschaffen sind von Land zu Land verschieden. Währenddessen Japan und die USA der KI möglichst viel Spielraum zur Entwicklung geben, um möglichst zu einem globalen Spieler in Sachen KI zu werden, sind in der EU eher der Schutz von Personen in den Vordergrund. 18

Verhältnis künstliche Intelligenz - Mensch

Künstliche Intelligenz ist aus unserem Leben kaum mehr weg zu denken, sei es in Form Sprachassistenten oder der täglichen Werbung. Dennoch sollte man auch mögliche Konsequenzen abwägen und das Verhältnis zwischen künstlicher Intelligenz und den Menschen klarstellen.

Test

Welt von oben - Quelle: https://unsplash.com/photos/Q1p7bh3SHj8

Meinungsbild - Wie wird künstliche Intelligenz momentan wahrgenommen?

Joost Janßen

Was verspricht sich die Menschheit von künstlicher Intelligenz?

Künstliche Intelligenz – Heiland oder Vorbote des Untergangs.
Zwischen diesen beiden Extremen scheint sich die Diskussion über künstliche Intelligenz in unserer Gesellschaft zu bewegen.
Diese zwei Standpunkte könnten nicht unterschiedlicher seien und sie werden einerseits von einem Großteil der Menschen innerhalb unserer Gesellschaften der Welt vertreten und andererseits von CEOs und Meinungsmacher*innen, sowie deren Anhänger*innen aus dem Silicon Valley.
Wie nehmen unterschiedliche Teile der Gesellschaft künstliche Intelligenz wahr und was versehen sie überhaupt darunter? Und wie ist es mit Menschen die direkt mit der Entwicklung künstlicher Intelligenzen betreut sind oder auch den sog. "early adopters"19?
Auch innerhalb dieser Gruppen herrscht Uneinigkeit über das, was die künstliche Intelligenz für die Menschheit mit sich bringt und was sie persönlich erwarten oder auch weswegen sie skeptisch sind.


Test

Der Roboter als Mensch - Quelle: https://unsplash.com/photos/K21Dn4OVxNw

Personifizierung von künstlicher Intelligenz

Lukas Sannebeck

Künstliche Intelligenzen begegnen den Menschen heutzutage in den verschiedensten Situationen. Ob als Sprachassistent oder in Form von Computer gesteuerten Chatpartner*innen. Immer wieder kommt der Mensch in Kontakt mit Geräten, die versuchen so Menschlich wie möglich zu wirken. So erhoffen sich die Entwickler, den Benutzer*in eine intuitive Steuerung, so wie ein vertrautes und natürliches Erlebnis zu ermöglichen.
Doch reicht dieser Versuch einen Menschen zu imitieren aus? Ist es den Verbraucher*innen möglich einem solchem Programm, menschliche Eigenschaften zu zuschreiben oder es sogar als eine*n Freund*in zu betrachten? Was ist überhaupt notwendig um eine solche Beziehungen zu knüpfen?
Diese Fragen können trivial wirken. Sie sind jedoch für jeden relevant, der an einem reflektierten Umgang mit sich und seiner Umgebung interessiert ist.

Datensammlung von Personen-Daten

Sebastian Diers

Mit immer neuen KI-Geschäftsmodellen treten Konzerne wie amazon, Google und Apple an uns heran. Dabei bieten diese viele Ihrer Produkte wie z.B. Sprachassistenten komplett kostenlos an, doch gibt es dabei einen Haken? Was passiert mit unseren Daten, die z.B. bei Sprachanfragen an eine KI, wie z.B. Alexa übermittelt werden um eine Antwort zu erhalten und wie gehen die Konzerne mit diesen um? Werden unsere Daten nun verkauft oder womit machen amazon und Co. ihr Geld bei diesen kostenlosen Diensten?

Aber noch viel wichtiger: Was weiß amazon und Co. über mich und mein Konsum-Verhalten, meine Vorlieben und meinen Alltag - Sitze ich mittlerweile im Glashaus?

Achtsamkeit für die Zukunft

Andrej Schwanke

Nach dem aktuellen Stand der Technik besitzen wir keine starke Künstliche Intelligenz. Dies kann sich jedoch in den nächsten 20 - 40 Jahren ändern. Eine starke Künstliche Intelligenz würde den Menschlichen Fähigkeiten gleich sein oder diese sogar übertreffen.20

Auf diesen Umstand müssen wir vorbereitet sein, da wir nicht wissen werden was für Ziele eine starke Künstliche Intelligenz verfolgen wird. Max Tegmark beschreibt in seinem Buch Leben 3.0 Mensch sein im Zeitalter Künstlicher Intelligenz, dass Künstliche Intelligenz Ziele haben kann und das es unsere Aufgabe in der Zukunft ist einer Künstlichen Intelligenz unsere Ziele vertraut zu machen. Daraufhin soll die Künstliche Intelligenz diese Ziele übernehmen und bewahren.21

Damit dies umgesetzt werden kann, müssen wir ethische und rechtliche Fragen im vorhinein klären. Anders gesagt müssen wir uns einen Plan für die Zukunft machen, denn „[e]rst wenn wir intensiv über die Art von Zukunft, die wir uns wünschen, nachgedacht haben, werden wir imstande sein, Kurs auf eine wünschenswerte Zukunft zu nehmen. Falls wir nicht wissen, was wir wollen, werden wir es wahrscheinlich nicht bekommen.”21

Fallbeispiele

Im Folgenden werden wir mehrere Fallbeispiele aus dem Bereich KI kurz anschneiden. Die Fallbeispiele werden auf dem Kongress näher erklärt!

Social Media

Patrick Fildebrandt

Der Begriff Social Media ist aus dem heutigen Sprachgebrauch nicht mehr wegzudenken. Weltweit existieren mehr als 3 Milliarden Benutzerkonten auf einer endlosen Anzahl von Social-Media-Plattformen. Aber wie wirkt sich künstliche Intelligenz darauf aus? Filteralgorithmen helfen dabei Hassbotschaften und ähnliches zu reduzieren, aber hat das ganze auch Schattenseiten?

Militär

Lukas Sannebeck

Viele der bereits vom Militär verwendeten künstlichen Intelligenzen, beschäftigen sich mit der Navigation von Flugkörpern und der Identifikation von Zielobjekten. Die KI übernehmen in ihren bisherigen Anwendungsbereichen den Großteil der Steuerung für die ihnen zugehörigen Waffensysteme. Oftmals sind die Einsatzbereiche auf die einer Assistenzeinheit beschränkt, da sie entweder noch nicht genügend optimiert, oder die rechtlich und ethischen Fragen noch offen sind.22

Robotik

Hendrik Wolters

KI wird in unserem Berufsleben immer präsenter und wird mit der Zeit auch Arbeitsstellen ersetzen oder bisherigen Stellen helfen. So wird auch der Moderoboter TROY in vielen Verkaufsläden bereits eingesetzt23. Doch wie wird sichergestellt, dass ein Roboter eine*n Angestellten*in nur unterstützt und ihm*ihr nicht die Arbeitsstelle streitig macht?

Sprachassistenten

Jannes ter Veen und Sebastian Diers

Sprachassistenten wie z.b. Amazon Alexa und Google Assistent sind mittlerweile in vielen Haushalten zu finden. Firmen wie Apple, Amazon, Google und Co. wurden in den letzten Jahren oft für Ihre Informationspolitik hinsichtlich des Umgangs mit den Sprachdaten Ihrer Nutzer kritisiert.24
Sind unsere Daten bei Ihnen sicher bzw. hören Sprachassistenten jederzeit zu?

Autonomes Fahren

Anil Arslan und Sean Eissing

Von vielen die Zukunft der Mobilität genannt, wirft dieses Thema viele Fragen auf. Ab welchem Level gilt ein Auto als autonom? Was passiert, wenn ein autonomes Fahrzeug einen Unfall baut? Wieso braucht es ethische Richtlinien für diese Fahrzeuge? Diese und mehrere Fragen beantworten wir auf unserem Kongress.

Kraftwerke

Gregor-Alexander Giotas

Die Energieversorgung moderner Städte und insbesondere moderner Großstädte unterliegt aktuell großen Veränderungen.
Die Energie der Zukunft muss sauberen Ursprungs sein und ständig verfügbar. Um dies zu gewährleisten, werden verschiedene Lösungsansätze verwendet. Einer davon ist die Verwendung von KI-Systemen, welche mithilfe von Optimierungsalgorithmen für eine stabile Energieversorgung sorgen.