Liebe Freunde,
im Laufe der Menschheitsgeschichte war die Technologie einer der größten Wegbereiter für bahnbrechende Veränderungen. Allerdings hatten diese Technologien auf dem Weg zur Marktreife oft mit "Wachstumsschmerzen" zu kämpfen. Selbst die Dampfmaschine und die Elektrizität, zwei der wichtigsten Kräfte der 2. industriellen Revolution, wurden anfangs nur langsam angenommen. So ist es nicht verwunderlich, dass Künstliche Intelligenz/Machine Learning (KI/ML), eine Gattung aufstrebender Technologien, die ein wichtiger Bestandteil des Universums der maschinellen Intelligenz (MI) und ein Haupttreiber der aktuellen Industrie 5.0 ist, ebenfalls Probleme bei der Einführung mit sich bringt.
Mit der künstlichen Intelligenz steht uns ein Instrument mit großer Transformationskraft zur Verfügung, das auch verantwortungsvoll genutzt werden muss. KI ist normneutral, aber bei MI4People sind unsere Ziele gemeinnützig. Daher wollen wir unser Handeln und unsere Bemühungen stets auf ethische Standards überprüfen und möglicherweise auch anderen gemeinnützigen Organisationen helfen, KI ethisch zu nutzen. Deshalb haben wir im letzten Monat im Rahmen der MI4People-Initiativen ein KI-Ethikkomitee ins Leben gerufen.
Das KI-Ethik-Komitee soll MI4People für Nicht-KI-Profis öffnen und interdisziplinäre Diskussionen innerhalb unserer Organisation zum Thema KI und Ethik fördern. Unsere Aktivitäten dienen dem Gemeinwohl. Daher gibt es viele ethische Fragen, bei denen Juristen, Mediziner, KI-Forscher und Vertreter anderer Disziplinen einen wertvollen Beitrag zur Entwicklung von Organisationen wie der unseren leisten können. Die wichtigsten Ziele unseres KI-Ethikkomitees sind:
Förderung der ethischen Diskussion über die Anwendungen von KI und gegebenenfalls über die Grenzen der KI-Entwicklung
Unterstützung der weiteren Entwicklung der KI-Forschung bei MI4People durch die Festlegung eines ethischen Rahmens
Weiterentwicklung der Ziele und Projektpläne von MI4People durch Diskussionen zur Gemeinwohlorientierung aus verschiedenen Perspektiven (Medizin, Recht, Sozialwissenschaften, etc.)
Auch für diesen Ausschuss suchen wir weitere Unterstützung. Wenn Sie mitarbeiten möchten oder Fragen haben, wenden Sie sich bitte an Dr. Christian Herles, Yonas Maximilian Thiele oder Dr. Paul Springer die diesen Ausschuss bei MI4People initiiert haben, oder schreiben Sie uns an info@mi4people.org.
Im Gegensatz zu einem typischen Newsletter widmen wir diese Ausgabe einem kleinen Essay über die Haupthindernisse für den gemeinnützigen Sektor bei der Einführung von KI, wobei wir uns auf die Herausforderungen konzentrieren, die sich aus der mangelnden ethischen Nutzung von KI ergeben, und schließen mit einem Überblick über die Maßnahmen von Regierung und Industrie, um sicherzustellen, dass KI einer guten Gesellschaft dient.
Wir wünschen Ihnen viel Spaß bei diesem Diskurs und freuen uns auf Ihre Meinungen und Ideen zur Beseitigung von Hindernissen bei der Einführung von KI im gemeinnützigen Sektor, insbesondere in Bezug auf ethische KI.
Ihr MI4People-Team
Potenzieller Nutzen von KI für Organisationen im Non-Profit-Sektor
Vielen Analystenberichten zufolge wird der derzeitige KI-Markt auf 300 bis 400 Milliarden Dollar geschätzt und soll in weniger als einem Jahrzehnt die Billionengrenze überschreiten. Die nachgelagerten Vorteile der KI sind sogar noch größer. Der massive Einsatz von KI und ihr schnelles Wachstum finden allerdings ausschließlich im kommerziellen Sektor statt, nur in geringem Umfang in staatlichen Einrichtungen und praktisch gar nicht im gemeinnützigen Sektor. Doch genau wie im kommerziellen Sektor können KI und MI auch im Bereich des Gemeinwohls dazu beitragen, viele der Herausforderungen des Gemeinwohls wie Armut, Hunger, Umweltschutz, Gesundheitsfürsorge, Schutz der Tierwelt usw. zu bewältigen (weitere Beispiele finden Sie auf unserer Website).
Es gibt zahlreiche Studien und Analyseberichte, die Möglichkeiten für den Einsatz von KI im gemeinnützigen Sektor aufzeigen (siehe Abbildung oben, Quelle: McKinsey). Ein Diskussionsartikel von McKinsey vom November 2018 mit dem Titel "Applying Artificial Intelligence (AI) for Social Good" (Anwendung von künstlicher Intelligenz (KI) für das Gemeinwohl) nennt beispielsweise rund 160 Anwendungsfälle für den Einsatz von KI für das Gemeinwohl. Ein Bericht des National Health Service (NHS, Großbritannien) aus dem Jahr 2019 mit dem Titel "Artificial Intelligence - How to Get it Right" (Künstliche Intelligenz - wie man es richtig macht) zitiert rund 30 Fallstudien mit KI-Anwendungen im Gesundheits- und Pflegebereich, die Themenbereiche wie Präzisionsmedizin, Genomik, Bilderkennung und betriebliche Effizienz abdecken. Und es gibt viele weitere Berichte ähnlicher Art.
Hindernisse bei der Einführung von KI für Organisationen im gemeinnützigen Sektor
Es ist schockierend festzustellen, dass trotz des großen Potenzials der KI ihre Verbreitung im gemeinnützigen Sektor nach wie vor extrem gering ist (niedriger einstelliger Prozentsatz). Die drei Hauptgründe für die geringe Akzeptanz von KI bei gemeinnützigen Organisationen, die in der Regel über sehr kleine Organisationsgrößen und Budgets verfügen, sind:
Mangelnde Kenntnis der KI-Funktionen und Schwierigkeiten beim Identifizieren sinnvoller und wirkungsvoller Anwendungsfälle.
Schwierigkeiten, geeignete Talente anzuziehen, da kompetente KI-Fachleute bei vielversprechenden kommerziellen Start-ups oder Großunternehmen ansprechendere Angebote erhalten
Oftmals sehr konservative und risikoscheue Haltung des typischen Managements von Non-Profit-Organisationen
Herausforderungen, die sich aus unethischer KI ergeben, können zu allen möglichen Risiken führen und werden so zu einem Haupthindernis für die Einführung von KI im Non-Profit-Sektor.
Besondere Herausforderungen, die sich aus nicht-ethischer KI ergeben
Ethik sind die moralischen Grundsätze, von denen unser Verhalten und unsere Handlungen geleitet werden. KI-Anwendungen und KI-gestützte Entscheidungsfindung können unser Handeln und Verhalten stark beeinflussen und verändern (und tun dies auch). Es gibt viele veröffentlichte Berichte über schlecht durchdachte KI-Nutzungen: z. B. KI-basierte Expertensysteme, die falsche medizinische Diagnosen und Heilmittel hervorbringen, grundlegende Verletzungen der menschlichen Privatsphäre durch KI-basierte Verarbeitung privater Daten, Nutzung von KI-abgeleiteter Intelligenz zur Entwicklung von Manipulationsstrategien bei Regierungswahlen, Rassen- und Geschlechterdiskriminierung durch KI-basierte Entscheidungsfindung bei Einstellungs- oder Beförderungsprozessen, Umgehung ärmerer oder benachteiligter Kunden durch KI-basierte Kundensegmentierung und sogar ein Fall von KI-basiertem interaktivem Spielzeug für Kinder, das das Verhalten von Kindern unrechtmäßig beeinflusst. Zu den anderen, weniger offensichtlichen unethischen Verwendungen von KI gehört der Einsatz ineffizienter KI-Algorithmen, die unnötig viel Strom verbrauchen und damit den Ausstoß von Kohlendioxid erhöhen und sich negativ auf die Nachhaltigkeit auswirken.
Die Folgen des unethischen Einsatzes von KI sind nicht nur moralisch beschämend, sondern können auch alle möglichen rechtlichen und strafrechtlichen Risiken für Unternehmen und gemeinnützigen Organisation mit sich bringen, die zu Vertrauens- und Reputationsverlusten sowie finanziellen und anderen rechtlichen Sanktionen führen. Während große Unternehmen die Kraft haben, sich gegen Anklagen zu wehren, sehen kleine gemeinnützige Organisationen mit sehr begrenzten Mitteln und völliger Abhängigkeit von öffentlichem Vertrauen und gutem Image die allgemeine Einführung von KI als ein höchst riskantes Unterfangen an. Allerdings mit der richtigen Expertenhilfe, zum Beispiel von gemeinnützigen Organisationen wie MI4People, könnten viele dieser risikoscheuen gemeinnützigen Organisationen geeignete und sichere KI-Einsatzmöglichkeiten finden.
Maßnahmen von Regierung und Industrie zur Durchsetzung ethischer KI-Praktiken
Um die ethische Nutzung von KI zu fördern und durchzusetzen, ist das Engagement von Regierung und Industrie unerlässlich. Die Leitprinzipien für ethische KI, die letztendlich in die Gesetzgebung einfließen, scheinen sich weitgehend auf Sicherheit, Zuverlässigkeit, Transparenz, Fairness, Gleichheit, Erklärbarkeit und den Wert für die Gesellschaft zu konzentrieren. Seit 2017 haben sich Regierungen in über 60 Ländern weltweit dazu verpflichtet, die Bedeutung von Vorschriften für ethische KI zu erhöhen. Es gibt auch zwischenstaatliche und kontinentübergreifende Kooperationen zu diesem Thema, wie zum Beispiel die jüngste Aufnahme des Themas KI-Regulierung in die Agenda des Handels- und Technologierates (TTC) zwischen der EU und den USA. Neben den zwischenstaatlichen Bemühungen haben auch internationale Organisationen wie die UN/OECD, das IEEE und andere ihre Expertengremien eingerichtet, um ethische KI-Praktiken zu beobachten, zu erforschen und allgemein gültige Empfehlungen zu geben, die sowohl die Regulierungsbehörden als auch die Entwickler von KI-Anwendungen und die Öffentlichkeit beeinflussen.
In den letzten Jahren gab es in den USA viele von der Regierung geförderte Aktivitäten zur Untersuchung der KI-Ethik - einige davon werden im Rahmen des jüngsten Artificial Intelligence Act (AIA) durchgeführt. Einige wenige US-Regierungsstellen haben bereits eigene ethische KI-Praktiken eingeführt, wie z. B. das US-Verteidigungsministerium (DoD). Es ist zu erwarten, dass sich solche Maßnahmen ausbreiten werden. Erst diesen Monat hat das Weiße Haus eine "AI Bill of Rights" vorgestellt, die die Interessen der Bürger vor Fehlverhalten durch oder mittels KI-Technologien schützen soll.
In Europa gibt es auf EU-Ebene und in den einzelnen EU-Mitgliedsländern viele bestehende und in Entwicklung befindliche Vorschriften, die der KI-Technologie bereits ein gewisses Maß an Disziplin auferlegen können. Eine bemerkenswerte, der KI-Ethik gewidmete Regelung ist jedoch die "Verordnung über künstliche Intelligenz (EU-KI-Gesetz)" der Europäischen Kommission, die im April 2021 veröffentlicht wurde und nach der Einholung von Bewertungen und Empfehlungen von Mitgliedstaaten, Experten und besorgten Bürgern voraussichtlich Anfang 2023 in Kraft treten wird. Das EU-KI-Gesetz verwendet eine "risikobasierte" hierarchische Struktur für die Klassifizierung von KI-Produkten, -Dienstleistungen und -Nutzung (wie in der Abbildung oben dargestellt). Diese risikobasierte Struktur scheint ein logischer und rationaler Weg zu sein, um Beschränkungen und Strafen im Zusammenhang mit einem bestimmten KI-Nutzungsfall festzulegen.
Die chinesische Regierung, die derzeit zu den führenden Ländern bei der Entwicklung und Nutzung von KI gehört und das Ziel verfolgt, bis 2030 weltweit führend im Bereich der KI zu werden, vertritt den Standpunkt, dass "KI in China wieder unter sinnvoller menschlicher Kontrolle stehen wird", und zwar gemäß dem ersten Regelwerk des Landes, das jeden Aspekt der aufkommenden Technologie von der Forschung über die Bereitstellung bis hin zur Anwendung regeln wird. Im September letzten Jahres stellte die chinesische Regierung ihre "Ethischen Normen für die neue Generation der künstlichen Intelligenz" vor, mit dem Ziel, eine "nützliche KI zum Wohle der Menschen und der Umwelt" zu schaffen.
Während die Regierungen bei der Gesetzgebung zur KI immer aktiver werden, unternehmen auch private Unternehmen eigene Anstrengungen, um ethische KI zu fördern. So haben beispielsweise praktisch alle Hightech-Unternehmen mit enormer globaler Reichweite - Google, Apple, Microsoft, Meta, Alibaba und andere - ihre ethischen KI-Richtlinien öffentlich bekannt gegeben, die mit den bisher diskutierten ethischen KI-Schwerpunktbereichen weitgehend übereinstimmen. Außerdem schulen heutzutage die meisten Unternehmen, die KI-Technologien entwickeln oder einsetzen, ihre Mitarbeiter in der ethischen Nutzung von KI.
Abschließende Bemerkungen
KI ist für uns sehr wichtig, und das gilt auch für ihre ethische Nutzung. Unabhängig davon, wie leistungsfähig sie ist (oder sein kann) und welch großes Potenzial in ihr steckt, ist KI etwas, das "wir", die Menschen, geschaffen haben und weiter entwickeln werden. Daher sind es letztlich unsere Werte, unser Verhalten und unsere Absichten, die eine ethische Nutzung von KI und ihre Implementierung mit echtem Nutzen für die Gesellschaft gewährleisten sollen.