Künstliche Intelligenz hat nicht nur im Fundraising, sondern auch in NGO-Projekten das Potential, Effizienz zu steigern und innovative Lösungen für gesellschaftliche Probleme zu finden. Allerdings wirft die neue Technologie auch Fragen hinsichtlich Ethik und Datenschutz auf. Es gilt also, die Balance zwischen dem Nutzen und dem Schutz von ethischen Standards und Privatsphäre zu finden. Wir geben Dir in diesem Artikel einen Überblick über die Herausforderungen, rechtlichen Rahmenbedingungen und bewährte Praktiken für den verantwortungsbewussten Einsatz von KI.
KI und Ethik: Grundlegende Herausforderungen
Diskriminierung und Bias
Sicher hast Du schon von Beispielen gehört, in denen KI sexistisch oder rassistisch entschieden hat. Sehr bekannt ist z. B. der Fall, in dem in den USA eine KI dafür verwendet wurde, das Rückfall-Risiko von Verbrecher*innen nach der Haftentlassung einzuschätzen. Dabei urteilte sie über dunkelhäutige Menschen negativer, als über hellhäutige – ein Ergebnis, das auf den Vorurteilen in der Gesellschaft beruht und in den Trainingsdaten der KI widergespiegelt wurde.
Künstliche Intelligenz kann nur das wiedergeben, was wir ihr beibringen. Um also die Verstärkung und Reproduktion von Diskriminierung zu verhindern, müssen Datenquellen vielfältig und repräsentativ sein. Sonst droht besonders bei Einsatzzwecken wie Recruiting, Gesichtserkennung oder Kreditvergabe eine Verschärfung der gesellschaftlichen Ungleichheiten.
Nachvollziehbarkeit und Transparenz
Die Nachvollziehbarkeit von KI-Entscheidungen ist ein weiterer kritischer Punkt. Derzeit sind viele Modelle eine “Blackbox” – das bedeutet, dass nicht einmal die KI-Entwickler*innen darüber Bescheid wissen, wie KI Entscheidungen trifft. Auch die Daten, die zum Training genutzt werden, sollten transparent sein, um die Kontrolle und das Verständnis über die Technologie zu gewährleisten.
Verlust der Privatsphäre und Überwachung
KI kann auch in Überwachungssystemen, z. B. in Form von intelligenter Gesichtserkennung, zum Einsatz kommen. China verwendet die Technologie z. B. für sein repressives soziales Punktesystem. Das und die Möglichkeit des Missbrauchs für invasive Überwachung werfen erhebliche Datenschutzbedenken auf und könnten Demokratien schädigen. In der EU wird daher bereits über rechtliche Maßnahmen zur Regulierung solcher Praktiken nachgedacht.
Datenschutz
KI-Systeme, die mit großen Datenmengen trainiert werden, bergen das Risiko von Datenschutzverletzungen. Das gilt vor allem dann, wenn persönliche Informationen und sensible Daten in das KI-Training inkludiert sind. Derzeit ist nicht ganz klar, welche Daten zu welchen Zwecken von KI-Dienstleistern verwendet werden, weshalb Du hier immer sehr vorsichtig sein solltest.
DeepFakes
Durch KI wird es immer einfacher, falsche Informationen zu generieren und im Internet zu verbreiten. Zum Beispiel ist es mit etwas Know-How mittlerweile möglich, anhand eines Bildes und einer Tonspur ein überzeugendes Video mit natürlicher Mimik und Lippenbewegungen zu erschaffen.
Das ist sehr besorgniserregend, vor allem im Hinblick auf politische Propaganda und die Beeinflussung von Wahlen. Viele KI-Unternehmen implementieren daher entsprechende Filter, die solche Fakes schwieriger machen sollen.
Sicherheit und Haftung
KI-Systeme, die bei der Verwaltung und Steuerung von Infrastruktur zum Einsatz kommen, können Fehlfunktionen haben oder Ziel von terroristischen Angriffen sein. Das kann z. B. in den Bereichen Verkehr, Energieversorgung oder in Finanzsystemen großen Schaden verursachen. Auch bei Technologien wie selbstfahrenden Autos gibt es Sicherheitsbedenken. Kommt es zum Schadensfall durch technisches Versagen, ist außerdem noch nicht endgültig geklärt, wer für die Schäden haftbar zu machen ist.
Rechtliche Rahmenbedingungen und Datenschutz
Um die genannten Risiken zu vermeiden oder zumindest zu minimieren, ist es wichtig, dass KI-Entwicklung und -Einsatz ethischen Richtlinien folgen, Datenschutz ernst nehmen und kontinuierlich auf mögliche negative Auswirkungen überprüft werden.
Zentrale ethische Prinzipien im Kontext von KI sind:
- Transparenz
- Gerechtigkeit
- Nichtschädigung
- Verantwortlichkeit
- Datenschutz
DSGVO und KI
Die DSGVO regelt in der EU die Verarbeitung personenbezogener Daten und muss auch auf die Nutzung von künstlicher Intelligenz angewandt werden. Eine Nutzung wie in den USA, wo zum Beispiel zahlreiche personenbezogene Daten wie Einkommen, biografische Informationen, Immobilienbesitz, Kaufverhalten und Besitz von Luxusgütern zusammengeführt werden, um mögliche neue Kund*innen oder Großspender*innen zu identifizieren, ist hier nicht möglich.
Grundsätzlich kann der Einsatz von KI das Recht auf informationelle Selbstbestimmung als Teil des allgemeinen Persönlichkeitsrechts (Art. 2 Abs. 1 GG i.V.m. Art. 1 Abs 1 GG) gefährden. Bei der Nutzung von KI-Systemen wie ChatGPT oder Microsoft Copilot können eingegebene Daten für die Weiterentwicklung der Systeme verwendet werden, was bedeutet, dass sie auch in generierten Antworten enthalten sein können. Dafür liegt jedoch meistens keine Einwilligung der Betroffenen vor. Zudem befinden sich die Server der meisten bekannten KI-Modelle in den USA – einem datenschutzrechtlichen unsicheren Drittland. (Quelle und mehr Informationen: Keyed.de)
Die DSGVO definiert Grundsätze, die auch beim Einsatz von KI eingehalten werden müssen:
- Rechtmäßigkeit: Datenverarbeitung muss auf einer rechtlichen Grundlage basieren
- Transparenz: Datenverarbeitung muss für betroffene Personen transparent sein
- Zweckbindung: Daten dürfen nur für festgelegte, eindeutige und legitime Zwecke erhoben und verarbeitet werden
- Datenminimierung: Es dürfen nur so viele Daten wie nötig verarbeitet werden
- Sicherheit: Es müssen technische und organisatorische Maßnahmen ergriffen werden, um ein angemessenes Sicherheitsniveau zu gewährleisten
- Speicherbegrenzung: Daten dürfen nicht länger aufbewahrt werden, als es für die festgelegten Zwecke notwendig ist
Wie das allerdings in der Praxis umgesetzt wird, wissen wir noch nicht. Da die Technologie noch recht neu ist, gibt es noch keine gerichtlichen Erfahrungswerte dazu.
Rahmenwerke und Empfehlungen für verantwortungsvolle KI-Nutzung
Es gibt bereits eine handvoll Rahmenwerke, die sich mit verantwortungsvoller KI beschäftigen:
Fundraising.AI
Die Initiative Fundraising.AI repräsentiert einen Zusammenschluss von Akteur*innen aus dem Non-Profit-Sektor, die sich für die ethische Nutzung von KI einsetzen. Sie haben ein Rahmenwerk erstellt, das zehn Grundsätze für verantwortungsvolle KI-Nutzung beinhaltet.
Der bevorstehende Fundraising.AI-Summit im Oktober 2024 wird sich auf die ethische Anwendung von KI-Technologien konzentrieren, wobei Themen wie Transparenz, Rechenschaftspflicht, Privatsphäre, Sicherheit und rechtliche Konformität im Vordergrund stehen. Viele Sessions aus dem Summit 2023 sind hier abrufbar.
“The summit will tackle ethical quandaries and discuss transparency, accountability, privacy, security, and legal compliance in AI usage. All of this is to “ensure that as nonprofits adopt AI, they do so while upholding their core values” – Fundraising.AI
UNESCO Empfehlungen
Auch die UNESCO hat Empfehlungen für den ethischen Umgang mit KI erstellt, die dabei helfen können, die Risiken der Technologie zu minimieren: Empfehlungen zur Ethik der Künstlichen Intelligenz
Deutscher Ethikrat, Datenethik-Kommission und weitere
Hier findest Du die Stellungnahme des deutschen Ethikrates zu künstlicher Intelligenz: Stellungnahme Mensch und Maschine – Herausforderungen durch künstliche Intelligenz
Empfehlungen der Datenehtik-Kommission für die Strategie künstliche Intelligenz der Bundesregierung
OECD: Empfehlung des Rats zu künstlicher Intelligenz
Bewährte Praktiken für NGOs
Um den Herausforderungen und rechtlichen Anforderungen bei der Nutzung von KI gerecht zu werden, sollten NGOs folgende bewährte Praktiken anwenden:
1. Ethik- und Datenschutz-Folgenabschätzung
Vor der Einführung neuer KI-Technologien sollten NGOs bewerten, welche Auswirkungen diese auf Datenschutz-Anliegen und ethische Richtlinien haben könnten. Die Folgenabschätzung sollte auch dokumentiert werden.
2. Interne Richtlinien
Klare Richtlinien im Umgang mit KI helfen dabei, die Vorgaben der DSGVO und eigene ethische Standards einzuhalten. Sie sollten allen Mitarbeitenden bekannt sein und könnten zum Beispiel ein Teil des Arbeitsvertrages ein.
3. Kommunikation und Transparenz
Die Nutzung von KI-Tools, die Daten verarbeiten, sollte in der Datenschutzerklärung festgehalten und offengelegt werden. Das beinhaltet auch die Maßnahmen, die zum Schutz der Daten ergriffen werden. Diese Transparenz wird nicht nur von der DSGVO gefordert, sondern fördert auch das Vertrauen in die Organisation.
4. Vereinbarungen
Unternehmen, die KI-Tools bereitstellen, sind womöglich als Datenverarbeiter im Sinne der DSGVO anzusehen. In diesem Fall sollte eine Datenverarbeitungsvereinbarung geschlossen werden.
5. Anonymisieren bzw. Pseudonymisieren
Um ganz sicher zu gehen, sollten personenbezogene und sensible Daten anonymisiert werden. Alternativ können auch anstatt echter Namen Pseudonyme verwendet werden.
6. Urheberrechts- und Markenverletzungen
Obwohl es hier noch keine klaren Regelungen gibt, sollten von KI generierte Texte immer abgeändert werden, um keine Urheberrechts- oder Markenverletzungen zu begehen.
7. Datenschutzbeauftragte
Es ist immer ratsam, eine*n Datenschutzbeauftragte*n zu konsultieren. Ganz besonders gilt das bei der Einführung neuer KI-Modelle, oder auch für selbst trainierte KI-Systeme. Die Datenschutzpraktiken und -richtlinien von OpenAI sollten ebenfalls regelmäßig überprüft werden, um aktuelle Informationen über ihre Compliance und Sicherheitsmaßnahmen zu erhalten.
Potential mit Risiken
Künstliche Intelligenz ist heute schon in vielen Teilen unseres Lebens integriert und es ist davon auszugehen, dass die Technologie auch zukünftig in vielen Bereichen zum Einsatz kommen wird. Umso wichtiger ist es, sich mit den Herausforderungen auseinander zu setzen, die damit einhergehen. Solange es keine bindenden Regularien für KI gibt, sind alle Nutzenden selbst gefragt, einen ethisch korrekten und unbedenklichen Einsatz umzusetzen. Dann steht auch der Nutzung des riesigen Potentials nichts mehr im Wege – ob im Fundraising oder im Projekt. KI bietet unzählige Möglichkeiten, diese Welt besser zu machen. Es liegt an uns, wie wir dieses Werkzeug einsetzen werden.
Mehr Informationen zum Datenschutz bei der Nutzung von KI: Keyed.de
Interessante Kurz-Reportage über KI und Ethik vom ARD:
Darf künstliche Intelligenz alles? KI und Ethik
EXTRA
Beispiel für KI-Richtline generiert durch ChatGPT (ohne Änderungen)
So könnte eine interne Richtlinie aussehen, die den Einsatz von KI in Deiner Organisation regelt:
Interne Richtlinie zu Datenschutz und Ethik im Umgang mit KI-Systemen (Muster)
Präambel
In Anerkennung der Bedeutung und des Einflusses, den künstliche Intelligenz (KI) auf unsere Arbeit und die Gesellschaft hat, verpflichtet sich [Name der NGO] zu einem verantwortungsvollen Umgang mit KI-Technologien. Diese Richtlinie dient dazu, unsere Werte von Transparenz, Gerechtigkeit, Nichtschädigung und Verantwortlichkeit in die Praxis umzusetzen und die Privatsphäre der von uns betreuten Personen zu schützen.
Geltungsbereich
Diese Richtlinie gilt für alle Mitarbeitenden, Freiwilligen und externe Partner von [Name der NGO], die in irgendeiner Form mit der Beschaffung, Entwicklung, Implementierung und Nutzung von KI-Systemen betraut sind.
Grundsätze
Transparenz
– Wir verpflichten uns, den Einsatz von KI-Systemen offen zu kommunizieren, einschließlich Informationen darüber, wie und warum wir KI nutzen.
– Entscheidungen, die durch KI getroffen werden, sollen nachvollziehbar und erklärbar sein.
Gerechtigkeit und Fairness
– Wir streben danach, Bias und Diskriminierung in KI-Systemen zu vermeiden, indem wir diverse und repräsentative Daten für das Training von KI-Modellen verwenden.
– Alle KI-bezogenen Aktivitäten sollen gerecht und ohne Vorurteile gegenüber Individuen oder Gruppen durchgeführt werden.
Nichtschädigung
– Der Einsatz von KI-Technologien soll das Wohl der von uns betreuten Personen fördern und nicht zu ihrem Schaden beitragen.
– Wir werden stets das Risiko von Schäden abwägen und Maßnahmen ergreifen, um potenzielle negative Auswirkungen zu minimieren.
Verantwortlichkeit
– Wir übernehmen die Verantwortung für die Entscheidungen und Handlungen unserer KI-Systeme und stellen sicher, dass diese im Einklang mit unseren organisatorischen Werten stehen.
– Es gibt klare Verfahren für die Berichterstattung und Behebung von Problemen im Zusammenhang mit KI-Einsätzen.
Datenschutz
– Personenbezogene Daten werden nur mit ausdrücklicher Zustimmung der betroffenen Personen erhoben, verarbeitet und genutzt.
– Wir gewährleisten die Sicherheit der Daten durch angemessene technische und organisatorische Maßnahmen.
– Datenminimierung ist ein zentrales Prinzip; es werden nur Daten erhoben, die für den vorgesehenen Zweck notwendig sind.
Implementierung und Überwachung
– Alle Mitarbeitenden erhalten Schulungen zu dieser Richtlinie und den Grundlagen des Datenschutzes sowie der ethischen Nutzung von KI.
– Es wird ein Verfahren zur regelmäßigen Überprüfung und Bewertung unserer KI-Systeme eingeführt, um deren Einklang mit dieser Richtlinie zu gewährleisten.
– Bei Verstößen gegen diese Richtlinie sind klare Prozesse für deren Meldung und Bearbeitung etabliert.
Schlussbestimmungen
Diese Richtlinie tritt mit sofortiger Wirkung in Kraft und wird regelmäßig überprüft und aktualisiert, um den sich ändernden Technologien und gesellschaftlichen Anforderungen gerecht zu werden.
Durch die Einhaltung dieser Richtlinie stellen wir sicher, dass [Name der NGO] KI-Technologien auf ethisch verantwortungsvolle Weise nutzt, die unsere Werte widerspiegelt und das Vertrauen der von uns betreuten Personen stärkt.
