KI, Ethik und Nachhaltigkeit: drei Perspektiven auf den verantwortlichen KI-Einsatz

A clock indicating the date this article was published
27.09.2026

Eine Technologie, drei Fragen

Das Recht hat den KI-Einsatz zuletzt zweimal geordnet: Seit Februar 2025 verlangt Art. 4 der KI-Verordnung Kompetenz bei allen, die mit den Systemen arbeiten, und seit dem 27. September 2026 verlangt das geänderte UWG einen Beleg für jede Umweltaussage, gleich ob ein Mensch oder ein Modell sie formuliert hat. Eine Frage lassen beide Vorschriften offen, weil sie sich mit Paragrafen allein nicht beantworten lässt: Unter welchen Bedingungen ist der KI-Einsatz überhaupt gut begründet? Für Unternehmen, die Nachhaltigkeit ernst nehmen, ist das keine akademische Übung. Sie setzen eine Technologie ein, die Strom, Wasser und Rohstoffe verbraucht und dokumentierte ethische Risiken trägt, und nutzen sie zugleich, um genau diese Themen besser zu steuern: Emissionen zu bilanzieren, Berichte zu erstellen, Risiken zu erkennen.

Dieser Artikel ordnet das Verhältnis dieser drei Perspektiven. Die ethische Dimension fragt, welche Risiken KI-Systeme für Menschen und Entscheidungen erzeugen. Die Nachhaltigkeitsdimension fragt, was die Infrastruktur dahinter ökologisch und sozial kostet. Die Anwendungsdimension schließlich fragt, was KI für die ESG-Arbeit selbst leistet. Erst zusammen ergeben die drei Blickwinkel eine belastbare Antwort auf die Rechtfertigungsfrage, und sie führen mitten in die globale Klimadebatte, die im November in Antalya verhandelt wird.

Die ethische Dimension: Bias, Halluzinationen, Verantwortung

KI-Systeme lernen aus Daten, und Daten tragen die Spuren der Verhältnisse, aus denen sie stammen. Verzerrungen, im Fachbegriff Bias, entstehen, wenn ein Modell diese Muster übernimmt und verstärkt. Das bekannteste Lehrstück lieferte ein großer Onlinehändler, der ein KI-gestütztes Bewerbungsscreening wieder einstellte, nachdem das System Bewerbungen von Frauen systematisch schlechter bewertet hatte; es hatte aus historischen Einstellungsdaten gelernt, in denen Männer dominierten (Dastin 2018). Ähnliche Befunde gibt es aus der US-Justiz, wo eine Software zur Rückfallprognose schwarze Angeklagte systematisch häufiger falsch als Hochrisiko einstufte (Angwin et al. 2016). Für ESG-Verantwortliche ist Bias damit kein Randthema der Informatik, sondern ein soziales Risiko im Sinne der eigenen Berichterstattung: Er betrifft Beschäftigte, Bewerberinnen und Kunden.

Bias entsteht dabei selten aus böser Absicht, sondern aus Datenlücken und Stellvertretergrößen. Auch in der ESG-Arbeit selbst lauert dieses Muster: Wer ein Modell auf historischen Gebäudedaten trainiert, in denen sanierte Objekte überrepräsentiert sind, erhält zu optimistische Verbrauchsprognosen für den Bestand; wer Lieferantenrisiken nur aus englischsprachigen Quellen bewerten lässt, übersieht Regionen systematisch. Die Gegenmittel sind bekannt und unspektakulär: bewusst zusammengestellte Testdaten, regelmäßige Prüfungen der Ergebnisse auf Verzerrungen und die Bereitschaft, ein System zurückzuziehen, das den Test nicht besteht.

Die zweite Risikoklasse sind Halluzinationen: Generative Modelle erzeugen sprachlich überzeugende Aussagen ohne Tatsachengrundlage, erfinden Quellen oder Zahlen und tun das umso unauffälliger, je flüssiger der Text wirkt. Ein Produkttext mit einem unbelegten Umweltversprechen macht daraus in kurzer Zeit ein wettbewerbsrechtliches Problem. Hinzu kommt die Black-Box-Problematik: Bei großen Modellen lässt sich im Einzelfall kaum nachvollziehen, warum eine Ausgabe so ausfällt, wie sie ausfällt. Das erschwert Korrekturen und verschiebt Verantwortung, denn wo niemand die Entscheidung erklären kann, will am Ende niemand sie getroffen haben. Technisch lässt sich das Risiko eingrenzen: Systeme, die ihre Antworten auf hinterlegte Dokumente stützen und Fundstellen ausweisen, halluzinieren seltener und machen Fehler auffindbar; ganz verschwinden die Probleme dadurch nicht. Die Antwort des europäischen Rechtsrahmens auf die verbleibende Verantwortungslücke ist jedenfalls eindeutig: Verantwortlich bleibt die Organisation, die das System einsetzt, und die KI-Verordnung verlangt für riskante Anwendungen ausdrücklich wirksame menschliche Aufsicht durch Personen, die das System verstehen und eingreifen können.

Einen brauchbaren Ordnungsrahmen jenseits der Gesetze bieten die Ethik-Leitlinien für vertrauenswürdige KI, die eine hochrangige Expertengruppe der EU bereits 2019 vorgelegt hat. Sie benennen sieben Anforderungen, darunter menschliches Handeln und Aufsicht, technische Robustheit, Datenschutz, Transparenz, Vielfalt und Nichtdiskriminierung, gesellschaftliches und ökologisches Wohlergehen sowie Rechenschaftspflicht (Europäische Kommission 2019). Bemerkenswert ist der sechste Punkt: Die ökologische Verträglichkeit war hier schon als ethische Anforderung formuliert, Jahre bevor der Energiehunger der generativen KI Schlagzeilen machte. Ethik und Nachhaltigkeit sind in diesem Rahmen keine getrennten Disziplinen, sondern zwei Seiten derselben Verantwortung. Praktisch nutzbar werden die Leitlinien über die zugehörige Selbstbewertungsliste ALTAI, mit der Organisationen ihre Systeme Anforderung für Anforderung durchgehen können; sie eignet sich als Ausgangspunkt für interne Richtlinien, lange bevor ein System in eine formale Risikoklasse der KI-Verordnung fällt.

Die ökologische und soziale Dimension: was KI verbraucht

Der Ressourcenverbrauch der KI ist inzwischen gut vermessen; hier genügt der aktuelle Befund. Rechenzentren verbrauchten 2024 weltweit rund 415 Terawattstunden Strom, etwa 1,5 Prozent des globalen Verbrauchs. Nach dem Basisszenario der Internationalen Energieagentur verdoppelt sich dieser Wert bis 2030 auf rund 945 Terawattstunden, mehr als der heutige Jahresverbrauch Deutschlands und Frankreichs zusammen; KI ist dabei der mit Abstand stärkste Wachstumstreiber, ihr Anteil am Rechenzentrumsverbrauch lag 2024 bereits bei 15 bis 20 Prozent (IEA 2025). Die Dynamik hat sich seither eher beschleunigt: Für 2025 meldete die Agentur ein erneut kräftiges Wachstum, gebremst weniger durch Nachfrage als durch Engpässe bei Netzanschlüssen und Turbinen (IEA 2026). Der Engpass trifft auf Konkurrenz: Dieselben Anschlusskapazitäten, um die sich Batteriespeicher bewerben, beanspruchen auch Rechenzentren. Regional ist die Konzentration dabei erheblich. In Irland entfielen 2024 bereits 22 Prozent des gemessenen Stromverbrauchs auf Rechenzentren (CSO 2025), und in Deutschland bündelt der Raum Frankfurt mit seinem Internetknoten einen erheblichen Teil der Kapazitäten, mit spürbaren Folgen für Netzplanung und Flächenkonkurrenz. Die EU reagiert mit Transparenz: Die novellierte Energieeffizienzrichtlinie verpflichtet größere Rechenzentren zu jährlichen Berichten über Energiebedarf, Effizienz und Abwärmenutzung (Europäische Kommission 2025).

Weniger sichtbar, aber regional oft kritischer ist das Wasser. Rechenzentren verdunsten Kühlwasser, und die IEA schätzt ihren weltweiten Verbrauch auf rund 560 Milliarden Liter im Jahr 2023, mit möglichem Anstieg auf 1,2 Billionen Liter bis 2030 (IEA 2025). Zur Einordnung: Bei 126 Litern je Person und Tag, dem deutschen Durchschnitt (Statistisches Bundesamt 2023), entspricht das rechnerisch dem jährlichen Trinkwasserverbrauch von mehr als zwölf Millionen Menschen. Forschende um Pengfei Li haben zudem vorgerechnet, dass schon das Training eines einzelnen großen Sprachmodells hunderttausende Liter Frischwasser verdunsten lässt und eine Handvoll Chatbot-Anfragen je nach Standort etwa einen halben Liter kostet (Li et al. 2023). Brisant wird das, weil Rechenzentren aus Gründen der Flächen- und Strompreise oft in trockene Regionen ziehen, dasselbe Muster wie beim Lithiumabbau. Auch die stoffliche Basis verbindet beide Themen: Chips, Platinen und Netzteile brauchen Gallium, Kupfer, Silizium und Seltene Erden, deren Förderbedingungen dieselben Fragen aufwerfen wie bei Batterierohstoffen.

Zur Nachhaltigkeitsdimension gehört schließlich die soziale Seite der Lieferkette, die in Bilanzen selten auftaucht. Damit Modelle brauchbar antworten, bewerten Menschen massenhaft Trainingsbeispiele und filtern verstörende Inhalte aus. Medienrecherchen dokumentierten bereits 2023, dass solche Datenarbeit für führende KI-Anbieter unter anderem in Kenia für Stundenlöhne von unter zwei US-Dollar geleistet wurde, teils mit erheblichen psychischen Belastungen für die Beschäftigten (Perrigo 2023). Wer KI-Systeme beschafft, hat damit eine Lieferkette mit Arbeitsbedingungen, Wasserrisiken und Rohstofffragen, strukturell nicht anders als bei Batterien oder Baustoffen. Die Frage liegt nahe, ob sich dieser Aufwand rechtfertigen lässt. Die Antwort hängt davon ab, was auf der Habenseite steht.

Die Anwendungsdimension: KI als Werkzeug der ESG-Arbeit

Auf der Habenseite steht zunächst die ESG-Arbeit selbst, deren Engpass selten der Wille ist, sondern die Datenarbeit. Nachhaltigkeitsberichte nach ESRS verlangen hunderte Datenpunkte, und selbst der freiwillige Standard (VS) für kleinere Unternehmen zieht Angaben aus Quellen, die verstreuter kaum sein könnten: Energieabrechnungen, Lieferantenauskünfte, Zählerstände, Verträge, Richtlinien. Sprachmodelle sind ausgesprochen gut darin, aus solchen unstrukturierten Dokumenten strukturierte Daten zu gewinnen, Entwürfe für Berichtskapitel zu erstellen, Lücken gegen Standardanforderungen zu prüfen oder Regulatorik zusammenzufassen. In der Wesentlichkeitsanalyse helfen sie, große Mengen an Stakeholder-Rückmeldungen und Branchenstudien auszuwerten. Der Effekt ist kein Ersatz der Fachleute, sondern eine Verschiebung ihrer Zeit: weg vom Abtippen, hin zu Bewertung und Steuerung. Die 2024 veröffentlichte Liste der ESRS-Datenpunkte zählte 161 Pflichtangaben unabhängig von der Wesentlichkeit und weitere 622, die der Wesentlichkeitsanalyse unterliegen (EFRAG 2024); ohne Werkzeugunterstützung bindet allein die Zusammenstellung ganze Stellenanteile. Zu einem ehrlichen Bild gehören allerdings auch die Grenzen: Sprachmodelle rechnen unzuverlässig, ihr Wissensstand veraltet, und bei Rechtsfragen ersetzt ihre Auskunft keine fachliche Prüfung. Deshalb verlangt Art. 4 der KI-Verordnung Kompetenz bei den Anwendern, und deshalb braucht jede nach außen gehende Aussage einen Beleg und eine Freigabe. Beides gilt im ESG-Reporting unvermindert.

Auch jenseits des Berichtswesens arbeitet KI für den Klimaschutz. Ein vielzitiertes frühes Beispiel lieferte Google, dessen Tochter DeepMind den Energiebedarf der Rechenzentrumskühlung mit lernenden Steuerungen um rund 40 Prozent senkte (DeepMind 2016), im späteren autonomen Betrieb über mehrere Standorte um rund 30 Prozent (DeepMind 2018). Dieselbe Logik treibt heute die prognosebasierte Steuerung von Batteriespeichern, die Optimierung von Wärmenetzen oder die Früherkennung von Anlagenschäden. Im Gebäudebestand liegen die naheliegenden Anwendungen in der Betriebsoptimierung: Lastprognosen für Heizung und Lüftung, das Erkennen schleichender Verbrauchsanstiege und die Priorisierung von Sanierungen anhand realer statt angenommener Verbräuche. Bei der Werkzeugwahl gilt allerdings Augenmaß in beide Richtungen: Nicht jede Aufgabe braucht das größte verfügbare Modell, und spezialisierte, auf eine Domäne zugeschnittene Systeme liefern bei geringerem Ressourceneinsatz oft die verlässlicheren Ergebnisse als Allzweckmodelle im Dauereinsatz. Und gegen jede Effizienzrechnung steht der Rebound-Effekt: Wenn die Auswertung billiger wird, wächst die Versuchung, einfach mehr auszuwerten. Eine Effizienztechnologie wird erst dann zur Nachhaltigkeitstechnologie, wenn jemand den Zweck diszipliniert.

Rechtfertigung in der Praxis: Kriterien für den verantwortlichen KI-Einsatz

Aus den drei Dimensionen lässt sich ein praktikabler Prüfkatalog ableiten, der ohne große Bürokratie auskommt. Am Anfang steht der Zweck: Welches Problem löst das System, und ist der Nutzen den Aufwand wert? Es folgt die Verhältnismäßigkeit der Mittel: das kleinste Modell, das die Aufgabe zuverlässig erfüllt, statt des größten, das verfügbar ist. Bei der Anbieterwahl zählen Transparenz über Energie- und Wasserverbrauch, der Strommix der Rechenzentren und vertragliche Zusagen zur Datenverarbeitung; die im dritten Abschnitt erwähnten Berichtspflichten für Rechenzentren verbessern die Auskunftslage hier von Jahr zu Jahr. Datensparsamkeit begrenzt, was Systeme überhaupt verarbeiten. Menschliche Aufsicht und dokumentierte Freigaben sichern die Stellen, an denen Ausgaben Wirkung entfalten. Und Transparenz nach innen wie außen, von der Kennzeichnung nach Art. 50, die seit dem 2. August 2026 gilt (der Digital Omnibus vom Juli 2026 gewährt lediglich Anbietern bereits vermarkteter generativer Systeme vier Monate Übergangsfrist für die Markierung, Verordnung (EU) 2026/1744), bis zur ehrlichen Kommunikation über Grenzen des Einsatzes, hält die Rechtfertigung überprüfbar.

Ein unterschätztes Praxisproblem ist dabei die Schatten-KI: Beschäftigte nutzen private Konten und frei verfügbare Tools, weil offizielle Werkzeuge fehlen oder umständlich sind. Solche ungesteuerten Nutzungen unterlaufen jeden Prüfkatalog, tauchen in keiner Ressourcenbilanz auf und sind datenschutzrechtlich heikel. Die wirksamste Gegenmaßnahme ist weniger das Verbot als ein gutes offizielles Angebot mit klaren Regeln. Organisatorisch gehört der Prüfkatalog dorthin, wo auch die KI-Kompetenz nach Art. 4 verankert ist: in die bestehende Governance aus Inventar, Rollen, Schulung und Review. Messbar wird die Umsetzung über einfache Kenngrößen, etwa den Anteil der KI-Anwendungsfälle mit dokumentiertem Zweck und benannter Aufsicht oder den Anteil extern veröffentlichter Inhalte, die eine dokumentierte Freigabe durchlaufen haben. Wer beides zusammenführt, beantwortet die Rechtfertigungsfrage nicht einmalig, sondern laufend, denn Modelle, Anbieter und Einsatzzwecke ändern sich. Der Maßstab bleibt dabei unbequem konkret: Ein KI-Einsatz, der Ressourcen verbraucht, ohne die eigene Nachhaltigkeitsarbeit messbar besser zu machen, ist schwer zu verteidigen. Einer, der Berichtsqualität hebt, Emissionen senken hilft und nachvollziehbar beaufsichtigt wird, braucht den Vergleich mit seiner Bilanz nicht zu scheuen.

Fazit: Blick nach Antalya

Die Rechtfertigungsfrage, die dieser Artikel für einzelne Unternehmen durchbuchstabiert hat, stellt sich im November auf der größten Bühne. Vom 9. bis 20. November 2026 tagt die 31. UN-Klimakonferenz in Antalya, ausgerichtet von der Türkei in Partnerschaft mit Australien (UNFCCC 2026). Auf der Tagesordnung stehen die Umsetzung der nachgeschärften nationalen Klimabeiträge und die offenen Finanzierungsfragen aus der Vorgängerkonferenz von Belém; quer dazu wird der wachsende Strombedarf der KI-Infrastruktur als Belastung des globalen Klimabudgets verhandelt werden, während dieselbe Technologie in Klimamodellen, Emissionsmonitoring und Berichtssystemen längst Teil der Lösungsarchitektur ist. Diese Doppelrolle ist kein Widerspruch, der sich auflösen ließe; sie ist die Bedingung, unter der über KI und Klima künftig entschieden wird.

Für ESG-Verantwortliche heißt das: Wer den eigenen KI-Einsatz heute nach Zweck, Verhältnismäßigkeit und Aufsicht ordnet, ist für diese Debatte sprachfähig, gegenüber Prüfern ebenso wie gegenüber Kunden und Beschäftigten. Die ethische, die ökologische und die Anwendungsperspektive ergeben dann kein Dilemma, sondern ein Steuerungsmodell. Was von der Konferenz in Antalya zu erwarten ist, welche Verhandlungslinien sich abzeichnen und was die Ergebnisse für Unternehmen in Europa bedeuten könnten, ist das Thema des nächsten Artikels: eine Vorschau auf die COP31.

Dieser Beitrag ordnet die Rechtslage ein und ersetzt keine Rechtsberatung im Einzelfall.

Quellen

  • Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (2016, 23. Mai). Machine Bias. ProPublica. https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
  • CSO. (2025, 10. Juni). Data Centres Metered Electricity Consumption 2024. Central Statistics Office Ireland. https://www.cso.ie/en/releasesandpublications/ep/p-dcmec/datacentresmeteredelectricityconsumption2024/
  • Dastin, J. (2018, 10. Oktober). Amazon scraps secret AI recruiting tool that showed bias against women. Reuters. https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G
  • DeepMind. (2016). DeepMind AI reduces Google data centre cooling bill by 40%. https://deepmind.google/discover/blog/deepmind-ai-reduces-google-data-centre-cooling-bill-by-40/
  • DeepMind. (2018, 17. August). Safety-first AI for autonomous data centre cooling and industrial control. https://deepmind.google/discover/blog/safety-first-ai-for-autonomous-data-centre-cooling-and-industrial-control/
  • EFRAG. (2024, Mai). EFRAG IG 3: List of ESRS datapoints. Explanatory note. https://www.efrag.org/sites/default/files/sites/webpublishing/SiteAssets/EFRAG%20IG%203%20List%20of%20ESRS%20Data%20Points%20-%20Explanatory%20Note.pdf
  • Europäische Kommission. (2019). Ethics guidelines for trustworthy AI. https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
  • Europäische Kommission. (2025, 17. November). In focus: Data centres – an energy-hungry challenge. https://energy.ec.europa.eu/news/focus-data-centres-energy-hungry-challenge-2025-11-17_en
  • Europäische Union. (2024). Verordnung (EU) 2024/1689 (KI-Verordnung). Amtsblatt der Europäischen Union. https://eur-lex.europa.eu/eli/reg/2024/1689/oj
  • Europäische Union. (2026). Verordnung (EU) 2026/1744 (Digital Omnibus on AI). Amtsblatt der Europäischen Union. https://eur-lex.europa.eu/eli/reg/2026/1744/oj
  • IEA. (2025). Energy and AI. International Energy Agency. https://www.iea.org/reports/energy-and-ai
  • IEA. (2026). Data centre electricity use surged in 2025, even with tightening bottlenecks driving a scramble for solutions. International Energy Agency. https://www.iea.org/news/data-centre-electricity-use-surged-in-2025-even-with-tightening-bottlenecks-driving-a-scramble-for-solutions
  • Li, P., Yang, J., Islam, M. A., & Ren, S. (2023). Making AI less „thirsty“: Uncovering and addressing the secret water footprint of AI models. arXiv. https://arxiv.org/abs/2304.03271
  • Perrigo, B. (2023, 18. Januar). Exclusive: OpenAI used Kenyan workers on less than $2 per hour to make ChatGPT less toxic. Time. https://time.com/6247678/openai-gpt-4-chatgpt-kenya-workers/
  • Statistisches Bundesamt. (2023). Wie hoch ist der Wasserverbrauch in Deutschland pro Tag und Einwohner?https://www.destatis.de/DE/Themen/Gesellschaft-Umwelt/Umwelt/FAQ/Wasserverbrauch.html
  • UNFCCC. (2026). UN Climate Change Conference Antalya, November 2026 (COP31). https://unfccc.int/cop31

‍