DHS verkündet Anti-Vorurteils-KI-Richtlinien, Erster Leiter für Künstliche Intelligenz

Das Department of Homeland Security (DHS) hat am Donnerstag zwei neue Richtlinien zur künstlichen Intelligenz (KI) und seinen ersten Chief AI Officer angekündigt, wobei ein besonderer Schwerpunkt auf der Vermeidung von Vorurteilen liegt. Eric Hysen, auch Chief Information Officer (CIO) des DHS und Co-Vorsitzender der DHS Artificial Intelligence Task Force (AITF), wird als erster Chief AI Officer des Ministeriums fungieren. In einer Pressemitteilung sagte Hysen, er werde sicherstellen, dass der Einsatz von KI nicht zu Diskriminierung führt. „Die heute angekündigten Richtlinien stellen sicher, dass der Einsatz von KI im Ministerium frei von Diskriminierung ist und vollständig mit dem Gesetz in Einklang steht, um das Vertrauen der Öffentlichkeit zu wahren“, sagte Hysen.

Die beiden neuen Richtlinien „Beschaffung und Nutzung von künstlicher Intelligenz und maschinellem Lernen durch DHS-Komponenten“ und „Nutzung von Gesichtserkennungs- und Gesichtserfassungstechnologien“ betonen die Notwendigkeit, bei der Nutzung von KI „unangemessene Berücksichtigung von Rasse, Ethnizität, Geschlecht, Nationalität, Religion, sexueller Orientierung, Geschlechtsidentität, Alter, Staatsangehörigkeit, medizinischem Zustand oder Behinderung“ zu vermeiden, sowie jegliche „unerwünschte Voreingenommenheit oder ungleiche Auswirkungen“. Die erste Richtlinie, die letzten Monat erlassen wurde, konzentrierte sich allgemein auf den Einsatz von KI sowie auf das Pendant, das maschinelles Lernen (ML) betrifft. Das DHS erklärte, es werde „bestrebt sein, unangemessene Voreingenommenheit“ und diskriminierende Auswirkungen bei der Nutzung von KI zu minimieren und sich dabei auf Methoden der Bewertung von Bürgerrechten wie die Analyse der ungleichen Auswirkungen zu stützen. Das DHS verpflichtete sich auch, KI-Technologie nicht für „unzulässige“ systemische, undifferenzierte oder groß angelegte Überwachungs- oder Verfolgungssysteme einzusetzen.

Gemäß dem Justizministerium vermeidet die ungleiche Auswirkung, dass „die Auswirkungen der Praktiken des Empfängers fortbestehen, die die Folgen früherer Diskriminierung aufrechterhalten“. „In einem Fall ungleicher Auswirkungen konzentriert sich die Untersuchung auf die Folgen der Praktiken des Empfängers, nicht auf die Absicht des Empfängers“, erklärte das Justizministerium. Im Rahmen dieser Richtlinie kündigte das DHS die Einrichtung einer Arbeitsgruppe für KI-Politik (AIPWG) an, die mit der AITF bei der weiteren Entwicklung von KI-Politik und -Umsetzung zusammenarbeiten soll.

Die zweite Richtlinie, die am 11. September erlassen wurde, konzentrierte sich speziell auf Gesichtserkennungs- und Gesichtserfassungstechnologien. Das DHS erklärte, dass die Datenerfassung aus den Technologien nicht auf Rasse, Ethnizität, Nationalität, Religion, Geschlecht, Geschlechtsidentität, Alter, sexuelle Orientierung, medizinischen Zustand oder Behinderung basieren würde, um „Voreingenommenheit und ungleiche Auswirkungen“ zu minimieren. Das DHS stellte außerdem fest, dass die Gesichtsanalysetechnologie, die auf einem Algorithmus basiert, um die Merkmale einer Person auf einem Film zu schätzen, nur dann verwendet wird, wenn es notwendig ist, das Alter zu schätzen. Die Richtlinie benannte die zuständigen Behörden für den Einsatz der beiden Technologien, darunter den CIO, den Unterstaatssekretär für Management, den Unterstaatssekretär für Wissenschaft und Technologie, den Unterstaatssekretär für Strategie, Politik und Pläne, den Datenschutzbeauftragten, das Büro für Bürgerrechte und Bürgerfreiheiten, den General Counsel und den Chief Information Security Officer. Die AITF hat diese Richtlinien entwickelt

Original Artikel Teaser

DHS Announces Anti-Bias AI Policies, First Chief AI Officer

The Department of Homeland Security (DHS) announced two new policies addressing artificial intelligence (AI) and its first chief AI officer on Thursday, with a special emphasis on preventing bias.Eric Hysen, also DHS Chief Information Officer (CIO) and co-chair of the DHS Artificial Intelligence Task Force (AITF), will serve as the department’s first chief AI officer. In a press release, Hysen said that he would ensure the AI usage wouldn’t result in discrimination.“The policies we are announcing today will ensure that the Department’s use of AI is free from discrimination and in full compliance with the law, ensuring that we retain the public’s trust,” said Hysen.The two new policies, “Acquisition and Use of Artificial Intelligence and Machine Learning by DHS Components”

Details zu DHS Announces Anti-Bias AI Policies, First Chief AI Officer