Breaking News: Emotion AI am Arbeitsplatz – Bedenken der Arbeitnehmer

Yuval Noah Harari warnt vor den Gefahren von künstlicher Intelligenz

Wir haben die Warnungen von Yuval Noah Harari gehört, dass, wenn wir nicht herausfinden, wie man künstliche Intelligenz (KI) reguliert, menschliche Gehirne bald gehackt werden könnten. Dies spricht wohl zu den schlimmsten Ängsten der Menschheit in Bezug auf KI. Besonders beunruhigend ist es, wenn man von Hararis Berater Schwab hört, dass „ein Mensch hacken bedeutet, diese Person besser zu kennen als sie sich selbst kennen“, was es denen, die die Technologie besitzen, ermöglichen kann, uns zunehmend zu manipulieren. Wir mögen glauben, dass diese extreme Bedrohung unserer Privatsphäre irgendwann in der Zukunft eintreten wird, aber das von Harari beschriebene „Hacken“ ist eher sprichwörtlich als wörtlich zu verstehen und findet bereits in Umgebungen wie Facebook und YouTube statt, wo wir dazu gebracht werden, Inhalte anzusehen, die die Algorithmen als für uns interessant erachten. Es scheint nun, dass viele allmählich desensibilisiert sind gegenüber diesem „Hacken“ und der Manipulation, was es ermöglicht, dass sie ohne allzu viel Protest zunimmt.

Emotion-Tracking – KI am Arbeitsplatz: Arbeitnehmer fürchten Überwachung und Missverständnisse

Emotionale künstliche Intelligenz verwendet biologische Signale wie Stimmton, Gesichtsausdrücke und Daten von tragbaren Geräten sowie Text und die Art und Weise, wie Menschen ihre Computer nutzen, um zu erkennen und vorherzusagen, wie sich jemand fühlt. Sie wird in alltäglichen Kontexten wie Unterhaltung und in sensiblen Bereichen wie dem Arbeitsplatz, der Einstellung und der Gesundheitsversorgung eingesetzt. Eine Vielzahl von Branchen nutzt bereits emotionale KI, darunter Call-Center, Finanzwesen, Bankwesen, Pflege und Gesundheitsfürsorge. Über 50% der großen Arbeitgeber in den USA nutzen emotionale KI, um auf die internen Zustände der Mitarbeiter zu schließen, eine Praxis, die während der COVID-19-Pandemie zunahm. Gelehrte haben Bedenken hinsichtlich der wissenschaftlichen Validität der emotionalen KI und ihrer Abhängigkeit von umstrittenen Theorien über Emotionen geäußert. Sie haben auch das Potenzial der emotionalen KI zur Verletzung der Privatsphäre und zur Ausstellung von Vorurteilen hinsichtlich Rasse, Geschlecht und Behinderung hervorgehoben.

Arbeitnehmer äußern Bedenken gegenüber Emotion AI am Arbeitsplatz

Um zu verstehen, wohin der Einsatz von Emotion AI am Arbeitsplatz führt, haben meine Kollegin Karen Boyd und ich die Vorstellungen von Erfindern über Emotion AI am Arbeitsplatz untersucht. Wir analysierten Patentanträge, die Emotion AI-Technologien für den Arbeitsplatz vorschlugen. Die von den Antragstellern behaupteten Vorteile umfassten die Bewertung und Unterstützung des Wohlbefindens der Mitarbeiter, die Gewährleistung der Arbeitssicherheit, die Steigerung der Produktivität und die Unterstützung bei Entscheidungen wie Beförderungen, Kündigungen von Mitarbeitern und Zuweisung von Aufgaben. Wir fragten uns, was die Arbeitnehmer über diese Technologien denken. Würden sie auch diese Vorteile wahrnehmen? Zum Beispiel, würden die Arbeitnehmer es als vorteilhaft empfinden, wenn Arbeitgeber sie bei ihrem Wohlbefinden unterstützen würden? Unsere Studie hatte 289 Teilnehmer aus der repräsentativen Stichprobe und 106 Teilnehmer aus der Überstichprobe. Wir fanden heraus, dass 32% der Befragten angaben, keinen Nutzen von der Verwendung von Emotion AI am Arbeitsplatz zu haben, sei es aktuell oder erwartet. Während einige Arbeitnehmer potenzielle Vorteile der Emotion AI-Nutzung am Arbeitsplatz wie eine erhöhte Unterstützung des Wohlbefindens und der Arbeitssicherheit feststellten, äußerten alle auch Bedenken. Sie waren besorgt über Schäden an ihrem Wohlbefinden und ihrer Privatsphäre, Schäden an ihrer Arbeitsleistung und ihrem Beschäftigungsstatus sowie Vorurteile und Stigmatisierung gegen sie

Original Artikel Teaser

Emotion-Tracking – AI on the job: Workers Fear Being Watched – and Misunderstood.

Breaking News We have heard the warnings from Yuval Noah Harari, that if we don’t figure out how to regulate artificial intelligence (AI) human brains will be hacked soon ,” a statement that arguably speaks to humanity’s worst fears about AI. This may be especially so, when hearing from Schwab’s advisor Harari that to “hack a human being is to get to know that person better than they know themselves,” which can enable those who own the technology to increasingly manipulate us. We may believe this extreme threat to our privacy will occur some time in the future, but, the hacking Harari is describing is more proverbial than literal, and has already been occuring in environments like Facebook and YouTube

Details zu Emotion-Tracking – AI on the job: Workers Fear Being Watched – and Misunderstood.