Murat Karaboga Bücher

Biometrie, Gesichtserkennung, Spracherkennung, Smarte Lautsprecher, Jedermann-Identifikation, Emotionserkennung, Privatsphäre, Datenschutz, Social Scoring Technologien zur Stimm-, Sprach- und Gesichtserkennung werden im Alltag bereits angewendet. Etwa in smarten Lautsprechern, die auf Kommando die gewünschte Musik abspielen oder Nutzerfragen beantworten, durch Strafverfolger zur Suche nach dem Gesicht von Verdächtigen in Videomaterial oder bei Bankkunden, die am Telefon anhand ihrer Stimme identifiziert werden. Diese Technologien versprechen, den Alltag ihrer Nutzerinnen und Nutzer zu vereinfachen, ihnen frühzeitige Hinweise auf Krankheiten zu geben und der Polizei neue Möglichkeiten bei der Verbrechensbekämpfung zu eröffnen. Dabei ist gar nicht sicher, wie zuverlässig sie funktionieren und ob sie mit geltendem Recht in Einklang stehen. Hinzu kommen umstrittene Nutzungen, etwa die Möglichkeit, auf den Gesundheitszustand, Emotionen und Gewohnheiten einer Person zu schliessen. In dieser Studie werden zahlreiche Anwendungen aus technischer, rechtlicher und ethischer Sicht untersucht und daraus Handlungsempfehlungen abgeleitet. Wie kann die Technologie verantwortungsbewusst eingesetzt werden, und wo wäre ein Verbot sinnvoll? Die Diskussion über Stimm-, Sprach- und Gesichtserkennung ist in vollem Gang, die Studie bietet dazu fundierte Orientierung.

Desinformation, Identitätsmissbrauch, Facial Reenactment, Face Morphing, Face Swapping, Gesichtsgeneration, Full Body Puppetry, Deepfake-Audio Die Imitation von Stimmen und Gesichtern mittels neuer KI-Technologien wird zunehmend einfacher – und die Resultate sind schon heute kaum mehr von echten Stimmen und Gesichtern zu unterscheiden. Diese Technologien bieten viele kreative und innovative Nutzungspotenziale, sowohl für Privatnutzende als auch für verschiedene Wirtschaftsbereiche. Andererseits sind Deepfake-Videos und Deepfake-Audios auch Quell zahlreicher Risiken: Sie können z.B. politische Desinformation vereinfachen, Mobbing Vorschub leisten und kriminelle Aktivitäten begünstigen. Angesichts der fortwährenden Debatten über die Chancen und Risiken von Deepfakes wird in der Studie der Umgang mit einer veränderten Realität diskutiert, in der täuschend echte Fälschungen mit Originalmedien um die Aufmerksamkeit der Zuschauer konkurrieren. Was ist technisch möglich? Welche Grenzen setzt das Recht? Was weiss und denkt die Bevölkerung über Deepfakes? Wie geht der Journalismus mit dem Phänomen um? Welche Rolle könnten Deepfakes in Politik und Wirtschaft spielen? Die Studie bietet zu diesen und weiteren Fragen fundierte Orientierung und zeigt darauf basierende Handlungsmöglichkeiten auf.