{"id":2140,"date":"2022-05-16T10:08:33","date_gmt":"2022-05-16T08:08:33","guid":{"rendered":"https:\/\/www.hijob.me\/blog\/?p=2140"},"modified":"2022-05-16T10:08:33","modified_gmt":"2022-05-16T08:08:33","slug":"bad-ai-wann-wendet-sich-ki-gegen-uns","status":"publish","type":"post","link":"https:\/\/www.hijob.me\/blog\/new-work\/bad-ai-wann-wendet-sich-ki-gegen-uns\/","title":{"rendered":"„Bad AI“: Wann wendet sich KI gegen uns?"},"content":{"rendered":"\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Wir kennen Sie alle: Diese apokalyptischen Filme, in denen sich eine KI der Kontrolle durch den Menschen entzieht und gegen den Willen ihrer Entwickler*innen agiert. Um das einmal klarzustellen: Das ist der Stoff, aus dem Science-Fiction-Filme gemacht sind. Der Realit\u00e4t entspricht das nicht. KI-Systeme k\u00f6nnen zwar zu L\u00f6sungen kommen, die nicht absehbar waren. Eigene, b\u00f6sartige Ziele entwickelt sie jedoch nicht \u2013 daf\u00fcr fehlt ihnen etwas ganz Wesentliches: Bewusstsein. Dennoch kann eine eigentlich sinnvolle K\u00fcnstliche Intelligenz gef\u00e4hrlich werden: Wenn sie missbr\u00e4uchlich eingesetzt wird. In diesem Artikel besch\u00e4ftigen wir uns mit der dunklen Seite der KI.<\/b><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
<\/div>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Der b\u00f6sartige Supercomputer HAL \u2013 reine Fiktion<\/b><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
<\/div>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Erinnern Sie sich noch an den Supercomputer HAL aus Stanley Kubricks Verfilmung des Science-Fiction-Klassikers \u201e2001: Odyssee im Weltraum\u201c? Er befindet sich auf einer bemannten Mission zum Jupiter und hat ein Problem mit Menschen. Er hat n\u00e4mlich erkannt, wie fehleranf\u00e4llig die Zweibeiner sind. Die KI kommt daher zu dem Schluss: Die menschliche Besatzung ist f\u00fcr den Auftrag entbehrlich. Daher wendet sie sich gegen sie.<\/p>

Viele Streifen dieser Sorte haben im Kino Filmgeschichte geschrieben. \u201eA.I. \u2013 K\u00fcnstliche Intelligenz\u201c, \u201eTerminator\u201c, \u201eI, Robot\u201d, \u201eMatrix\u201c oder \u201eEx Machina\u201c \u2013 sie alle drehen sich um ein und dasselbe Motiv: Eine KI entwickelt ein Bewusstsein und wendet sich mit verheerenden Folgen gegen ihre Sch\u00f6pfer*innen. Doch von der Realit\u00e4t ist das weit entfernt. Das Ganze ist und bleibt der Stoff f\u00fcr Filme.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
<\/div>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

KI kann Sch\u00e4den anrichten<\/b><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
<\/div>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
<\/div>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Kleinzureden ist es aber nicht, dass K\u00fcnstliche Intelligenz tats\u00e4chlich erhebliche Sch\u00e4den anrichten kann. Dann etwa, wenn sie f\u00fcr die falschen Zwecke eingesetzt wird. Eines der markantesten Beispiele daf\u00fcr ist die Entwicklung der Bilderkennung und -generierung durch KI. Diese war vor ein paar Jahren noch auf dem Stand, dass sie nur grauschleierige Phantombilder schaffen konnte. Inzwischen ist es mit sogenannten Deep-Fake-Technologien m\u00f6glich, in Videos Gesichter mit extrem realit\u00e4tsnaher Mimik auf fremde K\u00f6rper zu pfropfen.<\/p>

Grunds\u00e4tzlich ist diese Entwicklung bahnbrechend. Als Visual Effect erlaubt sie in Filmen einmalige Aufnahmen, in denen zum Beispiel verstorbene Schauspieler*innen auf der Leinwand wieder zum Leben erweckt werden k\u00f6nnen. Ein gutes Beispiel hierf\u00fcr ist die Nachbildung des 1994 verstorbenen Peter Cushing in Star Wars: Rogue One (2017). Mit Deepfakes ist es auch m\u00f6glich, Schauspieler*innen j\u00fcnger erscheinen zu lassen. Die Technik ist bei Will Smith in Gemini Man angewandt worden.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
<\/div>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Deep-Fakes in der Bildung<\/b><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
<\/div>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Auch in der Bildung kommen Deep-Fakes gewinnbringend zum Einsatz. Das Dal\u00ed-Museum in St. Petersburg, Florida, nutzte etwa die Technologie als Teil einer Ausstellung. Ein lebensgro\u00dfer Deep-Fake von Salvador Dal\u00ed erz\u00e4hlte den Besucher*innen Geschichten \u00fcber sein Leben.\u00a0<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
<\/div>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
<\/div>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
<\/div>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Die Schattenseite: Die Technik \u00f6ffnet bei der Manipulation von Nachrichten T\u00fcr und Tor. Was ist, wenn mit derartigen Deep-Fake-Videos Politiker*innen falsche Aussagen in den Mund gelegt werden? Diese sind so t\u00e4uschend echt, dass es schwerf\u00e4llt, den Betrug zu erkennen. Das kann Katastrophen bis hin zu Kriegen ausl\u00f6sen.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
<\/div>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Schadhafter Einsatz von Gesichtserkennungstechnologien<\/b><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
<\/div>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Ein nicht minder brisantes Thema ist der Einsatz von Gesichtserkennungstechnologien, der derzeit weltweit f\u00fcr heftige Debatten sorgt. Einerseits gelten Gesichtserkennungstechnologien zum Beispiel in der Strafverfolgung als \u00e4u\u00dferst effizient. In verschiedenen L\u00e4ndern konnten damit schon einige Straft\u00e4ter*innen zur Rechenschaft gezogen werden.\u00a0<\/p>

Auch hierzulande melden die Ermittlungsbeh\u00f6rden in Deutschland Erfolge und haben bereits Hunderte mutma\u00dfliche T\u00e4ter und T\u00e4terinnen per Gesichtserkennungsprogramm gestellt. Nach Angaben der Bundesregierung recherchierte die Bundespolizei im ersten Halbjahr 2019 rund 1.200-mal im Gesichtserkennungssystem des BKA und identifizierte 219 Personen.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
<\/div>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Wenn Grenzen beim Einsatz einer KI \u00fcberschritten werden<\/b><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
<\/div>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Aber auch hier gibt es eine Kehrseite. Was ist, wenn die Technik – wie in China – eingesetzt wird, um die Bev\u00f6lkerung zu kontrollieren und zu beobachten? Stichwort: Social Scoring. Im Grunde m\u00fcssen Sie sich das Ganze wie folgt vorstellen: \u00dcberall im \u00f6ffentlichen Raum gibt es Kameras, die alles mitschneiden. Jede noch so kleine Verfehlung wird registriert. Beispielsweise, wenn jemand bei Rot \u00fcber die Stra\u00dfe geht. Eine Gesichtserkennungssoftware analysiert die Gesichter und dokumentiert alles. Jeden noch so kleinen Fehltritt.<\/p>

Je nach Schwere eines Fehlers sinkt der pers\u00f6nliche Social Score einer Person um eine festgelegte Anzahl an Punkten. Was ist das? Durch die Vergabe von \u201ePunkten\u201c f\u00fcr bestimmte Verhaltensweisen f\u00f6rdert die Regierung Chinas w\u00fcnschenswertes Verhalten. Durch den Entzug von Punkten sanktioniert sie dagegen negatives Verhalten. Der pers\u00f6nliche Punktewert einer Person ist der Social Score.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
<\/div>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Stichwort: Social Scoring<\/b><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
<\/div>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Restriktive Regierungen k\u00f6nnen den Social Score nutzen, um die verschiedensten Lebensbereiche zu beeinflussen. Zum Beispiel k\u00f6nnte wegen wiederholten Fehlverhaltens im \u00f6ffentlichen Raum die Haftpflichtversicherung teurer werden. Wer sich nicht gesund ern\u00e4hrt, muss h\u00f6here Krankenkassenbeitr\u00e4ge zahlen und so weiter. Auch auf die Berufswelt kann sich der Social Score auswirken. Personen mit einem schlechten Social Score k\u00f6nnten von vornherein von bestimmten Berufen ausgeschlossen werden. Der Staat kann also das ganze Leben beeinflussen.<\/p>

Und je nachdem, wie strikt er Sanktionen schon bei kleineren Fehltritten vornimmt, f\u00fchrt das zu erheblichen pers\u00f6nlichen und beruflichen Einschr\u00e4nkungen. Damit ist das Ende der Fahnenstange nicht erreicht: Was ist, wenn es zu Manipulationen kommt und der Social Score bestimmter Personen von vornherein so eingestellt ist, dass diese nie \u00fcber einen bestimmten Schwellenwert kommen? So k\u00f6nnten ganze Bev\u00f6lkerungsgruppen von sozialen und beruflichen M\u00f6glichkeiten ausgeschlossen werden. Das ist Diskriminierung mittels KI.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
<\/div>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Fazit<\/b><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
<\/div>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Diese Beispiele zeigen: KI ist immer nur so gut, wie ihre menschlichen Anwender*innen. Eine KI kann jederzeit ausgenutzt werden. Was ist die L\u00f6sung? K\u00fcnstliche Intelligenzen zu zentralisieren und streng zu kontrollieren, w\u00e4re zum Beispiel eine M\u00f6glichkeit, Missbrauch vorzubeugen. Es muss Regeln geben, die festlegen, was erlaubt ist und was nicht.<\/strong> Wenn es erstmal einen gewissen STANDARD gibt, verringert sich die Wahrscheinlichkeit, dass KI in gro\u00dfem Stil sch\u00e4dlich eingesetzt wird.<\/p>

Aber eines sollte bis hierhin klar geworden sein: Man muss die Menschheit nicht vor einer KI sch\u00fctzen, sondern vor sich selbst. Sie ist es, die die M\u00f6glichkeiten, die eine K\u00fcnstliche Intelligenz bietet, sch\u00e4dlich nutzt.<\/strong> Daf\u00fcr m\u00fcssen L\u00f6sungen geschaffen werden. Und zwar schnell.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<\/div>\n\t\t","protected":false},"excerpt":{"rendered":"

Wir kennen Sie alle: Diese apokalyptischen Filme, in denen sich eine KI der Kontrolle durch den Menschen entzieht und gegen den Willen ihrer Entwickler*innen agiert. Um das einmal klarzustellen: Das ist der Stoff, aus dem Science-Fiction-Filme gemacht sind. Der Realit\u00e4t entspricht das nicht. KI-Systeme k\u00f6nnen zwar zu L\u00f6sungen kommen, die nicht absehbar waren. Eigene, b\u00f6sartige […]<\/p>\n","protected":false},"author":3,"featured_media":2143,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[130,88],"tags":[],"_links":{"self":[{"href":"https:\/\/www.hijob.me\/blog\/wp-json\/wp\/v2\/posts\/2140"}],"collection":[{"href":"https:\/\/www.hijob.me\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.hijob.me\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.hijob.me\/blog\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.hijob.me\/blog\/wp-json\/wp\/v2\/comments?post=2140"}],"version-history":[{"count":45,"href":"https:\/\/www.hijob.me\/blog\/wp-json\/wp\/v2\/posts\/2140\/revisions"}],"predecessor-version":[{"id":2190,"href":"https:\/\/www.hijob.me\/blog\/wp-json\/wp\/v2\/posts\/2140\/revisions\/2190"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.hijob.me\/blog\/wp-json\/wp\/v2\/media\/2143"}],"wp:attachment":[{"href":"https:\/\/www.hijob.me\/blog\/wp-json\/wp\/v2\/media?parent=2140"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.hijob.me\/blog\/wp-json\/wp\/v2\/categories?post=2140"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.hijob.me\/blog\/wp-json\/wp\/v2\/tags?post=2140"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}