Künstliche Intelligenz in den Sozialen Medien zur Suizidprävention

Hat die Nutzung sozialer Medien Einfluss auf unser psychisches Wohlbefinden? Kann der Einsatz von künstlicher Intelligenz auf sozialen Plattformen dazu beitragen psychisches Leiden frühzeitig zu erkennen und vorzubeugen?

Der Begriff „Suizid“ bezeichnet eine absichtlich herbeigeführte Beendigung des eigenen Lebens. Umgangssprachlich werden für Suizid auch die Begriffe „Selbstmord“ oder „Freitod“ verwendet.[1] Suizid gehört zu den häufigsten Todesursachen. Laut der WHO nehmen sich jährlich etwa 800.000 Menschen weltweit das Leben. Das bedeutet, dass alle 40 Sekunden ein Mensch auf der Welt sich das Leben nimmt. In Deutschland waren es 2017 mehr als 25 pro Tag. So ruft die WHO alle Staaten dazu auf, bewährte Strategien zur Vorbeugung gegen Selbstmord in ihre nationalen Gesundheits- und Bildungsprogramme einzubeziehen.[2] Dr. Elke Ruchalla berichtet in der MEDICAL TRIBUNE über einen möglichen Kausalzusammenhang zwischen Suizidmeldungen in den Medien und der Anzahl der nachfolgenden Selbsttötungen. Es käme vor allem auf die Art der Berichterstattung an, welche entweder die Rate der Nachfolgetaten erhöht oder potenzielle Suizidgefährdete für Hilfsangebote empfänglich macht.[3]  Einige Vorfälle, in denen Social-Media-User die Live-Streaming-Dienste wie „Facebook Live“ benutzten, um ihre Selbstmorde live zu übertragen[4], legen die Vermutung nahe, dass die Nutzung sozialer Plattformen einen Beitrag zu Suizidfällen leistet oder anders gesehen auch hier präventiv einen Eingriff ermöglicht um Suizid zu vermeiden.

Schließlich ermöglichen die sogenannten Sozialen Medien es den Nutzern sich via Internet verbal und medial auszutauschen und zu vernetzen. Bisher gibt es jedoch eher wenige repräsentative Studien über den Zusammenhang zwischen diesen Sozialen Netzwerken und gesundheitlichen Problemen. Eine kanadische Studie aus dem Jahr 2014 an 750 Schülern im Alter von 12 bis 17 Jahren warnt vor psychischen Problemen bei intensiver Nutzung Sozialer Medien wie Facebook, Twitter, Snapchat etc. von mehr als zwei Stunden täglich. Mehr als ein Viertel der Intensivnutzer klagten demnach überwiegend über Angst, Depressionen und andere schlechte psychologische Zustände. Einschränkend ist jedoch zu erwähnen, dass nicht untersucht wurde, ob tatsächlich ein Kausalzusammenhang zwischen dem Medienverhalten und der labilen Persönlichkeit der genannten Jugendlichen besteht oder ob das Medienverhalten lediglich ein verstärkender Ausdruck der ohnehin schwachen Psyche war. Häufig werden Wechselseitigkeit und Ursächlichkeit zu schnell gleichgesetzt.[5] Immerhin zeigt eine repräsentative Forsa-Studie aus dem Jahr 2018 basierend auf wissenschaftlichen Kriterien aus den Niederlanden (Social Media Disorder Scale), dass 2,6% der befragten, deutschen Jugendlichen im Alter von 12-17 Jahren süchtig nach WhatsApp, Instagram und Co. sind.[6] Außerdem fanden Christopher Danfort und Andrew Reece von den Universitäten Harvard und Vermont im Rahmen einer Studie heraus, dass sich am Instagram-Auftritt eines Users erkennen lässt, ob eine Person depressiv ist. Nach Auswertung von mehr als 43 000 Fotos stellten sie fest, dass Depressive häufiger dunkle, graue, blaue oder Schwarz-Weiß-Aufnahmen posten. Auf den Bildern gesunder Nutzer hingegen, sind öfter Gesichter zu sehen die einen der beliebtesten Filter benutzen, der sie wärmer und heller erscheinen lässt.[7]

Seit 2017 setzt Facebook einen Algorithmus mit künstlicher Intelligenz (KI) ein, der Beiträge und Kommentare von Facebook-Nutzern nach verdächtigen Hinweisen scannt und gegebenenfalls Alarm schlägt.[8] Ein Algorithmus ist eine Reihe von Anweisungen, die schrittweise ausgeführt werden, um ein Problem zu lösen.[9] Wie genau der Algorithmus von Facebook funktioniert bleibt jedoch Betriebsgeheimnis. Immerhin weiß man, dass beim Durchsuchen der Userposts Inhalte registriert werden, welche auf Selbstmordgedanken oder konkrete Suizidpläne hinweisen. Es geht dabei um Begriffe, die mit Suizid, Selbstverletzung oder Depression in Verbindung stehen, oder auch um Kontaktaufnahmen zu anderen bereits beobachteten Nutzern. Facebooks künstliche Intelligenz bildet aus diesen Informationen eine Art Suizidrisiko-Score auf einer Skala von eins bis zehn. Die Zahl „Eins“ steht dabei für „unmittelbare Gefahr“.[10] Verdachtsfälle landen bei Mitarbeitern von Facebook. Diese nehmen dann Kontakt auf und bieten Hilfsangebote, wie beispielsweise Telefonnummern an. Zudem informiert der Mitarbeiter direkt die örtlichen Behörden oder die Polizei über den Verdacht.

Und wie ist es mit der Erfolgsquote der künstlichen Intelligenz?

Jan Kalbitzer, Facharzt für Psychiatrie und Leiter des Zentrums für Internet und seelische Gesundheit (ZISG) an der Berliner Charité, findet die Nutzung von Algorithmen zur Suizidvorbeugung grundsätzlich sinnvoll, ist jedoch darum besorgt, dass die menschliche Verantwortung zu sehr auf die Maschinen abgewälzt werden könnte.[11] Marc Zuckerberg, der Facebook-Chef berichtete 2019, dass die Warnungen des Algorithmus im vergangenen Jahr weltweit zu 3500 Einsätzen von Ersthelfern geführt hätten.[12] Laut amerikanischer Medienberichte überprüfe Facebook nicht einmal, ob die Alarme wirklich zutreffend waren.[13] Ein Fehlalarm jedoch, könnte immense Folgen haben und unter anderem Betroffene davon abhalten, ihre Gefühle, Ängste und Sorgen überhaupt auf der Plattform zu teilen.[14]

Bisweilen wurde die künstliche Intelligenz ausschließlich in den USA eingesetzt und soll zukünftig in der ganzen Welt zum Einsatz kommen.[15] Ethiker kritisieren Facebooks Vorgehen zur Suizidprävention. Die Vorsitzende des Europäischen Ethikrates (EGE), Christiane Woopen hielt Facebook unter anderem vor, dass der Einsatz von KI ethisch nicht vertretbar sei, da das Handeln ohne Einwilligung der Kunden geschieht und die Privatsphäre verletzt. Deswegen fordern Ethikexperten mehr Datenschutz und wissenschaftliche Nachweise, die belegen können, dass das Suizidpräventionsprogramm mehr Nutzen bringt, als es Schaden anrichtet. Aus Sicht des Paderborner Philosophen und Informatikers T. Matzner wird deutlich, welch intimes Wissen Firmen inzwischen erlangen können. Die wissenschaftliche Leiterin der Stiftung Datenschutz in Leipzig, Anne Riechert, betonte, dass es sich hier um Daten handelt, welche einer besonderer Schutzbedürftigkeit unterliegen und deren Verarbeitung untersagt sei. Dies gelte gerade dann, wenn durch sie eine Notlage offengelegt werde, die die Betroffenen beschämen könnte.[16]

Fazit

Abschließend lässt sich festhalten, dass soziale Plattformen Raum für einen anonymen Austausch liefern, in denen verzweifelte Menschen ihre Sorgen, Ängste und Emotionen frei äußern können. Dies ermöglicht einerseits, dass psychisch labile Menschen dort offen – ohne jegliche Angst vor einen Gesichtsverlust – kommunizieren können. Andererseits liegt auch hier genau die Gefahr. Menschen mit Suizidgedanken, könnten hier auch Bestätigung darin finden, dass eine Selbsttötung der einzige Ausweg sei. Ob die sozialen Medien der Auslöser für psychisches Leid sind, kann aus Mangel an stichhaltigen Studien bisher nicht bestätigt werden. Dennoch ist dies nicht vollkommen auszuschließen. Der Einsatz von künstlicher Intelligenz auf Social-Media-Plattformen ist also sehr umstritten. Laut Facebook-Chef Mark Zuckerberg scheint der Einsatz der KI ein Erfolg zu sein. Philosophen und Ethiker bestreiten andererseits die Rechtmäßigkeit dieses Vorgehens und warnen davor, dass die Verantwortung auf einen Algorithmus abgewälzt wird. Die Folgen eines Fehlalarms können für Betroffene ihrer Meinung nach fatal sein. Zumal diese Fälle nicht überprüft werden.      

Ohne weiterführende Studien, die gezielt die Ursachen und Wirkungen von Depressionen im Zusammenhang mit Sozialen Medien untersuchen, lassen sich zunächst keine weiteren verlässlichen Aussagen machen.


[1] Vgl. Dreier, M/Liebherz,S/Härter,M (2018) Psychenet.de

[2] Vgl. A.U. (2019) aerzteblatt

[3] Vgl. Ruchalla, E. MEDICAL TRIBUNE

[4] Vgl. Brauser, D. (2019) Medscape.

[5] Vgl. A.U. (2018) Medienkompetenz für Sachsen

[6] Vgl. Bodanowitz, J. (2018) DAK Gesundheit

[7] Vgl. Dorn, J. (2017) Süddeutsche Zeitung

[8] Vgl. Lossau, N. (2019) Gesundheit.

[9] Vgl. Schanze, R. (2017). Giga.

[10] Vgl. Rüschemeyer, G. (2019) Frankfurter Allgemeine.

[11] Dorn, J. (2017) Süddeutsche Zeitung

[12] Vgl. Lossau, N. (2019) Gesundheit.

[13] Vgl. Arens, C. (2019) DOMRADIO.DE

[14] Vgl. ZDF (2019) zdfheute.

[15] Vgl. Fron, C. (2018) Deutschlandfunk Kultur

[16] Vgl. Arens, C. (2019) DOMRADIO.DE

Literaturverzeichnis

Aerzteblatt. (2019) WHO: Alle 40 Sekunden stirbt ein Mensch durch Suizid.  https://www.aerzteblatt.de/nachrichten/105842/WHO-Alle-40-Sekunden-stirbt-ein-Mensch-durch-Suizid (Aufruf 2020-05-28)

Arens, C. (2019) DOMRADIO.DE Ethiker kritisieren Facebooks Vorgehen bei Suizidbekämpfung – Intimes Wissen. https://www.domradio.de/themen/ethik-und-moral/2019-02-12/ethiker-kritisieren-facebooks-vorgehen-bei-suizidbekaempfung (Aufruf 2020-06-15)

A.U. (2018) Medienkompetenz für Sachsen. http://wm2000.de/mediathek/monatsthemen/77-soziale-netzwerke-als-risiko-fuer-die-gesundheit (Aufruf 2020-05-26)

Brauser, D. (2019) Medscape. Rettender Engel Facebook? Das Unternehmen will mithilfe von Künstlicher Intelligenz Suizide von Nutzern verhindern. https://deutsch.medscape.com/artikelansicht/4907611#vp_3 (Aufruf 2020-05-28)

Bodanowitz, J. (2018) DAK Gesundheit. https://www.dak.de/dak/bundesthemen/onlinesucht-studie-2106298.html (Aufruf 2020-05-26)

Dreier, M/Liebherz,S/Härter,M (2018) Psychische Gesundheit. Suizidalität. https://www.psychenet.de/de/psychische-gesundheit/themen/suizidalitaet.html (Aufruf 2020-05-28)

Dorn, J. (2017) Süddeutsche Zeitung. Auch Soziale Netzwerke ergreifen Maßnahmen. https://www.sueddeutsche.de/leben/praevention-du-musst-dich-zusammenreissen-so-ein-satz-geht-bei-uns-gar-nicht-1.3663499-2 (Aufruf 2020-06-17)

 Fron, C. (2018) Deutschlandfunk Kultur. https://www.deutschlandfunkkultur.de/suizid-praevention-im-netz-kann-ein-algorithmus-eine.976.de.html?dram:article_id=408035 (Aufruf 2020-05-26)

Lossau, N. (2019) Gesundheit. https://www.welt.de/gesundheit/article188741417/Facebook-Algorithmen-mit-KI-erkennen-Suizid-Gefahr.html (Aufruf 2020-05-26)

Ruchalla, E. MEDICAL TRIBUNE. Suizidmeldungen in den Medien beeinflussen Zahl der nachfolgenden Selbsttötungen. https://www.medical-tribune.de/medizin-und-forschung/artikel/suizidmeldungen-in-den-medien-beeinflussen-zahl-der-nachfolgenden-selbsttoetungen/ (Aufruf 2020-05-28)

Rüschemeyer, G. (2019) Frankfurter Allgemeine. SUIZIDPRÄVENTION BEI FACEBOOK. Ganz im Vertrauen. https://www.faz.net/aktuell/wissen/suizidpraevention-koennen-algorithmen-depression-erkennen-16044626.html (Aufruf 2020-05-26)

ZDF (2019) zdfheute. Diskussion um soziales Netzwerk – Suizide verhindern: Facebook in der Kritik. https://www.zdf.de/nachrichten/heute/suizidbekaempfung-ethiker-kritisieren-facebook-100.html (Aufruf 2020-06-15)