Deutsch
English
Stellen Sie sich vor, ein Politiker hält eine Rede vor großem Publikum. Sofort danach ertönen Applaus und aufmunternde Worte, aber auch Buhrufe, Widerspruch und Spott. Sie schauen sich um, wer den Krawall veranstaltet – und es sind Roboter. Was wie befremdliche Science Fiction klingt, ist längst Realität auf Facebook, Twitter, Tumblr und vielen anderen Seiten. Software, die gemacht wird, um politisch zu beeinflussen, zu verkaufen oder auszuspionieren? Ja, alles schon auf dem Markt!
Eine Fußpilz-Salbe mit 70000 Fans
Social Bots nennt man Software-Programme, die vorgeben, echte Menschen zu sein. Zuerst traten sie massenhaft auf, als Facebook ein Wirtschafts-Standort mit echter Werbekraft wurde. Damals waren es wirklich noch Menschen, die massenhaft Fake-Profile (falsche Profile, die aber echt aussehen) erstellten und betreuten. Mit geklauten Fotos und Namen waren sie als „Klickvieh“ schon recht günstig zu haben. Man kaufte sich eine große Zahl dieser Profile, die kräftig auf Like klickten, wenn man schrieb und BÄMM – war man präsent bei Facebook. Man musste schon genauer hinschauen, bevor man merkte, dass häufig unzählige Fans z.B. aus Asien stammten oder die Profile seltsam unpersönlic I waren. Durch solche Aktionen konnte es vorkommen, dass ein übereifriger Marketing-Mensch plötzlich seiner kleinen, aufstrebenden Firma mehr Fans verschaffte, als z.B. große Automarken hatten. Das sorgte für Befremden und irgendwann wurden Hunderttausende dieser Profile von den Seiten enttarnt und gelöscht.
Es geht noch billiger
Selbst wenn diese Fake-Profile meistens in Niedrig-Lohnländern erschaffen wurden, kostete das Geld, die Arbeiter mussten schlafen und (so hoffe ich) hatten auch Urlaub. Es lag also nahe, selbst diesen Job noch per Software erledigen zu lassen. Und so ersannen findige Programmierer im Graubereich zwischen legal und illegal die ersten echten Social Bots. Und das geht so: Zuerst sucht ein Programm sich passende Namen auf Seiten wie fakenamegenerator.com und Fotos über randomuser.me oder die großen Bildersuchen des Internets. Mit diesen Daten bewaffnet, muss es sich dann bei Twitter, Facebook oder wo auch immer anmelden. Die versuchen zwar, einen gewissen Schutz vor solchen Robot-Usern zu bieten, aber irgendwann ist halt jeder Schutz geknackt. Die ersten Bots hatten SPAM als Auftrag. So viel Werbung wie möglich posten, bis das Profil enttarnt und gelöscht wurde. Das war mehr als ärgerlich, aber noch nicht das Ende der Fahnenstange.
Wer ist echt, wer ist falsch?
Sei mein Freund!
Man sollte eigentlich meinen, dass man z.B. bei Facebook bereits genug Daten preisgibt. Das reicht aber manchen Werbern nicht aus! Und so werden Bots programmiert, die sympathisch oder anziehend wirken und auf Facebook-Freundschaften aus sind. Junge Männer werden mit spärlich bekleideten Damen versorgt, junge Frauen mit hübschen Typen oder anderen Frauen, die z.B. ein Hobby oder die Heimatstadt gemeinsam haben. Nimmt man die Freundschaft an, wird alles gescannt, was man je gepostet hat. Orte, Unternehmungen, Bilder, Produkte. Diese Daten gehen dann an den Auftraggeber und schon hat man ein wunderbares Profil mit allem, was eigentlich privat bleiben sollte.
Klatscher und Keifer - Krieg der Roboter
Es geht aber noch weiter und nun wird es unappetitlich. Diese Bots sind nämlich flexibler, als man denken mag. So kann man sie z.B. auch so programmieren, dass sie bei Twitter Menschen loben, ihren Posts widersprechen oder sie retweeten (und damit verbreiten). Und je kürzer Beiträge sind, desto schwieriger kann man erkennen, ob es wirklich ein Mensch ist, der da schreibt. Twitter mit der Begrenzung auf 140 Zeichen ist da besonders anfällig. Nehmen wir an, in einer großen Demokratie (Name ist mir entfallen) ist bald Wahl und es gibt zwei Kandidaten, die natürlich auch bei Twitter posten. Dann setzen die Unterstützer Social Bots an, die gleich nach dem Tweet des Kandidaten ein „Wunderbar! Dieser Mann sollte Präsident werden!“ oder ein „Da hat er recht! Er steht für dieses Land wie kein anderer!“ antworten. Die Gegner starten ihre Bots und antworten mit „Ihre Ansichten sind schrecklich!“ oder „Mein Gott, sie schaden unserem Land! Und erst diese Haare!“ oder Ähnlichem. Sind die Bots intelligent genug programmiert, können Sie sogar auf einzelne Inhalte des geposteten Textes eingehen und aus einer Datenbank passende Texte als Antwort heraus suchen. Wird z.B. ein Herrschender als Diktator bezeichnet, erkennt das Programm den Namen des Herrschers, das Wort Diktator und antwortet automatisch, der Mann sei fair gewählt worden und dem Land gehe es so gut wie nie. Fertig ist der Meinungsaustausch mit einer Maschine - und mancher lässt sich überzeugen.
Auf dem Weg zur totalen Imitation
Forscher sind sich uneinig, wie sehr diese Art der Manipulation schon Früchte getragen hat. Dass diese Art der Beeinflussung schon stattfindet, ist allerdings unumstritten. Forscher der Universtätit Oxford haben vor dem EU-Referendum in Großbritannien untersucht, wie stark Social Bots vertreten waren. Das Ergebnis: Ein Drittel der Tweets ging offensichtlich auf derartige Programme zurück. Das ist schon unheimlich genug, doch die Entwicklung schreitet weiter voran. Inzwischen gibt es Bots, die auch im Dialog so echt wirken, dass sie bei Tests nur schwer als Maschinen enttarnt werden können. Dabei geht es noch nicht um künstliche Intelligenz im eigentlichen Sinne, sondern um die Analyse des bereits Geschriebenen und ein dickes Arsenal möglicher Antworten. Noch ein paar Jahre und der Meistbietende bekommt eine beliebige Anzahl von eloquenten Fürsprechern, die niemals schlafen und nie die Lust an der Diskussion verlieren.
Was nun?
Die großen Netzwerke wissen natürlich, dass sie als Meinungsbörse missbraucht und entwertet werden und versuchen, Social Bots zu bekämpfen. Solange die Nutzung aber noch legal ist (oder nicht strafrechtlich verfolgt wird), werden sich die Betreiber von Facebook, Twitter und Co. alleine mit dem Thema herumschlagen müssen. Da aber selbst Parteien oftmals selbst zu diesen Mitteln greifen, scheint mir ein baldiges Verbot leider unwahrscheinlich. Man wird noch kritischer sein müssen, um nicht auf die Manipulationsversuche hereinzufallen. Es bleibt zu hoffen, dass man in Zukunft echte Meinungen von echten Menschen lesen kann. Auch wenn man mit ihnen nicht immer übereinstimmt, sie entstammen wenigstens derselben Spezies.
Liebe(r) LeserIn,
wir machen eine kleine Sommerpause und sind bald wieder für Sie da. Wir wünschen Ihnen noch eine schöne Urlaubszeit!
Natürlich können Roboter oder technische Geräte durch Zufall / Defekte ein Eigenleben entwickeln.
Dies ist aber so wie bei Mutationen in der Natur: Wenn es bemerkt wird, wird dieser Fehler meisst sofort behoben. Was will ich mit einer Tastatur, wo das "1" immer kleben bleibt ?
Rein aus Eigensicherheit und Paranoia werden solche Sachen, schnell ausgetauscht. Es mag keiner eine falsche Zahlung auf seinem Konto.
Oder dass mein Computer ein romantisches Eigenleben führt und mit dem Skype Kommunikations Programm, meine Freundesliste nacheinander kontaktiert. Sowas darf nicht sein.
Das ist auch vom Hersteller nicht vorgesehen. Deshalb wird man solche Dinge schnell abstellen.
In diesem Fall könnte es ein Virus oder ein Keylogger oder ein Werbeprogramm sein, welches sich eingeschlichen hat.
Auch daher gilt immer: Virusscanner , Firewall, Internetkontrolle ist zur eigenen Sicherheit auf jedem Computer zu installieren und aktuell zu halten. Diese sind nicht teuer.
Meine sind von Ashampoo und funktionieren super. Ich habe viele andere ausprobiert, welche ebenfalls bestens ihren Security Dienst tun. Kein Thema. Ich arbeite nicht für Ashampoo hehe .... Ich benutze diese nur.
Also Fehler in einem Computer oder Roboter oder Gebäudesteuerung/Struktur/Lift könnten durchaus als Intelligenz wahrgenommen werden. Das sind sie aber wirklich nicht.
Man verlässt sich aber leider heute schon viel zu sehr auf technische Dinge und Internet Zugang und ist dann auf dem Land überrascht, wenn mal nichts mehr geht.
Aber in der jetztigen Stufe der menschlichen Entwicklung brauchen wir uns über Roboterinelekte ala Star Treck Ltd DATA, noch keine Sorgen zu machen. Aber sicher dürfen wir darüber FANTASIEREN und träumen :-).
der grosse denkfehler ( wird schon in der überschrift gemacht) ist folgender: FB, Twitter etc sind KEINE sozialen medien sondern private US amerikanische firmen die MILLIARDEN mit nutzerdaten verdienen...(auch google mit "auswüchsen (diese seite verlinkt auch auf google tag manager)
daran ist nichts, aber auch garnichts sozial.durch geschickte werbung/manipulation haben sich diese portale in der wahrnehmung als sozial etabliert und die dummen user glauben das alles...
Diese Roboter tun dies nicht einfach so.
Eine MENSCHLICHE Person hat den Startknopf gedrückt. -> Sekretärin , Supporter
Eine MENSCHLICHE Person hat den Befehl gegeben. -> Boss der Firma, der Oberverbrecher.
Eine MENSCHLICHE Person wurde damit beauftragt, dies zu programmieren und bereitzustellen.
Die Zielpersonen wurden durch MENSCHLICHE Personen ausgewählt oder per vom Boss diktierte Kriterien selektiert.
Dies alles könnte natürlich ein Boss einer Firma in einer Maske erfassen und einem Datendienst abgeben und er hat sein Ergebins. Auch die Gelächter der Roboter Zuschauer wenn es sein muss.
Diese Roboter sind Menschlichen Ursprungs und keine Hexerei.
Bitte nehmt dies zur Kenntnis von einem, der schon 1995 solche Dinge programmiert hat. Das ist nicht neu. Nur nun viel viel weiter entwickelt. Danke.
Das sage ich als ehem. It spez. ad und nun voll Invalide haha.
(die wollen mich nämlich nicht mehr, die wissen wieso)
Hätten die Bots schon ein Eigenleben entwickelt, wäre das sicher einen eigenen Artikel wert gewesen. :)
Sie sind nur Erfüllungsgehilfen der Auftraggeber.
Man sollte dabei aber auch das Positive nicht aus den Augen verlieren. Gerade wenn es in den Bereich Politik geht, hat so ein Bot wohl mehr Rückgrat und steht konsequenter zu seiner Meinung, als so mancher Politiker. Was die Käuflichkeit betrifft, sehe ich da ohnehin keine großen Unterschiede.
Der Bot äußert, was man ihm vorher sagt, Zyniker sehen da geringe Unterschiede. :)
Lieber Herr Krumrey, ich lese Ihre Artikel gerne da sie auch immer ein kein wenig zum schmunzeln haben und sehr leicht verständlich geschrieben sind.
Ich wußte bisher nicht das es so weit geht mit diesen Bots - echt unheimlich, da brauch man sich nicht wundern wenn unsere etablierten Parteien trotz all ihrer Skandale (falsche Titel bis zu gesamten Lebensläufen immer noch an der Spitze sind. Aber bevor der Bürger was tun kann muß er ja immer 5 Jahre warten und in dieser Zeit wird vieeeel vergessen.
mfG Reiner
Ich muss zugeben, dass es die erste Recherche war, wo mir der Unterkiefer doch manchmal nach unten klappte.
Ja, schönnn Urlaub!
Danke für die Informationen. Wie kommt man denn an so was? Woher wissen sie das alles?
Ich selbst rühre diese Medien nicht an. Meinungen von Menschen, deren Hintergrund ich nicht kenne, interessieren mich nicht sonderlich, umso weniger die von Robotern.
So stört es mich ziemlich, wenn zum Beispiel deutsche Fernsehsender da Gepostetes in ihre Nachrichten mit einbeziehen oder selbst dort Accounts haben.
Oh, ich lese sehr viel. Wenn mir ein Thema interessant vorkommt, landet es in meiner großen "Blog-Thema"-Datei. Gibt es belastbare Quellen und lässt es sich vertändlich umsetzen, schreibe ich einen Blog drüber. :)
Danke für den schönen Text. Ich habe mich auch schon gewundert, daß aus aller Welt junge Frauen mit tiefen Ausschnitt, aber ohne Chronik, bei mir in FB angefragt haben. Es war aber klar, daß das nicht echt war. Aber es waren hübsche Roboter.
Gruß Ingo
Dann waren die Fotos gut ausgewählt. Geschmack haben die Herrschaften ja. ^^
Es geht sogar noch weiter. Es sind sogar schon bei Hotlines verschiedentliche Live Chats im Umlauf die einem vorgaukeln das sich ein echter Mitarbeiter einem Ratschläge für ein genanntes Problem unterbreitet und wenn man länger und geduldig auf die teils ausweichenden Antworten eingeht dann weis man was die Stunde geschlagen hat. Alles nur reinste ver…
Bei Facebook sollte das eigentlich weniger bis gar nicht passieren wenn die Leute sich an ein paar wenige Regeln halten würden. Ich habe keine Freunde in der Freundesliste die Roboter sind. Bei Twitter und in der Kürze der Nachrichten ist das schon nachvollziehbar. Aber seinen wir doch mal ehrlich, wenn uns einer Honig um den Bart schmiert sind wir natürlicher Weise eher bereit alle Achtung Gefahr Schilder einfach platt zu walzen als wenn man Kontrovers diskutiert. Von einer vermeintlich schönen holden angeschrieben zu werden ist doch nett, sollte man meinen.
Alles wie im echten Leben soweit. Worauf sollen wir sonst anspringen?. Aber Vorsicht ist auf jeden Fall besser als Nachsicht. Mir haben auch schon einige bei Facebook eine Einladung geschickt die ich nicht kenne, also nehme ich die nicht an, egal welches zauberhafte Wesen da vermeintlich hinter steckt. Nur ein Schelm denkt Schlimmer geht’s nimmer..
schönen Urlaub :)
Besten Dank! Ja, die liebe Vorsicht. Manchmal setzt das Hirn leider aus. Und ich bin da keine Ausnahme. :)
Danke für diesen schönen Eintrag. Ich hatte mich beim Durchlesen vieler Diskussionen im web (nicht nur bei facebook) schon immer gewundert wie ausdauernd manche Teilnehmer sind. Und dabei keine wirklichen Inhalte formulieren sondern eigentlich nur 'trollen'. Jetzt ist mir schon klarer wie so etwas funktioniert.
Viele Grüße und eine schöne Urlaubszeit!
Das wünsche ich Ihnen auch. Besten Dank!