Wissenschaftsreportage / Technik

Spektrum der Wissenschaft/spektrum.de, 13. April 2017 - Link

In der Computerlinguistik nimmt eine Debatte über die Ethik des Faches an Fahrt auf: zwei aktuelle Veröffentlichungen zeigen, dass Algorithmen Vorurteile von Menschen übernehmen und diese zementieren. Wie kann sich die Gesellschaft davor schützen? Die Forscher haben verschiedene Ansätze – aber noch keine Lösung.

Wenn eine künstliche Intelligenz die menschliche Sprache aus repräsentativen Texten der Menschheit lernt, entwickelt sie Vorurteile. Schließlich stecken diese bereits in den Trainingsdaten, wenn auch häufig wenig offensichtlich. Die Diskussion darum, wie die Forschung mit dieser Tatsache umgehen soll, nimmt gerade an Fahrt auf und hat nun durch eine aktuelle Studie im Magazin „Science“ neue Nahrung bekommen: Forscher um die Informatikerin Aylin Caliskan von der Princeton University zeigen darin, dass entsprechende Algorithmen die gleichen impliziten rassistischen und sexistischen Stereotypen reproduzieren wie Menschen. Sie erzielten mit ihrem Messverfahren vergleichbare Ergebnisse wie Neurowissenschaftler, die unbewusste Vorurteile und Wertvorstelleungen bei Menschen mittels des Implicit Associations Test (IAT) untersucht hatten.

Süddeutsche Zeitung Wochenende, 25. März 2017 - Link

Wenn Computer lernen, den Sinn menschlicher Sprache zu verstehen, bringt das Risiken mit sich. Erste Anwendungen zeigen, wie massiv der Eingriff in unser Leben sein kann – und die betroffenen Forscher beginnen, über die Ethik ihrer Disziplin nachzudenken.

Eine Schlagzeile im Wall Street Journal hat Michael Strube am 9. Juni 2013  die Augen geöffnet. „Wie die NSA so schnell so schlau wurde“ stand dort: Wie konnte der größte Auslandsgeheimdienst der USA nicht nur massenhaft Daten sammeln, sondern vor allem diese Masse auch auswerten, insbesondere Sprachdaten aus Emails und Telefonaten? Der 51jährige Computerlinguist vom Heidelberger Institut für Theoretische Studien war auf einer wissenschaftlichen Konferenz in den USA, die Zeitung lag auf dem Frühstückstisch im Hotel. Zehn Tage nach den Snowden-Enthüllungen bewegte das die Welt – und insbesondere Strube. Schließlich wurde im Artikel detailliert erläutert, wie seine Disziplin die Spione maßgeblich stark gemacht hatte: Natural Language Processing (NLP) lehrt Computern, menschliche Sprache zu verstehen. Die meisten Menschen haben mit dieser Technologie zu tun, wenn sie Dienste wie Google Translate verwenden oder ihr Smartphone per Sprachbefehlen bedienen. Die dunkle Seite ist weniger offensichtlich: „Der Öffentlichkeit ist zwar bekannt, dass die Geheimdienste auf Metadaten zugreifen“, sagt Strube, also auf Daten wie Absender oder Betreff einer Mail. „Aber die Wenigsten wissen, wie gut wir unstrukturierte Daten analysieren können.“ Unstrukturiert, das ist aus Sicht der Informatik beispielsweise die menschliche Sprache, die für Maschinen lange eine undurchsichtige Sache war. Und auch wenn man allein aus den Metadaten von Emails viele Rückschlüsse auf eine Person und ihr Umfeld schließen kann: wer den Inhalt automatisch auswerten kann, erfährt noch viel mehr.

Die ZEIT, 17. November 2016

Der Technologiekonzern Bosch hat eine für Deutschland einzigartige und ungewöhnliche kreative Etage geschaffen – aus der Not heraus: Das Unternehmen lebt von Ideen, aber seine Forscher sind nicht frei im Kopf. Hilft das kreative Chaos?

Der Blick aus dem 12. Stock ins Grüne sieht nicht nach unserer technologischen Zukunft aus. Sanfte grüne Hügel wechseln sich ab mit Besiedlungen, zu den Füßen ein Teich, Bänke und ein Fußballfeld. Aber was ist da im Blickfeld? Schmale blaue Linien lassen manche Konturen verschwimmen. Schrift. Hier haben Leute auf das Glas der Fenster geschrieben. „Wie leben wir 2030?“ steht da. Wer weiter lesen will, hat schnell Birgit Thoben im Nacken. „Das hier sind unsere Ideen, das ist unser geschütztes Refugium. Bitte nicht aufschreiben.“ Thoben ist Innovatiosmanagerin beim Technologiekonzern Bosch, sie verantwortet diese besondere Etage namens „Plattform 12“ am neuen Forschungsstandort in Renningen bei Stuttgart. Wie leben wir in Zukunft? Ob an jenen Fensterscheiben die Antwort steht, darf hier leider nicht verraten werden. Die Plattform 12 ist für die Öffentlichkeit geschlossen. Diese Recherche ist eine Ausnahme – und sie konnte nur stattfinden gegen das hoch und heilige Versprechen, hier keine Geheimnisse und keine konkreten Ideen zu verraten.

Welt am Sonntag, 19. Februar 2017

Ein weltweites Quanteninternet könnte die digitale Kommunikation in Zukunft sicher und unangreifbar machen. Im Zentrum der Forschungen stehen österreichische Wissenschaftler und Quanteneffekte, die dem gesunden Menschenverstand widersprechen

Es knallten keine Sektkorken, eine Party gab es auch nicht, als Physiker im Jahr 1975 eine Entdeckung machten, die später eine Grundlage der Quantenkommunikation wurde. Ein damals noch unbekannter wissenschaftlicher Mitarbeiter des Physikers Helmut Rauch weist zusammen diesem und Kollegen nach, dass sich Neutronen, weil sie Eigenschaften von Wellen und nicht nur jene von Teilchen haben, ganz seltsam verhalten, wenn sie um ihre Achse gedreht werden: sie verändern ihren Zustand. „Das hatten wir nicht erwartet, dass die Welt nicht die gleiche ist, wenn man sie um 360 Grad dreht“, sagt Anton Zeilinger heute. Die Physiker konnten damals nicht wissen, dass diese Entdeckung jemals eine praktische Relevanz haben würde. „Wenn wir damals gefragt wurden, wozu das alles gut ist, haben wir gesagt: für nichts, das ist für nichts gut, wir machen das nur aus Interesse an der Sache“, sagt Zeilinger, der heute Professor an der Uni Wien ist.

Spektrum.de/Spektrum der Wissenschaft, 17. Januar 2017 - Link

Aktuelle Aktivitäten gegen Fakenews konzentrieren sich vorallem darauf, unseriöse Quellen automatisch zu erkennen. Aber können Algorithmen Falschmeldungen an sich identifizieren? Es schien zeitweise so, als habe die Wissenschaft das schon zu den Akten gelegt. Aber eine Wette und ein Streit unter Forschern gibt neue Hoffnung.

Ende 2016 ächzte die Welt unter dem Problem der Fakenews – und 2017 wird das Problem aller Voraussicht nach nicht kleiner. Angesichts des anstehenden Bundestagswahlkampfs könnte es in Deutschland gar eine größere Dimension bekommen. Da ist eine Hoffnung nicht unberechtigt: Wie schön wäre es, wenn Computer die Welt von Falschmeldungen befreien könnten! Schließlich haben die Algorithmen unter anderem von Facebook Fakenews erst groß werden lassen. Doch während manche daran arbeiten, seriöse Quellen von unseriösen maschinell zu unterscheiden, warnen andere: das ist zu spät, so werden wir dem Phänomen nicht Herr. „Das Problem an seiner Quelle zu fassen ist in diesem Fall nicht die beste Strategie“, sagt Victoria Rubin, Associate Professor an der University of Western Ontario: dafür verbreiten sich Fakenews zu schnell. Zudem gibt es ständig neue Quellen und neue Webseiten, die Falschmeldungen produzieren – hat man eine identifiziert, gitb es bereits zehn neue.