Der EPTA-Bericht untersucht die Auswirkungen von KI auf Wahlen und den öffentlichen Diskurs, die Nutzung von KI in Parlamenten und im öffentlichen Sektor sowie die Möglichkeiten einer demokratischen Kontrolle und Steuerung von KI. Die Expertise und Erfahrungen der EPTA-Mitglieder flossen als Länderberichte in diesen umfassenden Bericht ein. Eine vorangestellte Zusammenfassung für politische Entscheidungsträge/innen fasst übergreifende Themen, Unterschiede und Gemeinsamkeiten in den politischen Ansätzen der Mitgliedsländer in Bezug auf KI und Demokratie zusammen.

Als besonderen Service für die deutschsprachige Technikfolgenabschätzungs-Community, die Öffentlichkeit und die Abgeordneten des Deutschen Bundestages stellt das TAB sowohl den deutschen Länderbericht als auch die Zusammenfassung für politische Entscheidungsträger/innen in deutscher Übersetzung zur Verfügung.

HIIG & Livestream

Wie können wirtschaftlich verwundbare Medien ihre redaktionelle Unabhängigkeit zurückgewinnen und sich gegen die mächtigen Propagandakanäle behaupten? Um Antworten auf diese Frage zu finden, kommen in dieser Ausgabe der Redenreihe zwei Wissenschaftler*innen zu Wort, die sich auf die digitale Transformation und Herausforderungen von Mediensystemen in demokratischen Gesellschaften, mit Fokus auf Mittel- und Osteuropa, spezialisiert haben.

Marius Dragomir spricht über die Veränderungen in den Mediensystemen Mittel- und Osteuropas und gibt Einblicke in seine Forschung zu Auswirkungen der Vereinnahmung von Medien auf den unabhängigen Journalismus. Hierbei weist er auf die Risiken hin, denen der unabhängige Journalismus in naher Zukunft ausgesetzt sein wird. Krisztina Rozgonyi analysiert, wie digitale Gesellschaften in Mittel- und Osteuropa in einen politisch manipulierten kommunikativen Kontext eingebettet sind und beleuchtet dessen historische Wurzeln. Diese besondere Situation wird durch Social-Media-Plattformen verstärkt, was zu einer erhöhten Anfälligkeit der Öffentlichkeit für Hassrede, Desinformation und Propaganda führt.

Marius Dragomir ist Direktor des Center for Media, Data and Society. Im Jahr 2015 gründete er MediaPowerMonitor, eine Gemeinschaft von Expert*innen für Medienpolitik, die sich mit Trends in Regulierung, Wirtschaft und Politik und deren Auswirkungen auf den Journalismus befasst. In den letzten zwei Jahrzehnten Medienforschung hat er sich vor allem auf die Regulierung von Medien und Kommunikation, digitale Medien, Governance-Strukturen öffentlich-rechtlicher Medien sowie auf Medien- und Eigentumsregulierung spezialisiert. Marius Dragomir leitet derzeit eine Reihe von vergleichenden Forschungsprojekten, darunter das Projekt Media Influence Matrix, das sich mit Machtbeziehungen und unzulässigem Einfluss in den Nachrichtenmedien befasst.

Krisztina Rozgonyi ist leitende Wissenschaftlerin am Institute for Comparative Media and Communication Studies (CMC) der Austrian Academy of Sciences (ÖAW) und eine führende Expertin für internationale Medien, Telekommunikation sowie IP-Recht und -Politik. Sie arbeitet als Beraterin für Medienfreiheit, Frequenzpolitik und Governance digitaler Plattformen mit internationalen und europäischen Organisationen, nationalen Regierungen sowie Regulierungsbehörden zusammen. Ihre jüngste Arbeit für die Venedig-Kommission setzt sich mit möglichen Reaktionen auf Online-Desinformation auseinander. Krisztina Rozgonyi war kürzlich als Expertin für Künstliche Intelligenz und Medienpluralismus für den OSZE-Beauftragten für die Freiheit der Medien tätig.

In diesem vierwöchigen Gratis-Kurs können Jugendliche und andere Interessierte ohne Programmier-Erfahrung und technisches Hintergrundwissen lernen, wie Machine Learning Projekte in der Praxis umgesetzt werden können. Wir wollen dabei das Basiswissen aus dem Kurs “Künstliche Intelligenz und Maschinelles Lernen für Einsteiger” weiter vertiefen und Ihnen ein Gefühl für die Chancen und Herausforderungen von Machine Learning Projekten in der Praxis vermitteln. Dafür betrachten wir mehrere konkrete Anwendungsfälle - unter anderem die Erkennung von Gebärdensprache aus Bildern und die Stimmungsanalyse von Zeitungsartikeln. Geleitet wird der Kurs von den Masterstudenten Johannes Hötter und Christian Warmuth.

Judith Simon ist Professorin für Ethik in der Informationstechnik an der Universität Hamburg. Sie interessiert sich für ethische, erkenntnistheoretische und politische Fragen im Kontext von Big Data, Künstlicher Intelligenz und Digitalisierung im Allgemeinen. Sie ist Mitglied im Deutschen Ethikrat und in zahlreichen weiteren Beiräten und Kommissionen. Im Jahr 2020 veröffentlichte sie das Routledge Handbook of Trust and Philosophy.

Digitale Technologien prägen zunehmend Kindheit und Jugend: von der Videoüberwachung im Säuglingsalter über den Lernroboter im Kindergarten bis hin zu den durch Künstliche Intelligenz gesteuerten Lernassistenten für den individuellen Bildungserfolg. Worüber jedoch wenig reflektiert wird, sind Privatheits-, Überwachungs- und Datenschutzfragen in diesem sensiblen und wichtigen gesellschaftlichen Bereich. In den meisten dieser Anwendungen fallen Daten an, die viel über die Heranwachsenden aussagen. Diesem Themenkomplex widmet sich die vorliegende Publikation. Abgebildet wird der inter- und transdisziplinäre Austausch über Disziplinen und Wissenschaftsgrenzen hinaus, gemeinsam mit Praktiker_innen aus der Bildungsarbeit und mit dem Ziel einer Grundlegung im wissenschaftlichen sowie (gesellschafts)-politischen Diskurs.

Über Schutzräumen kindlicher Entwicklungsphasen in der digitalen Gesellschaft schreibt Dr. Stephan Dreyer in dem Sammelband "Aufwachsen in überwachten Umgebungen", gerade frisch erschienen im Nomos-Verlag.

Verlagsinformationen

Dreyer, S. (2021): Recht auf mein Selbst – Schutzräume kindlicher Entwicklungsphasen in der digitalen Gesellschaft. In: I. Stapf, R. Ammicht Quinn, M. Friedewald, J. Heesen, N. Krämer (Hrsg.), Aufwachsen in überwachten Umgebungen. Interdisziplinäre Positionen zu Privatheit und Datenschutz in Kindheit und Jugend. Baden-Baden: Nomos. S. 143-164.

Die Moderatorin Katja Weber spricht mit Georg von Richthofen. Er ist wissenschaftlicher Mitarbeiter in der Innovation, Entrepreneurship & Gesellschaft Forschungsgruppe am HIIG. Als Senior Researcher im Projekt „Künstliche Intelligenz & Wissensarbeit“ erforscht er den Einsatz von künstlicher Intelligenz in der Wissensarbeit. Das Forschungsprojekt ist Teil der Fokusgruppe „Künstliche Intelligenz in der Arbeitswelt“ des Bundesministeriums für Arbeit und Soziales. Ziel des Projektes ist es Handlungsempfehlungen für den Umgang mit künstlicher Intelligenz in interdisziplinärer Zusammenarbeit mit Expert*innen aus Politik, Wissenschaft und Industrie zu entwickeln.

Die Moderatorin Katja Weber (radioeins, Deutschlandfunk Nova) diskutiert unter anderem mit:

• Helena Mihaljević ist Mathematikerin mit Forschungsschwerpunkten unter anderem auf statistischer Datenanalyse und angewandtem maschinellen Lernen und Professorin für Data Science an der HTW Berlin.
• Leonie Beining ist Projektleiterin bei der Stiftung Neue Verantwortung, arbeitet am Projekt KI Testing & Auditing und setzte sich zuvor im Projekt “Algorithmen fürs Gemeinwohl” mit dem Aspekt der Nachvollziehbarkeit von algorithmischen Entscheidungsprozessen auseinander.
• Christian Kellermann ist Geschäftsführer des Denkwerk Demokratie e.V., lehrt an der HTW Berlin (Schwerpunkt Digitalisierung und Wirtschaft) und war zuvor Geschäftsführer des Instituts für die Geschichte und Zukunft der Arbeit. Er ist Co-Autor des Papers: Künstliche Intelligenz und die Zukunft der Arbeitsgesellschaft.

Die Einführung übernimmt Philip Meier, er ist wissenschaftlicher Mitarbeiter in der Forschungsgruppe Innovation, Entrepreneurship & Gesellschaft und KI-Trainer im Projekt Gemeinsam Digital am HIIG.

Die Moderatorin Katja Weber (radioeins, Deutschlandfunk Nova) diskutiert unter anderem mit:

• Helena Mihaljević ist Mathematikerin mit Forschungsschwerpunkten unter anderem auf statistischer Datenanalyse und angewandtem maschinellen Lernen und Professorin für Data Science an der HTW Berlin.
• Leonie Beining ist Projektleiterin bei der Stiftung Neue Verantwortung, arbeitet am Projekt KI Testing & Auditing und setzte sich zuvor im Projekt “Algorithmen fürs Gemeinwohl” mit dem Aspekt der Nachvollziehbarkeit von algorithmischen Entscheidungsprozessen auseinander.
• Christian Kellermann ist Geschäftsführer des Denkwerk Demokratie e.V., lehrt an der HTW Berlin (Schwerpunkt Digitalisierung und Wirtschaft) und war zuvor Geschäftsführer des Instituts für die Geschichte und Zukunft der Arbeit. Er ist Co-Autor des Papers: Künstliche Intelligenz und die Zukunft der Arbeitsgesellschaft.

Die Einführung übernimmt Philip Meier, er ist wissenschaftlicher Mitarbeiter in der Forschungsgruppe Innovation, Entrepreneurship & Gesellschaft und KI-Trainer im Projekt Gemeinsam Digital am HIIG.

Für Antworten wollen wir auf Grundlage des Buches zunächst einmal aufzeigen, was Netzpolitik überhaupt ist und warum intersektionale feministische Perspektiven und Ansätze in diesem Feld dringen geboten sind. Besonders deutlich wird dies bei den Themen Künstliche Intelligenz, Algorithmen, automatische Entscheidungssysteme und Big Data. Unsere Zukunft wird eben nicht nur digital sein, sondern auch vollautomatisiert, so die Befürchtungen der Einen oder die Freude der Anderen. Doch warum scheint genau dieser automatisierte Ansatz, Diskriminierungen Vorschub zu leisten, anstatt uns in eine gerechte Zukunft zu führen?

Begrüßung: Barbara Unmüßig, Vorständin Heinrich-Böll-Stiftung

Diskussion:

• Francesca Schmidt, Referentin feministische Netzpolitik, GWI
• Nelly Y. Pinkrah, Leuphana Universität Lüneburg
• Chris Köver, netzpolitik.org

Moderation: Dr. Anna Antonakis, FU Berlin

Das Buch finden Sie hier.

Iyad Rahwan ist Direktor des Max-Planck-Instituts für Bildungsforschung (MPIB) in Berlin, wo er den Forschungsbereich „Mensch und Maschine” gegründet hat und leitet. Außerdem ist er Honorarprofessor für Elektrotechnik und Informatik an der Technischen Universität Berlin. Bis Juni 2020 war er assoziierter Professor für Medienkunst und Medienwissenschaft am Massachusetts Institute of Technology (MIT). Rahwan hat an der Universität von Melbourne im Bereich Informationssysteme (Künstliche Intelligenz) promoviert. In seiner Forschungsarbeit untersucht er die Schnittstelle von Informatik und menschlichem Verhalten mit einem Schwerpunkt auf kollektive Intelligenz, „large-scale cooperation” und den gesellschaftlichen Auswirkungen von künstlicher Intelligenz und sozialen Medien. Iyad Rahwan ist unter anderem Co-Autor der Studie Reply to: Life and death decisions of autonomous vehicles und veröffentlichte zusammen mit Jean-François Bonnefon den Artikel Machine Thinking, Fast and Slow (beide 2020).

Die Veranstaltung findet auf Englisch statt.

Die Moderatorin Katja Weber (radioeins, Deutschlandfunk Nova) diskutiert zum Thema Diskriminierung in digitalen Technologien und Netzwerken mit:

• Shirin Riazy, wissenschaftliche Mitarbeiterin an der HTW Berlin im Projekt “LADI – Learning Analytics und Diskriminierung”, das sich damit beschäftigt, wie Diskriminierung durch den Einsatz von algorithmischen Auswertungen begünstigt oder verhindert werden kann.
• Christina Dinar, stellvertretende Direktorin des Centre for Human Internet and Human Rights, setzt sich in der politischen Bildungsarbeit gegen die Verbreitung von Hate Speech im Netz ein.
• Francesca Schmidt, Referentin für Feministische Netzpolitik im Gunda-Werner-Institut für Feminismus und Geschlechterdemokratie. Sie beschäftigt sich mit Fragen digitaler Gewalt, Überwachung und Kontrolle, Algorithmen, Künstliche Intelligenzen und deren sozionormativen Implikationen.

Katharina Mosene führt in das Thema ein. Sie ist assoziierte Forscherin und kümmert sich am Leibniz-Institut für Medienforschung │ Hans-Bredow-Institut (HBI) um den Bereich Forschungs- und Veranstaltungskooperationen. In ihrer Freizeit ist sie Gründungsmitglied von netzforma* e.V. – Verein für feministische Netzpolitik.

In ihrem Vortrag wird Joanna Bryson argumentieren, dass es nur zwei zentrale Probleme gibt, die die Menschheit zu lösen hat: Nachhaltigkeit und Ungleichheit, oder anders ausgedrückt: Sicherheit und Macht. Oder noch anders ausgedrückt: Wie groß kann der Kuchen sein, den wir backen, und wie teilen wir ihn auf? Das Leben ist kein Nullsummenspiel; wir nutzen die soziale Sicherheit, um öffentliche Güter zu schaffen, von denen alle profitieren. Aber dennoch braucht jede*r Einzelne genügend Kuchen, um zu wachsen. Und das ist die Herausforderung der Ungleichheit. Joanna Bryson wird argumentieren, dass das Verständnis dieser Prozesse die obigen Fragen beantwortet, und sie wird untersuchen, wie die KI gegenwärtig diese beiden Probleme beeinflusst.

Joanna J. Bryson, Professorin für Ethik und Technologie an der Hertie School, ist eine Wissenschaftlerin, die für ihr breites Fachwissen über Intelligenz, ihre Natur und ihre Folgen anerkannt ist. Sie berät Regierungen, transnationale Agenturen und NGOs weltweit, insbesondere im Bereich der KI-Politik. Sie verfügt über je zwei Abschlüsse in Psychologie und KI (BA Chicago, MSc & MPhil Edinburgh, PhD MIT). Ihre Arbeit ist diversen Medien und Fachzeitschriften veröffentlicht worden, von reddit bis zur Zeitschrift Science. Sie forscht weiterhin sowohl zu System-Engineering im Bereich KI als auch zur Intelligenzforschung, wobei ihr gegenwärtiger Schwerpunkt auf den Auswirkungen der Technologie auf die menschliche Zusammenarbeit und auf neuen Modellen der Governance für KI und IKT liegt. 

Die Veranstaltung findet auf Englisch statt.

Die Moderatorin Katja Weber (radioeins, Deutschlandfunk Nova) diskutierte mit:

• Melissa Kühn, Referentin Nachhaltigkeit bei Bitkom e.V.
• Anja Höfner, Mitarbeiterin bei konzeptwerk neue ökonomie und Bits & Bäume
• Johanna Pohl, wissenschaftliche Mitarbeiterin am Zentrum Technik und Gesellschaft (ZTG) im Projekt „Digitalisierung und sozial-ökologische Transformation“

Vivien Hard führte in das Thema ein, sie studiert im Master soziokulturelle Studien an der Viadrina Universität in Frankfurt (Oder) und arbeitet als studentische Mitarbeiterin im Forschungsprojekt „Künstliche Intelligenz in der Wissensarbeit“ am HIIG.

>> Tipps und Empfehlungen unserer Gäste zum Thema

• Linkliste zur Berechnung des CO2-Verbrauchs verschiedener Internetanwendungen: Email, Google-Suchanfrage, “Wie grün ist meine Website?” (Johanna Pohl)

Wir möchten alle Interessierten zur FIfF-Konferenz 2019 vom 22. bis 24. November 2019 nach Bremen einladen, um mit uns dieses Wunderland zu erkunden und genauer unter die Lupe zu nehmen. Was ist dran an den hochfliegenden Plänen und Versprechungen? Welche Erwartungen und Hoffnungen sind realistisch, welche sind übertrieben, welche sind unerfüllbar? Welche gesellschaftlichen Auswirkungen sind zu erwarten und wie soll man mit ihnen umgehen? Welche Risiken und Gefahren sind mit den aktuellen und zukünftigen Entwicklungen der Künstlichen Intelligenz verbunden und wie ist ihnen zu begegnen?

Gegründet wurde Palantir bereits 2004, also drei Jahre nach den Anschlägen des 11. September, um den Geheimdiensten bei der Verwaltung ihrer wachsenden Datensammlungen unter die Arme zu greifen. Es ging darum, potentielle Bedrohungen frühzeitig zu identifizieren, um Anschläge zu verhindern. Angeblich war es Technik von Palantir, mit der 2011 der Aufenthaltsort von Osama Bin Laden ermittelt werden konnte, woraufhin dieser von US-Spezialkräften ermordet wurde. Aber ebenso gut kann es sein, dass einfach Bestechung im Spiel war und die USA sich von Mitarbeitern pakistanischer Behörden haben helfen lassen.

Spektakulären Gerüchten über die Leistungsfähigkeit seiner Produkte zum Trotz hat Palantir bislang keine Gewinne erzielt. Das Unternehmen ist schlicht nicht profitabel, vor allem, weil es seine Produkte für jeden neuen Kunden individuell anpassen muss und deshalb nicht von Skalierungseffekten profitieren kann. Ein 2017 eingeführtes neues Produkt namens Foundry soll dieses Problem nun lösen. Und Europa fungiert als Testmarkt für das neue Produkt..

Die Palantir-Software ist relativ simpel. Das Unternehmen wirbt zwar damit, es könne „Daten-Abfälle in Goldminen“ verwandeln. Tatsächlich stellt es aber nur eine Benutzeroberfläche zur Verfügung, über die die Kunden auf ihre eigenen Datenströme zugreifen können. Dabei setzt die Software auf bereits bestehende Technologien auf, wie etwa auf Apache Spark, ein Framework für Cluster-Computing. Keine künstliche Intelligenz, kein automatisiertes Lernen, keine Zauberei – so fasste es 2016 ein Mitarbeiter des Unternehmens zusammen. Auch wenn jemand, der nicht mit allen Produkten im Einzelnen vertraut ist, eine solche Aussage kaum wird belegen können, ist die relativ begrenzte Leistungsfähigkeit der Software möglicherweise ein ausschlaggebender Grund dafür gewesen, dass sich in den letzten Jahren Kunden wie American Express oder Coca-Cola von Palantir abgewandt haben. Einige sind wohl auch wegen geringerer Preise zur Konkurrenz abgewandert, etwa zum irischen Wettbewerber Siren.io. Das behauptete 2017 jedenfalls dessen Mitgründer Giovanni Tummarello.

Von Nicolas Kayser-Bril Recherche Unternehmensdaten: Boris Kartheuser