Wenn Algorithmen für uns entscheiden – Chancen und Risiken der Künstlichen Intelligenz

Künstliche Intelligenz ist ein sehr leistungsfähiges Werkzeug zur Lösung komplexer Probleme und zur Bewältigung riesiger Mengen an unsortierten Daten. Ihr Einsatz erlaubt es, Sprachen weit besser zu übersetzen als zuvor oder menschliche Gegner in Strategiespielen aller Art zu bezwingen. Stetig wird die KI verbessert und für immer mehr Tätigkeiten eingesetzt, die bisher Menschen vorbehalten waren, etwa um Steuerbetrug zu identifizieren oder Krankheiten zu diagnostizieren.

Vertrauen ist gut, Kontrolle ist besser

Doch rapide wachsende technische Fähigkeiten brauchen ein wachsames Auge für die Risiken, die damit einhergehen können. Kann KI etwa massenweise Jobs kosten?

Wie ändert sich unser Konsumverhalten, wenn immer mehr Menschen den Kaufempfehlungen einer intelligenten Suchmaschine folgen?

Was geschieht mit unseren Medien, wenn KI zur Fabrikation von „Fake News“ beiträgt oder ideologische Filterblasen nicht etwa auflöst, sondern sogar ausbaut und verstärkt?

Was kann geschehen, wenn die Staatsgewalt KI einsetzt, um vorausschauende Polizeiarbeit zu betreiben, Verordnungen zu erlassen oder die Arbeitsbelastung bei Gerichten zu verringern?

Wie soll Forschung und Bildung auf die Chancen und Risiken von KI reagieren und welche Kompetenzen sind besonders für heutige Forschende und zukünftige Entscheidungsträger relevant, um KI für die Gesellschaft bestmöglich zu nutzen?

Diese und ähnliche Fragen wurden in der TA-SWISS-Studie von einem interdisziplinären Projektteam unter der Leitung von Markus Christen von der „Digital Society Initiative“ der Universität Zürich, den Empa-Forschern Clemens Mader, Lorenz Hilty und Claudia Som sowie Johann Čas vom Institut für Technikfolgenabschätzung der Österreichische Akademie der Wissenschaften durchgeführt.

Die Forscherinnen und Forscher erarbeiteten ihre Ergebnisse mit Hilfe von Methoden wie etwa gezieltem Literaturstudium, Workshops und Befragungen von mehr als 300 internationalen Experten.

Handlungsanweisungen für die Politik

Aus diesen Arbeiten resultieren neun Empfehlungen für verschiedene Bereiche wie Arbeit, Bildung und Forschung, Konsum, Medien und Verwaltung.

Im Bereich der Bildung etwa sei es wichtig, Fachleute nicht nur zum Entwickeln und implementieren von KI-Systemen zu befähigen, sondern zugleich die Urteilsfähigkeit über rechtliche, ethische und soziale Auswirkungen der KI zu fördern.

In Bereichen mit unklarer Risikolage sollte die Forschung zur Erkennung solcher Risiken intensiviert werden, fordern die Studienautoren. Zu diesem Zweck sei eine Finanzierung seitens der Hochschulen oder über Drittmittelförderung wünschenswert.

Die Expertinnen und Experten äussern sich in der TA-Swiss-Studie auch zur mangelnden Transparenz der KI und ihren möglichen diskriminierenden Eigenschaften. Mögliche Kontrollmechanismen für diese Systeme werden diskutiert, ebenso wie rechtliche Aspekte, die aus der Nutzung von KI hervorgehen, etwa zur Haftung oder zum Datenschutz.

Dr. Clemens Mader
Empa, Technology and Society
Phone +41 58 765 73 59
clemens.mader@empa.ch

Dr. Patrick Wäger
Empa, Technology and Society
Phone +41 58 765 78 45
patrick.waeger@empa.ch

M Christen, C Mader, J Čas, T Abou-Chadi, A Bernstein, N Braun Binder, D Dell’Aglio, L Fábián, D George, A Gohdes, L Hilty, M Kneer, J Krieger-Lamina, H Licht, A Scherer, C Som, P Sutter, F Thouvenin; „Wenn Algorithmen für uns entscheiden: Chancen und Risiken der künstlichen Intelligenz“, TA-SWISS (2020)
Link:
https://vdf.ch/wenn-algorithmen-fur-uns-entscheiden-chancen-und-risiken-der-kuns…

https://www.ta-swiss.ch/themen-projekte-publikationen/informationsgesellschaft/k…
https://www.empa.ch/web/s604/ta-swiss-ki-studie

Media Contact

Rainer Klose Empa - Eidgenössische Materialprüfungs- und Forschungsanstalt

Alle Nachrichten aus der Kategorie: Informationstechnologie

Neuerungen und Entwicklungen auf den Gebieten der Informations- und Datenverarbeitung sowie der dafür benötigten Hardware finden Sie hier zusammengefasst.

Unter anderem erhalten Sie Informationen aus den Teilbereichen: IT-Dienstleistungen, IT-Architektur, IT-Management und Telekommunikation.

Zurück zur Startseite

Kommentare (0)

Schreib Kommentar

Neueste Beiträge

Entwicklung von High-Tech Tech-Schattenmasken für höchsteffiziente Si-Solarzellen

Das Technologieunternehmen LPKF Laser & Electronics AG und das Institut für Solarenergieforschung Hameln (ISFH) haben einen Kooperationsvertrag vereinbart: Gemeinsam werden sie Schattenmasken aus Glas von LPKF zur kostengünstigen Herstellung hocheffizienter…

Hitzewellen in den Ozeanen sind menschgemacht

Hitzewellen in den Weltmeeren sind durch den menschlichen Einfluss über 20 Mal häufiger geworden. Das können Forschende des Oeschger-Zentrums für Klimaforschung der Universität Bern nun belegen. Marine Hitzewellen zerstören Ökosysteme…

Was Fadenwürmer über das Immunsystem lehren

CAU-Forschungsteam sammelt am Beispiel von Fadenwürmern neue Erkenntnisse über die Regulation der angeborenen Immunantwort. Alle höheren Lebewesen verfügen über ein Immunsystem, das als biologischer Abwehrmechanismus den Körper vor Krankheitserregern und…

By continuing to use the site, you agree to the use of cookies. more information

The cookie settings on this website are set to "allow cookies" to give you the best browsing experience possible. If you continue to use this website without changing your cookie settings or you click "Accept" below then you are consenting to this.

Close