Open Source ebnet den Weg für eine bessere KI

Zitatgeber: Dr. Rebecca Whitworth, Associate Manager, Red Hat

Künstliche Intelligenz (KI) und Maschinelles Lernen (ML) werden unser Leben in einem viel größeren Ausmaß verändern als die meisten denken.

Algorithmen, die beispielsweise radiologische Bilder auswerten, sind nur der Anfang. Quer durch die medizinischen Disziplinen wird KI zum unverzichtbaren Assistenten des Arztes werden. Nicht viel anders sieht es bei Bewerbungen oder Kreditanträgen aus. Wenn allerdings KI-Systeme immer wichtigere Entscheidungen treffen, muss offengelegt werden, wie und warum ein Algorithmus dieses Ergebnis liefert.

„Open Source ebnet den Weg für eine bessere KI“

Dr. Rebecca Whitworth

Ansonsten besteht die Gefahr, dass es zu Fehlern oder diskriminierenden Entscheidungen kommt. Etwa wenn Kandidaten bei einer automatisierten Bewerberauswahl aufgrund einer geschlechtsspezifischen Voreingenommenheit aussortiert oder der Kreditantrag abgelehnt wird.

Bei geschlossenen KI-Systemen, bei denen weder der Quellcode noch die Daten, mit denen das System trainiert wurde, einsehbar sind, muss dem Anbieter blind vertraut werden. Vertrauen ist gut, Offenheit allerdings besser.

Deswegen sollten wir bei KI und ML möglichst nur auf Software vertrauen, die wir auch verstehen. Bei Open-Source-Lösungen kann jeder, der Interesse hat, einsehen, wie das Programm Entscheidungen trifft, mögliche Schwachstellen durch ständiges Testen aufzeigen und so zu einem transparenten Diskurs beitragen. Damit ebnet Open Source den Weg für eine bessere KI.

0 Kommentare

Hinterlasse einen Kommentar

An der Diskussion beteiligen?
Hinterlasse uns deinen Kommentar!

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.