Forscher am MIT beschäftigen sich mit der Frage, inwiefern harmlose 3D-Objekte smarte Systeme in selbstfahrenden Autos täuschen können.
Von selbstfahrenden Autos bis zu smarten Überwachungssystemen, die Gesellschaft beginnt allmählich ihre Bedenken über Künstliche Intelligenz über Bord zu werfen. Doch bei aller positiven Grundstimmung darf nicht vergessen werden, dass diese Technologie erst am Anfang steht. Die Schildkröte (siehe Bild) ist eindeutig eine Schildkröte. Anders sieht das Googles Künstliche Intelligenz. Die schätzt das Stofftier als Gewehr ein.
Die aus dem 3D-Drucker stammende Schildkröte ist ein Beispiel für "Adversarial Image", also als erschwerendes Bild. Es ist absichtlich konzipiert um die Software zum Ausrasten zu bringen. Mit Erfolg.
Die Schildkröte ist ein Beispiel dafür wie harmlose 3D-Objekte für Verwirrung sorgen können. Laut den MIT-Forschern, die die aktuellen Untersuchungen zu den "Adversarial Images" veröffentlicht hat, haben Werbeschilder das Potenzial Chaos zu stiften.
"Es ist durchaus wahrscheinlich, dass ein vermeintlich harmloses selbstgestaltetes Werbeplakat ein selbstfahrendes Auto glauben lassen kann, es habe plötzlich einen Menschen am Straßenrand", schreiben die Forscher in der Abhandlung "Expectation over Transformation".
Dass Googles Künstliche Intelligenz noch Schwächen hat, ist auch dem Unternehmen klar. Das Team braucht Zugriff auf Googles Algorithmen, um die Schwachstellen zu identifieren und aufzuzeigen. Das ist eine signifikante Barriere, weswegen es (noch) unwahrscheinlich ist, dass das System von Angreifern ausgenutzt werden kann.
Derzeit sind Angriffe in diesem Bereich eher unwahrscheinlich, aber mit der immer größeren Verbreitung von intelligenten und selbstlernenden Systemen, sollte man, so die Forscher, diesen Sicherheitsaspekt nicht gänzlich aus den Augen verlieren.
(bagre)