Ein neues Computerprogramm schafft auf Knopfdruck und ohne Filter Abbildungen von abgründigster Gewaltsamkeit und schwerem sexuellen Kindesmissbrauch. Das Gesetz stellt so etwas unter Strafe – doch Ermittlung und Beweisführung sind praktisch unmöglich.
Wo ist die Grenze dessen, was sogenannte künstliche Intelligenz (KI) aus den Befehlen ihrer menschlichen Auftraggeber kreieren darf? Henk van Ess, ein niederländischer Investigativreporter und Fachmann für das Ausleuchten der gleichermaßen faszinierenden wie dunklen Ecken der digitalen Welt, stellte sich neulich diese Frage, als er mit dem rasend an Beliebtheit gewinnenden Programm Openjourney experimentierte. Denn anders als die vergleichsweise arrivierten KI-Programme Dall-E oder Midjourney, die aus einem enormen Fundus an Bildern fiktive neue Illustrationen erschaffen (man erinnere sich beispielsweise an Papst Franziskus im schneeweißen Daunenmantel), scheint es bei Openjourney keine Liste verbotener Wörter zu geben.
Also legte van Ess eine Liste an Wörtern an, aus denen Openjourney Bilder schaffen würde, die nicht nur nach niederländischem Strafrecht, sondern überall in Europa, verboten wären. Sein Verdacht bestätigte sich: „Ich sah Bilder, die waren enorm fotorealistisch, und zumindest in meinem Land wären sie ein Gesetzesverstoß“, sagt van Ess im Gespräch mit der „Presse“. „Hitler, der Menschen exekutiert“, oder „Mutter Teresa, die Sklaven schlägt“, sind noch einige der vergleichsweise harmlosen Abbildungen, die Openjourney schuf.