Wie wir auf der Frankfurter Buchmesse die Verlage an Amazon verkauften

Auf der Frankfurter Buchmesse haben wir ein fingiertes KI-Unternehmen eingeschleust. Medien berichteten unkritisch und Verlage ließen sich auf Verhandlungen mit uns ein, obwohl unser Unternehmen darauf ausgerichtet war, die Verlagswelt in eine Abhängigkeit zu treiben. Mit diesem Experiment wollten wir die Frage aufwerfen, warum ganze Branchen sich scheinbar ohne Widerstand von Firmen wie Amazon abhängig machen.

Unter dem peinlichen Namen Amazing Books haben wir KI-generierte Bücher auf der Buchmesse präsentiert. Wir haben eine Software entwickelt, die auf Basis von Konsumverhalten und weiterer Metadaten ein Profil der Leser*innen erstellt und Romane entsprechend personalisiert. Dabei haben wir die Generierung der Bücher live vorgeführt. Tatsächlich haben wir im Hintergrund eine Schnittstelle von ChatGPT genutzt und Texte von gemeinfreien Werken wie James Joyce’s Ulysses angepasst.

Offene Verhandlungen, kaum Know How zu künstlicher Intelligenz

Wir gingen mit den kaufmännischen Geschäftsführern und Fachverantwortlichen von über 30 Verlagen in Verhandlungen. Unser Ziel: wir wollten lizensierte Texte zur Verfügung gestellt bekommen und in unsere angebliche KI-Software einspeisen. Im Gegenzug boten wir ein ausgeklügeltes Urheberrechts-Token-System an, mit dem Autoren und Verlage die genutzten Textbausteine nachvollziehen können und Anteile ausgezahlt werden sollen.

Überraschend war vor allem, dass Amazon selbst auf der Buchmesse mit unserem fingierten Startup in Verhandlungen trat, sie zu übernehmen. „Gerade beobachten wir den Trend, dass große Unternehmen ungehindert wachsen und uns alle abhängig machen.” sagt Luca Wagner, CEO von Amazing Books. “Sei es Elon Musk mit Twitter, wo alle bleiben obwohl es gefährlich rechtsextrem abrutscht, Amazon mit ihren Servern, Versandstrukturen und Onlinehandel oder Google und Co. Wir brauchen Wege, wie wir Macht auch in der Wirtschaft im Sinne von „Checks and Balances“ dezentralisieren können.”

Das Ergebnis des Experiments war ernüchternd: natürlich waren die Gespräche offenherzig, was im Messekontext menschlich und professionell nachvollziehbar ist. Doch gab es an dem Versuch, die Verlage offensichtlich in eine dauerhafte Abhängigkeit zu treiben, keine erkennbare Gegenwehr. Vielmehr wurde deutlich, dass eine orientierungslose Neuland-Haltung vorherrschte.

Medien fielen auf das Startup hinein

Mehrere Medien, darunter der dlf und der Hessische Rundfunk, fielen auf das Quatschunternehmen Amazing Books herein und berichteten über sein Produkt. Da es keine investigativen Stücke sondern Berichterstattung auf der Buchmesse waren, ist es nicht erschreckend, da das Unternehmen glaubwürdig repräsentiert war. Jedoch ist in der generellen journalistischen Berichterstattung zu KI schade, dass kaum kritische Fragen zu Firmenstrukturen, Datenschutz, Open Source Software oder andere Standards gestellt werden.

Wir müssen uns wehren – gegen mächtige Unternehmen, nicht gegen KI

„Ich liebe künstliche Intelligenz, am liebsten würde ich schon beim Frühstück mit meinem Toaster über den Sinn des Lebens philosophieren. Aber wenn das nicht gemeinnützig passiert, wenn wir Amazon nicht zerschlagen, wird mir dieser Toaster sehr unsympathisch.“, sagt Luca Wagner, CEO von Amazing Books. „Die Distopie einer hochrationalen KI, die Menschen abhängig machen und als Ressource ausbeuten wird, ist eine Projektion: Hier geht es um die empfundene Ohnmacht gegenüber große Unternehmen.“

Wir möchten uns bei den lieben Menschen entschuldigen, die mit strahlenden Augen auf deren Prank hereingefallen sind. Mit ihrem Experiment wollen wie verstehen, warum wir uns oft viel zu spät gegen mächtige Player organisieren. Sie ersticken eine demokratische Kultur im Keim: KI ist super, aber gegen zu zentralisierte Strukturen sollten wir wehrhaft bleiben.