Anfang 2019 veröffentlichte die Organisation "OpenAI" das Language Model "GPT-2", das als Künstliche Intelligenz fähig ist, eigenständig einen Text zu verfassen, der einen sinnvollen Inhalt ergab. Dieser #LongRead auf MIT TechReview befasst sich kritisch mit der Entstehungsgeschichte und der ethischen und ökonomischen Ausrichtung von OpenAI. Im Kern steht die Frage: Kann es in einer für die Menschen so wichtigen Frage wie der Bedeutung von Künstlicher Intelligenz auf Dauer eine Non-Profit-Organisation geben, die zum Wohle von uns allen agiert? 

Sicherlich gibt es eine gewisse Konkurrenzsituation zwischen OpenAI und dem MIT; dennoch finden sich im Text viele interessante Erkenntnisse über die Wechselwirkungen zwischen wirtschaftlichen Zwängen ("Effektiver Altruismus"), Transparenzansprüchen an eine dem gesellschaftlichen Wohl verpflichtete Organisation und den häufig in diesem Forschungsbereich der Künstlichen Intelligenz diskutierten ethischen Prinzipien von KI. 

Als OpenAI in 2015 u. a. von Elon Musk (der sich inzwischen aber aus dem Projekt herausgezogen hat) und Peter Thiel gegründet und mit einem Startkapital von $1 Mrd. ausgestattet wurde, war es das Ziel, vor vergleichbaren anderen Institutionen als erste eine "Künstliche Generelle Intelligenz" (AGI) zu kreieren. Die Vorgabe, "erste" sein zu wollen, wurde damit begründet, dass man damit aus der Erfahrung und der Rückschau heraus anderen Forschungen quasi die potenziellen Gefahren der AGI aufzeigen und für einen ethischen Einsatz der Technik sorgen könnte. OpenAI war damals eine reine Non-Profit-Organisation. Die Autorin des Beitrags hatte nun nach 4 Jahren Gelegenheit, in 3 Tagen 36 Interviews mit den Angestellten und Führungskräften von OpenAI zu führen.

Sie zeichnet das Bild einer von männlichen Weißen dominierten Organisation, die an ihren eigenen Transparenz- und Altruismusansprüchen in einem höchst kompetitiven und den ökonomischen Gesetzen gehorchenden Umfeld scheitert und versucht, dieses Scheitern mit internen Verhaltensregeln (kein mobiles Arbeiten, das Büro in San Francisco ist der einzige Arbeitsort), inhaltlichen Leitlinien, absoluter Verschwiegenheit gegenüber Medienvertretern und der Gründung einer For-Profit-Organisation unter dem Dach von OpenAI aufzuhalten.

Während zu Beginn auf Offenheit Wert gelegt wurde:

"Researchers will be strongly encouraged to publish their work, whether as papers, blog posts, or code, and our patents (if any) will be shared with the world.” 

wird inzwischen mit Verweis auf die möglichen Gefahren und Manipulationsrisiken, die von GPT-2 ausgehen könnten, darauf hingewiesen, dass nur noch die "harmlosen" oberflächlichen Ergebnisse publiziert werden, während die eigentlichen spannenden Ergebnisse der Öffentlichkeit vorenthalten werden. Dies könnte nachvollziehbar sein; so ist die Nutzung einer KI wie GPT-2 in den falschen politischen Händen ein machtvolles Instrument, um im Orwell'schen Sinne die öffentliche Meinung nachhaltig zu verzerren. Die Glaubwürdigkeit dieser Argumentationskette wird aber laut Autorin dadurch beschädigt, dass OpenAI in der Zwischenzeit einen For-Profit-Arm gegründet hat und der (berechtigte) Verdacht besteht, dass sich OpenAI längst von den hehren anfänglichen Zielen verabschiedet hat. Auch der stark gestiegene Druck zur Verschwiegenheit bestätigt diesen Verdacht eher noch. Dieser Druck wird beispielsweise auch nochmals dadurch verstärkt, dass die Gehalts- und Hierarchiestufen geknüpft sind an die Striktheit der Verhaltensregeln. So gibt es auf Forscherebene die Selbstverpflichtung zur Verschwiegenheit, während die Führungskräfte auch daran gemessen werden, wie sie ihre Mitarbeiter erfolgreich zu dieser Verschwiegenheit gebracht haben.

Nach Ansicht der Autorin ist der Druck, der zu diesen Entwicklungen geführt hat, hausgemacht; es ist der Anspruch, über den Weg der massiven Ausweitung von eigener Rechenleistung das Ziel der AGI als erste erreichen zu wollen. Dieser Weg über die Rechenleistung ist extrem kostenintensiv. Wenngleich es auch von Microsoft in der Zwischenzeit eine Finanzspritze von ebenfalls $1 Mrd. gab, ist die Rechenleistung auf Dauer nicht ohne den beständigen Zufluss finanzieller Mittel von Philanthropen zu gewährleisten.

OpenAI lebt derzeit vor allem von dem unermüdlichen Einsatz seiner Angestellten:

"More than others in the field, its employees treat AI research not as a job but as an identity."

Wir sollten hoffen, dass OpenAI auf Dauer die kommerziellen Forschungen unter Druck setzen kann.