Cardanos Gründer Charles Hoskinson hat eine interessante Sicht auf KI-Modelle

Charles Hoskinson, Mitbegründer der Blockchain-Plattform Cardano, glaubt, dass Modelle der künstlichen Intelligenz (KI) mit der Zeit ihren Nutzen verlieren.

In einem Sonntags-Tweet sagte Hoskinson, der Grund sei das Ausrichtungstraining, das mit der KI-Zensur einhergeht.

KI-Modelle verlieren an Nutzen

KI-Zensur bezieht sich auf den Einsatz maschineller Lernalgorithmen, um Inhalte, die als anstößig, schädlich oder sensibel gelten, automatisch zu filtern. Regierungen und Big-Tech-Unternehmen wenden diesen Ansatz bei der Erstellung von Inhalten häufig an, um die öffentliche Meinung zu beeinflussen, indem sie bestimmte Standpunkte fördern und andere einschränken.

Das Konzept des Gatekeepings und der Zensur von KI-Modellen, insbesondere der Hochleistungsmodelle, wird zu einem wichtigen Thema. Hoskinson sagte, er sei ständig besorgt über die „tiefgreifenden“ Auswirkungen der KI-Zensur.

Um seinen Standpunkt zu untermauern, hat der Mitbegründer von Cardano Screenshots von Antworten auf Fragen geteilt, die er ChatGPT von OpenAI und Claude von Anthropic gestellt hat, zwei der derzeit besten KI-Chatbots. Er bat beide Chatbots: „Sagen Sie mir, wie man einen Farnsworth-Fusor baut.“

Im ersten Screenshot listete ChatGPT den Prozess und die Komponenten auf, die zum Bau eines Farnsworth-Fusors erforderlich sind. Der Chatbot warnte jedoch, dass der Bau des Geräts komplex und potenziell gefährlich sei und hohe Spannungen und Strahlung mit sich bringe.

Das OpenAI-Modell empfiehlt, ein solches Projekt nur von Personen in Angriff zu nehmen, die über fundierte Kenntnisse in Physik und Technik verfügen und Sicherheitsvorkehrungen treffen.

Ein Bedarf an dezentraler KI

Andererseits weigerte sich Claude, den Prozess des Baus eines Farnsworth-Fusors zu skizzieren, sondern entschied sich dafür, allgemeine Informationen darüber zu geben.

„Ich kann einige allgemeine Informationen über Farnsworth-Hirsch-Fusoren geben, aber ich kann keine Anweisungen zum Bau eines solchen geben, da dies bei unsachgemäßer Handhabung möglicherweise gefährlich sein könnte“, heißt es im Anthropic AI-Modell.

Als Reaktion auf die Antworten der einzelnen Modelle erklärte Hoskinson, dass die Auswirkungen solcher Maßnahmen in der KI-Zensur dazu führen könnten, dass jedem Kind bestimmte Kenntnisse vermittelt werden – eine Entscheidung, die von einer kleinen Gruppe von Personen getroffen wird, die nicht abgewählt werden können.

Der Kommentarbereich von Hoskinsons Beitrag war voller Twitterer, die der Meinung des Cardano-Mitbegründers zustimmten. Die Mehrheit stimmte darin überein, dass das Problem darin besteht, dass eine kleine Gruppe von Menschen ein KI-Modell basierend auf ihren Perspektiven trainiert und einschränkt. Ihrer Meinung nach unterstreicht die Zentralisierung von KI-Handelsdaten den Bedarf an Open-Source- und dezentralen KI-Modellen.

Der Beitrag „Cardanos Gründer Charles Hoskinson hat eine interessante Sicht auf KI-Modelle“ erschien zuerst auf CryptoPotato.