Sicherheitsbedenken zur Rechtfertigung
Anthropic argumentiert, dass seine Modelle zu gefährlich seien, um frei verwendet zu werden. Claude Fable lässt deshalb neben den ursprünglichen Einschränkungen zu Themen wie Sex, Gewalt und Drogen keine Fragen zu Biologie oder Cybersecurity zu – angeblich, um den Bau von Biowaffen zu verhindern und Hackern keine Hilfe zu bieten. Aber diese Einschränkungen gelten nicht nur für nachvollziehbare Themen.
Seit es die ersten LLMs gibt, ist es ein offenes Geheimnis, dass mittels Destillation das Wissen anderer Modelle abgezweigt und selbst zum Bau neuer Modelle verwendet wird (ein möglicher Grund dafür, warum einige chinesische LLMs zwar ihre fertigen Modelle, nicht aber ihre Trainings-Pipeline und ihre Daten veröffentlichen). Das gefällt Anthropic seit Längerem nicht besonders(öffnet im neuen Fenster), und offenbar ist das Thema Destillation auch im Modell selbst tabu: Wer Fable nach dem Prinzip von Destillation fragt, wird abgeblockt.
Generell inszeniert sich Anthropic schon immer als die Firma, der es mit der Sicherheit von KI-Modellen besonders ernst ist. Angeblich hatte das Unternehmen zur Veröffentlichung von ChatGPT bereits ein eigenes, ähnlich mächtiges Modell, dieses aber aus Sicherheitsgründen zurückgehalten. Auch positioniert sich der Anthropic-Gründer Dario Amodei gegen Massenüberwachung und autonome Waffen(öffnet im neuen Fenster) und spricht sich für eine Welt aus, in der KI das Leben aller besser macht.
Dass es sich aber überwiegend um PR und Inszenierung handelt – man könnte auch Heuchelei sagen -, wird dabei angesichts der sonstigen Geschäftsbeziehungen deutlich: Anthropic hat Verträge mit dem US-Verteidigungsministerium und veröffentlicht nahezu nichts von seiner eigenen Forschung.
Wo etwa OpenAI immerhin noch unregelmäßig kleinere Modelle(öffnet im neuen Fenster) und Forschungspapiere veröffentlicht, bleibt bei Anthropic wenig für die Gesellschaft übrig.
Es wird großteils von der Forschung und Arbeit anderer, die die Grundlagen für die Modelle schaffen, profitiert – und gleichzeitig wird das eigene Image als verantwortungsvoller Akteur gepflegt. Man kann durchaus unterstellen, dass die vorgebrachten Sicherheitsbedenken einfach eine Ablenkung davon sind, nichts zum Erfolg anderer im Feld beitragen zu wollen.
Zumal Anthropic gerade alles an Werbung braucht, was es bekommen kann.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.