Anthropic Claude: Private KI-Chats tauchten in Google-Suchergebnissen auf

Eine einfache Anfrage reichte aus, um Hunderte Konversationen mit Anthropics Chatbot Claude bei Google und anderen Suchmaschinen zu finden. Erst nachdem der Zwischenfall in Internetforen die Runde machte, hat der KI-Konzern die Lücke nun offenbar geschlossen.

Das Problem war seit Langem bekannt. Vor einem Jahr meldete das US-Medium »Fast Company«, dass Tausende privater Anfragen samt Antworten des Chatbots ChatGPT im Internet abrufbar und über Google zu finden waren. Später waren weitere Unternehmen von ähnlichen Leaks betroffen. So spülte ein Update  von Grok Hunderttausende Gespräche, die Nutzer mit Elon Musks Chatbot geführt hatten, in den Google-Index. Auch Anthropic musste sich kritischen Fragen stellen  und sperrte Google von den Anfragen seiner Kundschaft aus.

Dass die Links zu den Gesprächsprotokollen damit jedermann offen stehen, war einigen Betroffenen offenbar nicht bewusst. Neugierige Nutzer fanden Links zu erotischen Fantasien, aber auch zu geheimen Codes, die Zugang zu Kryptowallets gewähren konnten, ebenso wie Patienteninformationen und Telefonnummern.

Wie das US-Magazin »Wired« berichtet , war dafür offenbar eine technische Schwachstelle ausschlaggebend. Mithilfe einer Datei namens robots.txt blockiert Anthropic den Suchrobotern von Google und Co. den generellen Zugriff auf Claude-Konversationen. Die Datei verbietet es den automatischen Programmen, die Inhalte der Website des KI-Vorreiters systematisch zu scannen und in Suchmaschinen zu präsentieren.

Sind die entsprechenden Links jedoch auf anderem Wege zu finden – etwa in Foren wie Reddit – werden sie von Google, Bing und anderen Anbietern erfasst. Um dies zu verhindern, können KI-Firmen in den Metainformationen jeder einzelnen Konversation ein Verbot platzieren, das die Bots der Suchmaschinen zu respektieren haben. Laut Recherchen von »Wired« war das offenbar unterblieben. Eine Anfrage des US-Magazins dazu beantwortete Anthropic nicht.

Mehr zum Thema

• 8 Min

• 6 Min

• 14 Min

Gegenüber der Website »Futurism.com« erklärte  das Unternehmen, es habe keine Panne gegeben: »Wenn jemand eine Unterhaltung teilt, macht er diesen Inhalt öffentlich zugänglich.« Inzwischen sind die Chats jedoch wieder aus den Suchergebnissen von Google, Bing und DuckDuckGo verschwunden. Links zu spezifischen Beiträgen, die etwa bei Reddit geteilt wurden, funktionieren aber weiterhin.

Wer vermeiden will, dass die eigenen Konversationen mit der KI öffentlich werden, kann den Zugriff in den Privatsphäre-Einstellungen  von Claude überprüfen. Hier kann man die Veröffentlichung jedes einzelnen Gesprächs separat widerrufen.