Was ist GPTBot?
GPTBot ist der Webcrawler von OpenAI, der Inhalte sammelt, die zum Training der generativen KI-Basismodelle von OpenAI verwendet werden können. Er ist einer von vier User-Agents, die OpenAI dokumentiert, und der einzige, dessen Aufgabe das Training ist. Wer ihn sperrt, sagt OpenAI, Ihre Seiten nicht für das Training zu nutzen; aus der ChatGPT-Suche nimmt Sie das nicht heraus, das ist die Aufgabe von OAI-SearchBot.
Wie lautet der User-Agent-String von GPTBot?
GPTBot gibt sich mit dem Produkt-Token GPTBot zu erkennen, und genau dieses Token muss eine robots.txt-Gruppe nennen. OpenAI weist darauf hin, dass sich Versionsnummern ändern können; prüfen Sie in Ihren Logs also auf das Token statt auf den ganzen String. OpenAI sagt auch, dass es dem String eine robots.txt-Markierung anhängen kann, wenn GPTBot Ihre robots.txt abruft, damit sich diese Anfragen unterscheiden lassen.
Einen Namen in einer Logzeile kann jeder Scraper kopieren. Um zu bestätigen, dass eine Anfrage echt ist, prüfen Sie ihre IP gegen die Liste, die OpenAI unter openai.com/gptbot.json veröffentlicht.
Das ist der vollständige String aus der Dokumentation von OpenAI (Crawler-Doku von OpenAI, gelesen am 15. Okt. 2026):
Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko); compatible; GPTBot/1.4; +https://openai.com/gptbotWas tut GPTBot, und was nicht?
GPTBot crawlt Inhalte, die zum Training der generativen KI-Basismodelle von OpenAI genutzt werden können, und mehr tut er laut OpenAI nicht. Wer ihn in der robots.txt sperrt, zeigt an, dass die Inhalte der Website nicht für dieses Training genutzt werden sollen.
Was er nicht tut, ist für die Sichtbarkeit wichtiger:
- Er entscheidet nicht, ob Ihre Seiten in der ChatGPT-Suche erscheinen. Das verknüpft OpenAI mit OAI-SearchBot.
- Er ist nicht der Agent, der eine Seite öffnet, wenn jemand ChatGPT danach fragt. Das ist ChatGPT-User.
- Seine Regel ist von den anderen unabhängig: Laut OpenAI wirkt jede robots.txt-Einstellung für sich.
- Wenn Sie GPTBot und OAI-SearchBot beide erlauben, kann OpenAI laut eigener Aussage einen einzigen Crawl für beide Zwecke nutzen.
Wie unterscheidet sich GPTBot von OAI-SearchBot und ChatGPT-User?
Die drei erfüllen verschiedene Aufgaben, eine robots.txt-Zeile kann also nicht für die anderen stehen. Das ist die Verwechslung hinter der beliebten Regel, die GPTBot sperrt im Glauben, eine Website damit aus ChatGPT herauszuhalten; GPTBot zu sperren entfernt Sie nicht aus ChatGPT.
| Agent | Aufgabe | Wenn Sie ihn sperren |
|---|---|---|
| GPTBot | Crawlt Inhalte, die die Basismodelle von OpenAI trainieren können | Signalisiert, dass Ihre Inhalte nicht für das Training genutzt werden sollen |
| OAI-SearchBot | Macht Websites in den Suchfunktionen von ChatGPT sichtbar | Nicht in Suchantworten von ChatGPT gezeigt, Navigationslinks können aber weiter erscheinen |
| ChatGPT-User | Besucht eine Seite, wenn ein Nutzer ChatGPT oder ein Custom GPT fragt, oder über GPT Actions | Laut OpenAI gelten robots.txt-Regeln womöglich nicht, weil ein Nutzer den Besuch ausgelöst hat |
| OAI-AdsBot | Prüft die Sicherheit von Zielseiten, die als Anzeigen in ChatGPT eingereicht werden | Nur relevant, wenn Sie ChatGPT-Anzeigen schalten; er besucht nur eingereichte Anzeigenseiten |
Wie sperren oder erlauben Sie GPTBot in der robots.txt?
Nennen Sie GPTBot in einer eigenen Gruppe in der robots.txt im Stammverzeichnis Ihrer Website. Eine übliche Wahl ist, GPTBot zu sperren und OAI-SearchBot zu erlauben: Nein zum Training, Ja zur ChatGPT-Suche.
Laut OpenAI kann es etwa 24 Stunden dauern, bis sich Änderungen an der robots.txt in den Suchergebnissen zeigen. Eine Regel kann auch am Rand des Netzes ausgehebelt werden: Eine Bot-Einstellung an CDN oder Firewall kann einen Agenten sperren, den Ihre robots.txt erlaubt. Prüfen Sie beides mit dem kostenlosen KI-Crawler-Checker.
# Nein zum Training
User-agent: GPTBot
Disallow: /
# Ja zur ChatGPT-Suche
User-agent: OAI-SearchBot
Allow: /Was bedeutet das dafür, in ChatGPT zitiert zu werden?
Im öffentlichen Tesla-Beispiel (4. Okt. 2026) zitierte ChatGPT die eigene Website der Marke weit öfter als die anderen Engines: tesla.com 12-mal in 93 Zitierungen über 25 Käuferfragen, etwa 13 %, während die anderen drei Engines zusammen sie 5-mal in 915 zitierten.
Diese Links stammen aus den Suchfunktionen von ChatGPT, die OpenAI mit OAI-SearchBot verknüpft, nicht mit GPTBot. Wer GPTBot sperrt, lässt sie unberührt; wer OAI-SearchBot sperrt, nicht. Siehe, wie ChatGPT die genannten Marken auswählt.
Häufige Fragen: GPTBot
Entfernt das Sperren von GPTBot meine Website aus ChatGPT?
Nein. GPTBot ist der Trainings-Crawler. Laut OpenAI werden Websites, die OAI-SearchBot ausschließen, nicht in Suchantworten von ChatGPT gezeigt; GPTBot hat keine solche Rolle. Jede robots.txt-Einstellung ist unabhängig.
Entfernt das Sperren von GPTBot Inhalte, die OpenAI schon gesammelt hat?
Die Crawler-Seite von OpenAI beschreibt die GPTBot-Regel als Signal, dass Ihre Inhalte nicht für das Training genutzt werden sollen. Zu Inhalten, die vor der Regel gesammelt wurden, sagt sie nichts, gehen Sie also nicht davon aus.
Woran erkenne ich, dass eine Anfrage wirklich von GPTBot kam?
Prüfen Sie die Quell-IP gegen die Liste, die OpenAI unter openai.com/gptbot.json veröffentlicht. Einen User-Agent-String allein kann jeder Scraper kopieren.
Ist GPTBot dasselbe wie ChatGPT-User?
Nein. ChatGPT-User besucht eine Seite, wenn jemand ChatGPT oder ein Custom GPT etwas fragt, und laut OpenAI wird er nicht für automatisches Crawlen genutzt. Weil Nutzer diese Besuche auslösen, gelten robots.txt-Regeln für ihn womöglich nicht.
Verwandte Begriffe
- OAI-SearchBot
OAI-SearchBot ist der Crawler von OpenAI, der Websites für die Suchfunktionen von ChatGPT erfasst; Websites, die ihn ausschließen, erscheinen nicht in den Antworten der ChatGPT-Suche.
- ClaudeBot
ClaudeBot ist der Webcrawler von Anthropic, der Webinhalte sammelt, die zum Training der Claude-Modelle von Anthropic beitragen können.
- PerplexityBot
PerplexityBot ist der Crawler von Perplexity, der Webseiten indexiert, damit sie in den Suchergebnissen von Perplexity erscheinen und verlinkt werden können.
Durchgerechnetes Beispiel: Tesla, öffentliche KI-Antworten, 4. Okt. 2026: der erste Scan von Tesla durch Proofsource, 25 Käuferfragen und 5 Markenfragen, eine Antwort pro Frage auf jeder von vier Engines. Eine kleine Stichprobe einer einzigen Marke, gezeigt als Beispiel, nicht als Benchmark.
Sehen Sie, wo KI Sie auslässt, und was Sie korrigieren sollten.
Sehen Sie, bei welchen Käuferfragen Ihre Marke genannt wird, wer stattdessen genannt wird und was Sie ändern sollten. 200 Antworten. 25 Prompts/Frage. Top-KI-Engines. 2 Tage. Kostenlos. Keine Kreditkarte.