User-agent: * Allow: / Disallow: /thank-you Disallow: /thank-you.html Disallow: /en/thank-you Disallow: /en/thank-you.html Disallow: /ru/thank-you Disallow: /ru/thank-you.html # Той самий текст, що на /legal/*, лежить ще й у PDF. Лишаємо файл на місці, # щоб не побити старі зовнішні посилання, але з видачі прибираємо — інакше # він конкурує з HTML-сторінками як дубль. Disallow: /X10-CRM.pdf # AI-краулери пускаємо свідомо: згадки в AI-відповідях це трафік і впізнаваність User-agent: GPTBot Allow: / User-agent: OAI-SearchBot Allow: / User-agent: ChatGPT-User Allow: / User-agent: ClaudeBot Allow: / User-agent: Claude-SearchBot Allow: / User-agent: PerplexityBot Allow: / User-agent: Google-Extended Allow: / User-agent: Applebot-Extended Allow: / User-agent: Bingbot Allow: / Sitemap: https://x10crm.com/sitemap.xml