# NeurekaLab — robots.txt # # Criteri general: els rastrejadors d'IA (GPTBot, ClaudeBot, PerplexityBot, # Google-Extended…) NO es bloquegen, perquè la visibilitat en motors # generatius (GEO) és un objectiu del projecte. # # Excepció: la pàgina d'inversors. Es tracta de manera diferent segons el # tipus de rastrejador, i el motiu és important: # # · Als cercadors (User-agent: *) NO se'ls prohibeix rastrejar-la. Sembla # contraintuïtiu, però bloquejar-la aquí seria pitjor: Google no la # llegiria mai i, per tant, no veuria mai l'etiqueta «noindex» de dins. # Amb enllaços que hi apunten, podria acabar mostrant-ne la URL nua als # resultats i no hi hauria manera de treure-la. Deixant-los entrar, # llegeixen el «noindex» i la retiren de l'índex. # · Als rastrejadors de models sí que se'ls prohibeix, un per un: no # indexen —o sigui que el noindex no els diu res— i el que es vol és # que no en llegeixin el contingut. Cal anomenar-los d'un en un perquè # un rastrejador obeeix NOMÉS el grup que porta el seu nom si n'hi ha. User-agent: * Disallow: User-agent: GPTBot Disallow: /ca/inversors/ Disallow: /es/inversores/ Disallow: /en/investors/ User-agent: ChatGPT-User Disallow: /ca/inversors/ Disallow: /es/inversores/ Disallow: /en/investors/ User-agent: ClaudeBot Disallow: /ca/inversors/ Disallow: /es/inversores/ Disallow: /en/investors/ User-agent: PerplexityBot Disallow: /ca/inversors/ Disallow: /es/inversores/ Disallow: /en/investors/ User-agent: Google-Extended Disallow: /ca/inversors/ Disallow: /es/inversores/ Disallow: /en/investors/ User-agent: Applebot-Extended Disallow: /ca/inversors/ Disallow: /es/inversores/ Disallow: /en/investors/ User-agent: CCBot Disallow: /ca/inversors/ Disallow: /es/inversores/ Disallow: /en/investors/ User-agent: Bytespider Disallow: /ca/inversors/ Disallow: /es/inversores/ Disallow: /en/investors/ Sitemap: https://neurekalab.com/sitemap-index.xml