User-agent: * Allow: / # Явное разрешение ленты — Дзен просит убедиться, что робот до неё доходит Allow: /rss.xml Allow: /rss.php # Служебные ручки: отдают 401/403, в индексе им делать нечего Disallow: /api/ # Мусор от прежнего сайта и чужих сканеров. Робот тратил на него треть обхода: # из 100 обойдённых адресов 33 приходились на несуществующие /_next/*.ttf Disallow: /_next/ Disallow: /wp-admin/ Disallow: /wp-content/ Disallow: /wp-includes/ Disallow: /wp-login.php Disallow: /xmlrpc.php # Параметры в адресе плодят дубли: /?p=1 отдавал полную копию главной # и попал в поиск. Clean-param склеивает такие адреса с чистым, # не ломая метки для аналитики. Clean-param: p&page_id&cat&replytocom&preview&attachment_id&v&ver&cache / Clean-param: utm_source&utm_medium&utm_campaign&utm_term&utm_content / Clean-param: yclid&gclid&fbclid&from&_openstat&etext / Sitemap: https://perfinn.ru/sitemap.xml