Настрою 2 файла без которых ни один сайт, не будет корректно работать - robots.txt и sitemap.xml
Д ля чего нужны эти файлы?
robots.txt - директива, в которой указаны правила индексации сайта для разных поисковых роботов (какие разделы и страницы индексировать, а какие нет);
sitemap.xml - карта сайта, в которой собраны и структурированы ссылки на все имеющиеся html-страницы сайта, чтобы поисковым роботам было легче понимать его структуру и сканировать сайт.
По robots.txt:
Укажу правило User-agent для всех важных поисковых роботов (Yandex, Google, общее правило и др)
Уберу нерабочий параметр Host
Пропишу путь к карте сайта
Закрою JS-скрипты и CSS-стили для Яндекс
Закрою все 404 ошибки и битые страницы
По sitemap.xml:
Настрою правильную карту сайта с нужными страницами
Работаю со всеми CMS: CS-Cart, Nethouse, WordPress, OpenCart / OcStore, 1C-Битрикс, Joomla, Magento, PrestaShop, Shop Scipt, Simpla, Мегагрупп, Tiu.ru, WIX, WebAsyst, Drupal, ModX, UMI. CMS, NetCat, Host CMS, InSales, Tilda