Robots.txt Oluşturucu
Arama motoru botları için robots.txt dosyası oluşturun.
Sık Sorulan Sorular
Robots.txt Oluşturucu Hakkında
Robots.txt, web sitenizin kök dizininde bulunan ve arama motoru tarayıcılarına (botlarına) hangi sayfaları taraması ya da atlamaması gerektiğini bildiren bir protokol dosyasıdır.
Temel Robots.txt Sözdizimi
User-agent: *
Allow: /
Disallow: /admin/
Disallow: /private/
Sitemap: https://siteadi.com/sitemap.xml
Robots.txt'te Kullanılan Direktifler
- User-agent: Hangi bota kural uygulandığı (* = tümü)
- Disallow: Taranmasını istemediğiniz dizin veya sayfalar
- Allow: Disallow ile engellenen bir dizinde izin verilen alt yol
- Sitemap: XML sitemap dosyasının URL'si
Robots.txt vs Noindex Farkı
Robots.txt sayfanın taranmasını engeller, ancak dış linkler varsa indekslenebilir. Noindex meta etiketi sayfanın arama sonuçlarında görünmesini kesin olarak engeller. Gizli tutmak istediğiniz sayfalar için her ikisini birlikte kullanın.
Yaygın Robots.txt Hataları
- Ana sayfayı veya CSS/JS dosyalarını engellemek
- Tüm siteyi engelleyip yayına almak
- Sitemap URL'sini eklemeyi unutmak