Sebelum kita memasang robot.txt
 pada blog, kita perlu tahu pengertian/definisi serta manfaat robot.txt 
terlebih dahulu, jangan semata - mata menemukan artikel tentang cara 
pemasangan robot.txt yang 
baik misalnya di blog orang, kita langusng saja menerapkan nya pada blog
 kita sendiri tanpa tahu dampak yang akan terjadi nantinya, maka hati - 
hatilah karena pemasangan robot.txt ini berhubungan dengan google webmaster tools.
 pengalaman pribadi selama menggeluti dunia blogger saya mendapatkan 
informasi dari para sahabat-sahabat blogger sebagian ada yang suruh 
memasang dan sebagian sahabat lagi ada yang suruh jangan memasang robot.txt itu. nah agar kita tidak agu lagi maka terlebih dahulu pelajarilah manfaat dan fungsi robot.txt itu.
Untuk penggunaan fitur ini google sendiri memberi peringatan agar 
berhati - hati dalam menggunakan fitur robot.txt / Peryapan dan 
pengindeksan ini. sebagaimana peringatan yang ada dalam menu robot.txt 
ini adalah 
Jadi google sendiri menjelaskan bahwa ada pengaruh terhadap mesin telusur, search engine google.
________________________________________________________________________
Robot.Txt untuk Blog
Robots.txt adalah Sebuah file dengan sebuah fungsi yang di 
gunakan untuk membatasi akses robot mesin pencari (Search engine misal :
 Google,Bing,Yahoo) yang sedang menjelajahi atau membuka situs web yang 
anda miliki . Sebelum mereka mejelajahi halaman web, mereka memeriksa 
terlebih dahulu untuk melihat apakah sebuah file robots.txt ada ataukah 
tidak , dan di dalam robots.txt ada perintah (command) yang mencegah 
mereka mengakses untuk halaman tertentu.
Kita memerlukan robots.txt agar robot-robot itu tidak mengindex halaman 
di search engine (Google,yahoo,Bing) yang tidak kita inginkan , karena 
mungkin ada beberapa halaman web yang tidak ingin di index oleh search 
engine. Dan jika kita ingin semua content di web kita di index oleh 
mesin pencari kita tidak membutuhkan robots.txt .
_________________________________________________________________________________
Manfaat Robot.TXT untuk Blog
 Dalam hal optimasi SEO,
 kemampuan Robots.txt  yang dapat mengarahkan spider bot mengcrawling 
halaman yang ditargetkan bisa kita manfaatkan untuk mengarahkan spider 
bot pada halaman penting seperti halaman konten agar konten tersebut 
cepat terindex oleh search engine.
Saat spider bot memutuskan untuk mengcrawl situs, situs akan kehilangan 
bandwidth dalam jumlah yang tidak sedikit. Bila beberapa directory 
tertentu misal pada directory search kita batasi aksesnya maka ini akan 
menghemat bandwidth dan kegagalan spider bot dalam mengcrawl blog kita 
karena akses situs yang kurang baik akan teratasi sehingga spider bot 
bisa dengan leluasa merayapi seluruh isi konten sampai tuntas.
Di lain sisi bila halaman index yang di dapat search engine pada sebuah 
situs dinilai sangat berkualitas maka situs tersebut akan memiliki 
peluang besar untuk masuk halaman pertama. Hal ini akan berbeda jauh 
hasilnya dibandingkan dengan situs yang memiliki banyak halaman index 
namun dengan konten yang kurang berkualitas dan cenderung hanya 
menampilkan banyak link didalamnya. 
Semoga Bermanfaat
:
Thanks for reading & sharing TOPIKKU




0 komentar:
Posting Komentar