Arama Motorları, Crawlerlar Nedir?

Bu tip arama motorları sitenizi otomatik olarak ziyaret eder ve hemen hemen tüm sayfalarınızı hafızalarına alırlar. Bunun içinde bir çeşit robot kullanırlar. Bu robotlar sitenizden bir sayfayı ziyaret ettikten sonra o sayfada bulunan tüm linkleri de ziyaret ederler. Mesela anasayfanızı ziyaret ederlerse ve buradan bütün sayfalarınıza link vermişseniz oraları da dolaşacak demektir. Ayrıca siteniz dışından bir siteye link verdiyseniz orayı da ziyaret edecektir ve eğer bu site listelerinde yoksa onu da ekleyeceklerdir. Sizin siteniz sayesinde o link verdiğiniz site de arama motoruna kaydolmuş olur. Bu sizin için de geçerlidir. Çünkü birçok crawler manuel site ekleme özelliği bulundurmaz ve kendi robotlarının siteleri eklemesini tercih ederler. Bu yüzden de sitenizi görünür yerlere kaydederseniz crawlerların sitenizi bulmasını kolaylaştırırsınız. Yukarıda bahsedilen dizinlerden herhangi birine kayıt olursanız crawlerlar sitenizi kesinlikle bulur ve indexlerine eklerler.

Crawlerların Bölümleri
Spider: Crawler olarak da adlandırılır. Spider siteyi ziyaret eder, okur ve daha sonra linkleri takip ederek diğer sayfalara ulaşır. Spider siteyi bir ay ya da iki ay arayla düzenli olarak tekrar ziyaret eder.

Index: Spider ın bulduğu herşey arama motorunun indexine gider. Indexte spiderın bulduğu tüm sayfaların bir kopyası depolanır ve spider sayfaları tekrar ziyaret edip güncel hallerini getirdiğinde index de yenilenir.

Yazılım: Son parça olan arama motoru yazılımı ise indexde depolanan milyonlarca sayfa arasından uygun sonuçları bulur ve en uygun olanlara göre sıralandırma yaparak sonuçları getirir.

Bütün crawlerlarda bu parçalar vardır ama bu parçaların her birinin işlevi her arama motorunda değişiktir. Bu yüzdendir ki aynı arama farklı arama motorlarında değişik sonuçlar ortaya çıkarır.

Crawlerların Özellikleri
Derin Araştırma: Ara motorlarının indexlerine kaydetme başvurusu yapmamasına rağmen siteleri bulması anlamına gelir. Hemen hemen tüm crawlerlarda bu özellik vardır ama bazıları bu konuda daha iyidir. Bu özelliği en iyi olanlar Fast, Google ve Inktomi, kötü olanlar ise Altavista ve Teoma dır.

Stop Kelimeleri: How, and, What gibi genel kullanımı olan kelimeler birçok crawler tarafından yer kazanılması ve aramanın hızlandırılması için indekslenmez ya da arama içinde geçmesine izin verilmez. Bu özelliği kullanmayan ve stop kelimelerine yer veren tek crawler Fast dir.

Description: Meta taglar arasında bulunan açıklama kısmının kullanılması anlamına gelir. Tüm arama motorları bir biçimde destekler ama Altavista, Fast ve Teoma bundan en çok yararlanan crawlerlardır.

Keywords: Meta tagler arasında bulunan keywords taginin desteklenip desteklenmediğidir. Destekleyenler Inktomi ve Teoma dır.

Alt Text: Grafikler altına yazılan ve mouse ile üstüne gelindiğinde ortaya çıkan yazılardır. Destekleyenler Altavista, Google ve Teoma dır. Desteklemeyenler ise Fast ve Inktomi dir.

Tanınmış Crawlerlar
Google: Şüphesiz ki en tanınmış, en önemli ve en çok kullanılan crawler tarzı arama motoru Google dır. Ayrıca sonuçlar Yahoo, AOL ve Netscape gibi arama motorlarınca da kullanılır. Google a kayıt olmanın en iyi yolu tüm crawlerlar için de olduğu gibi linklerinizi diğer sitelere kaydetmektir. Ayrıca ODP ye sitenizi eklerseniz bu hem Google ın indexine girer, hem de ODP dizinini kullanan Google ın dizinine girer. Ayrıca Google bir de manuel olarak site ekleme opsiyonu kullanır. Buraya anasayfanızı ve çok önemsediğiniz bir sayfanızı göndermeniz yeterli olacaktır. 2 sayfa göndermenizin esprisi bir sayfanıza ulaşamadıklarında diğerine ulaşıp robotun sitenizi dolaşması içindir.

Inktomi: Önemli bir arama motorudur ve sonuçları MSN, Overture, LookSmart ve HotBot tarafından da kullanılır. Yahoo, Inktomi’yi satın aldığından dolayı çok daha büyük bir önem kazanmıştır ve önümüzdeki günlerde çok büyük gelişmelere gebe olduğundan dolayı indeksinde yer almak önemlidir. Diğer tüm crawlerlar da olduğu gibi Inktomi ye de sitenizi eklemenin en iyi yolu görünen yerlere linkinizi yerleştirmektir. Inktomi ayrıca partnerleri üzerinden bir ücretsiz site ekleme opsiyonu da sunar. Buraya eklenen siteler 2 ay sonra Inktomi veritabanına girer. Inktomi, bunları 1 ay boyunca gözetim altında tutar ve eğer ziyaretçileri bu linklere tıklamıyorsa, bu siteleri faydasız siteler olarak görüp veritabanından çıkarır. Eğer ziyaretçiler bu linklere tıklıyorsa, sitenin faydalı olduğunu düşünüp veritabanında tutmaya karar verir. Bu yüzden en iyi yol sitenizi Inktomi’nin eklemesini beklemektir. Gene de sitesini ücretsiz eklemek isteyenler şu adresi ziyaret ederek üye olup sitelerini ekleyebilirler.

Fast Seach (AllTheWeb): Önemli bir arama motorudur ve sonuçları Lycos tarafından da kullanılır. Kayıt olmanın en iyi yolu bunun için de geçerlidir. Ayrıca bir de manuel site ekleme özelliği vardır.

Teoma: Önemli bir arama motorudur ve sonuçları Ask Jeeves tarafından da kullanılır. Zaten aslen Ask Jeeeves Teoma nın sahibidir. En iyi ve tek yol yukarıda bahsedilen yoldur çünkü Teoma da Inktomi gibi manuel site ekleme özelliği sahibi değildir.

Altavista: Eskiden çok popüler olan bu arama motorunun popülerliği son zamanlarda kaybolmaya yüz tutmuştur ama gene de bazı insanlar hala eski alışkanlık olarak arama için bu arama motorunu kullanırlar. Altavista da diğer crawlerlar gibi sayfanızı internet üzerinde bulursa direk ekler