hvad betyder ”crawling”?
crawling er betegnelse for den proces, det er for en søgemaskine at ”kravle” sig gennem nettet med deres ”spiders”.
crawling er i dag en kontinuerlig og dynamisk proces for alle de store søgemaskiner. nye sider forsøger de at crawle så hurtigt som muligt, hvilket mange gange sker sekunder efter de publiceres. gamle sider besøges med længere og længere mellemrum, hvis der ikke sker nogen opdateringer.
i selve crawling processen sker der en vis grad af filtrering.