Scrapy
Du skriver en liten fil som säger vilken adress som ska besökas och vilka delar av sidan som ska plockas ut, till exempel produktnamn och pris. Scrapy sköter resten: köar länkar, gör flera anrop samtidigt, försöker igen när något går fel och skriver resultatet till en fil du kan öppna i ett kalkylprogram. Det förutsätter att någon i gruppen kan Python, eller vill lära sig. Sajternas användarvillkor och dataskyddsreglerna sätter gränser för vad som får hämtas, och personuppgifter är alltid känsliga. För ett UF-företag är den vanliga användningen marknadsundersökning: samla prisuppgifter i den bransch ni ska in i och se var er egen prislapp hamnar.
Vad det är
Scrapy är ett ramverk i programmeringsspråket Python för att automatiskt hämta uppgifter från webbsidor. Du beskriver var på sidan uppgifterna finns, och verktyget går igenom sida efter sida och samlar ihop dem.
Guider som nämner verktyget
Ingen guide nämner verktyget ännu.
- Driftform
- Lokalt
- Kategori
- Automation
- Webbplats
- github.com
- Kodrepo
- github.com/scrapy/scrapy