Bevor wir uns mit Web Scr aping Tools beschäftigen, sollen wir zuerst wissen, was Web Mining ist.

Wikipedia nachfolge kann man Web Mining wie folgend verstehen:

Unter Web Mining (web mining) auch Webmining versteht man die Übertragung von Techniken des Data-Mining zur (teil)automatischen Extraktion von Informationen aus dem Internet, speziell dem World Wide Web. Web Mining übernimmt Verfahren und Methoden aus den Bereichen Information Retrieval, maschinelles Lernen, Statistik, Mustererkennung und Data-Mining.

Dabei können drei Untersuchungsgegenstände unterschieden werden:

Dabei handelt es sich um ein Verfahren zum Sammeln nützlicher Daten von Websites. Zu diesen Inhalten gehören Nachrichten, Kommentare, Unternehmensinformationen, Produktkataloge usw.

Web Structure Mining wird auch als Link Mining bezeichnet. Es ist ein Prozess zur Entdeckung der Beziehung zwischen Webseiten, die durch Informationen oder direkte Links miteinander verbunden sind. Beim Web-Structure-Mining kommen so genannte Hubs zum Einsatz. Es gibt gute Hubs, die auf viele wertvolle Seiten verweisen, und wertvolle Seiten, auf die viele Hubs verweisen.

Dabei handelt es sich um einen Prozess der Identifizierung oder Entdeckung von Mustern aus großen Datensätzen. Anhand dieser Muster lassen sich Vorhersagen über das Nutzerverhalten oder Ähnliches treffen. Es gibt zwei Arten von Techniken zur Entdeckung des Musters, nämlich Musteranalyse-Tool und Musterentdeckungs-Tool.

R ist eine freie Programmiersprache für statistische Berechnungen und Grafiken. Sie ist für Skriptsprachen wie Python, Ruby, Perl usw. verfügbar.

Unterstützte Betriebssysteme: UNIX platforms, Windows, MacOS

Typ des Web-Minings: Web Usage Mining

Octoparse ist ein einfaches, aber leistungsstarkes Web-Data-Mining-Tool, das die Extraktion von Webdaten automatisiert. Es ermöglicht Ihnen, hochpräzise Extraktionsregeln zu erstellen. Die in Octoparse ausgeführten Crawler werden durch die konfigurierte Schritte bestimmt, die Octoparse „sagt“, welche Website besucht werden soll, wo sich die Daten befinden, usw.

Unterstützte Betriebssysteme: Windows, MacOS

Typ des Web-Minings: Web Content Mining

Oracle Data Mining ist eine Data-Mining-Software von Oracle. Oracle Data Mining ist im Oracle Database Kernel implementiert, und die Mining-Modelle sind Datenbankobjekte erster Klasse. Oracle Data Mining-Prozesse nutzen integrierte Funktionen der Oracle-Datenbank, um die Skalierbarkeit zu maximieren und die Systemressourcen effizient zu nutzen.

Unterstützte Betriebssysteme: Microsoft Windows

Typ des Web-Minings: Web Usage Mining

Tableau bietet eine Reihe von interaktiven Produkten zur Datenvisualisierung, die sich auf Business Intelligence konzentrieren. Tableau ermöglicht sofortige Einblicke durch die Umwandlung von Daten in visuell ansprechende, interaktive Visualisierungen, die als Dashboards bezeichnet werden. Dieser Prozess dauert nur Sekunden oder Minuten und wird durch eine benutzerfreundliche Drag-and-Drop-Oberfläche erreicht.

Unterstützte Betriebssysteme: Mac, Microsoft Windows

Typ des Web-Minings: Web Usage Mining

Scrapy ist ein Open-Source-Framework zum Sammeln von Daten aus Websites. Es ist in Python geschrieben und Sie können Regeln schreiben, um Webdaten zu extrahieren.

Unterstützte Betriebssysteme: Linux, Windows, Mac and BSD

Typ des Web-Minings: Web Content Mining

HITS, die Abkürzung von Hyperlink-Induced Topic Search, ist ein Link-Analyse-Algorithmus, der Webseiten bewertet.

Typ des Web-Minings: Web Structure Mining

Der PageRank-Algorithmus ist ein beliebter Webstruktur-Mining-Algorithmus.

Der PageRank-Algorithmus ist ein Verfahren, eine Menge verlinkter Dokumente, beispielsweise das World Wide Web, anhand ihrer Struktur zu bewerten und zu gewichten. Dabei wird jedem Element ein Gewicht, der PageRank, aufgrund seiner Verlinkungsstruktur zugeordnet.

Der PageRank-Algorithmus ist eine spezielle Methode, die Linkpopularität einer Seite bzw. eines Dokumentes festzulegen. Das Grundprinzip lautet: Je mehr Links auf eine Seite verweisen, desto höher ist das Gewicht dieser Seite. Je höher das Gewicht der verweisenden Seiten ist, desto größer ist der Effekt. Das Ziel des Verfahrens ist es, die Links dem Gewicht entsprechend zu sortieren, um so eine Ergebnisreihenfolge bei einer Suchabfrage herzustellen, d. h. Links zu wichtigeren Seiten weiter vorne in der Ergebnisliste anzuzeigen.

Typ des Web-Minings: Web Structure Mining