patrickvonplaten
commited on
Commit
•
bafe1b7
1
Parent(s):
30d835f
add
Browse files- de_head_0000_2015-49.txt.gz +3 -0
- file +10 -0
- german_common_crawl.py +127 -113
de_head_0000_2015-49.txt.gz
ADDED
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
1 |
+
version https://git-lfs.github.com/spec/v1
|
2 |
+
oid sha256:285305c05c75a4827ae982fd13ea6ee602cf875385ca300a15b89f88dac43bd9
|
3 |
+
size 10870
|
file
ADDED
@@ -0,0 +1,10 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{'url': 'http://cyberpress.de/2012/08/innovationspreis-2012-telekom-verlangert-bewerbungsfrist/', 'date_download': '2015-11-28T18:23:55Z', 'digest': 'sha1:NSZYE5AQGKPK5CY73D6FULCLGWVD5R6A', 'length': 3904, 'nlines': 17, 'source_domain': 'cyberpress.de', 'title': 'Innovationspreis 2012: Telekom verlängert Bewerbungsfrist | CyberPress', 'raw_content': 'Innovationspreis 2012Telekom verlängert Bewerbungsfrist\nDie Telekom sucht noch bis zum 19. August 2012 Deutschlands beste IT-Lösungen. Der Gewinn: 10.000 Euro, ein Imagefilm und sehr gute Vermarktungschancen. Die Einreichungen sollten sich über die Cloud nutzen sowie vermarkten lassen und vor allem kleine und mittelständische Firmen bei ihrem Geschäft unterstützen. Die Bandbreite der bisherigen Einreichungen zeigt, dass dem Erfindergeist bei dem Innovationspreis kaum Grenzen gesetzt sind: Die Anwendung biz-balance beispielsweise macht tägliche kaufmännische Aufgaben wie das Controlling kinderleicht. Der digitale Magnet der Firma Amagno sorgt für Übersicht auf dem PC und ordnet etwa Dateien, gescannte Post oder E-Mails automatisch bestimmten Themen zu. Die abakus Data Cloud wiederum sorgt für unkomplizierten und sicheren Informationsaustausch zwischen Mitarbeitern einer Firma.\nDie Bewerber haben die Chance, dass die Telekom ihre Lösungen auf dem Business Marketplace anbietet. Dort vertreten zu sein, gibt den Teilnehmern die Chance, ihre IT-Lösungen einem breiten Kundenkreis anzubieten. Wer die Jury überzeugt, kann sich über weitere Unterstützung der Telekom freuen – über Pressearbeit etwa, die den Verkauf der innovativen Lösung ankurbelt. Die Top 10 dürfen außerdem das Logo des Wettbewerbs nutzen. Die besten fünf Teilnehmer wiederum präsentieren bei der Preisverleihung am 12. September auf dem Innovationsforum des Bundesverbandes der mittelständischen Wirtschaft ihre Lösung. Hier wird auch der Publikumspreis vergeben, der mit 2.500 Euro dotiert ist. Wie sehr Gewinner von dieser öffentlichen Aufmerksamkeit profitieren, zeigt der Sieger von 2011 (siehe Interview).\nDie Telekom hat die Bewerbungszeit wegen vielfacher Anfragen von Bewerbern verlängert. Die Deadline ist nun der 19. August 2012. Lassen Sie sich diese Chance nicht entgehen. Bewerben Sie sich am besten gleich heute.\nPräsentieren Sie Ihre Idee mithilfe von Powerpoint-Folien auf der Wettbewerbsseite. Nicht obligatorisch: Zusätzlich können Sie die Jury mit einem Video von Ihrer IT-Lösung überzeugen. Mitmachen lohnt sich\n10.000 Euro Preisgeld plus Imagefilm, 2.500 Euro Publikumspreis, Vermarktungschancen über den Business Marketplace der Telekom, Unterstützung bei Marketing und Pressearbeit\nBewerbung bis 19. August 2012.\nAufmerksamkeit, Geld und offene Türen\nJürgen Schaar, Gewinner 2011 mit Photovoltaik-App iSolaris\nWas war der größte Gewinn für Sie? Das Preisgeld?\n10.000 Euro sind ein Batzen Geld, den wir komplett wieder investiert haben. Aber was langfristig zählt, ist der gestiegene Bekanntheitsgrad. Außerdem drehte die Telekom einen Imagefilm, der für uns zum absoluten Türöffner wurde. Wie hat sich das auf Ihr Geschäft ausgewirkt?\nDie Nachfrage in den folgenden Monaten war gigantisch. Seit Anfang des Jahres haben wir rund 1.500 Lizenzen verkauft.\nMachen Sie in diesem Jahr wieder mit?\nNein, dieses Mal sitze ich in der Jury.\nDie Deutsche Telekom ist mit über 129 Millionen Mobilfunkkunden sowie fast 34 Millionen Festnetz- und 17 Millionen Breitbandanschlüssen eines der führenden integrierten Telekommunikationsunternehmen weltweit (Stand 31. März 2012). Der Konzern bietet Produkte und Dienstleistungen aus den Bereichen Festnetz, Mobilfunk, Internet und IPTV für Privatkunden sowie ICT-Lösungen für Groß- und Geschäftskunden. Die Deutsche Telekom ist in rund 50 Ländern vertreten und beschäftigt weltweit über 235.000 Mitarbeiter. Im Geschäftsjahr 2011 erzielte der Konzern einen Umsatz von 58,7 Milliarden Euro, davon wurde mehr als die Hälfte außerhalb Deutschlands erwirtschaftet (Stand 31. Dezember 2011).\nPressekontakt: Deutsche Telekom AG, Corporate Communications, Telefon 0228 181 4949, E-Mail: [email protected], www.telekom.com/medien, twitter.com/deutschetelekom\n← OracleCRM-System impliziert branchenspezifische Funktionen\tTelekomMobiler CRM-Service verwaltet Kundenkommunikation →', 'cc_segment': 'crawl-data/CC-MAIN-2015-48/segments/1448398453656.76/wet/CC-MAIN-20151124205413-00312-ip-10-71-132-137.ec2.internal.warc.wet.gz', 'original_nlines': 49, 'original_length': 4688, 'language': 'de', 'language_score': 1.0, 'perplexity': 283.9, 'bucket': 'head'}
|
2 |
+
{'url': 'http://edoc.hu-berlin.de/docviews/abstract.php?lang=&id=37046', 'date_download': '2015-11-28T18:34:34Z', 'digest': 'sha1:DPS6I6LG5POKZULKZ4MTYZ6MXMD4E7K4', 'length': 398, 'nlines': 3, 'source_domain': 'edoc.hu-berlin.de', 'title': 'Siegmar Gerber - Abstract edoc-Server der Humboldt-Universität zu Berlin', 'raw_content': 'Siegmar Gerber Titel:\nAnwendungslösungen zur Simulation von Rechenanlagen auf dem ZRA 1 und zur Bibliographieautomatisierung mit Hilfe des Rechners ODRA Erscheinungsdatum:\nIm Beitrag werden Lösungen für zwei Anwendungsprojekte beschrieben, die in den sechziger Jahren am Institut für Maschinelle Rechentechnik der Leipziger Universität mit Hilfe der Rechenanlagen ZRA 1 bzw. ODRA realisiert wurden.', 'cc_segment': 'crawl-data/CC-MAIN-2015-48/segments/1448398453656.76/wet/CC-MAIN-20151124205413-00312-ip-10-71-132-137.ec2.internal.warc.wet.gz', 'original_nlines': 215, 'original_length': 2809, 'language': 'de', 'language_score': 1.0, 'perplexity': 361.4, 'bucket': 'head'}
|
3 |
+
{'url': 'http://windows.microsoft.com/de-ch/windows/improve-windows-searches-using-index-faq', 'date_download': '2015-11-28T18:35:40Z', 'digest': 'sha1:CYCBA2WCNSSASBVVCZWHQKC5RUWGF5QN', 'length': 97, 'nlines': 1, 'source_domain': 'windows.microsoft.com', 'title': 'Verbessern von Windows-Suchvorgängen mithilfe des Index: Häufig gestellte Fragen - Windows-Hilfe', 'raw_content': 'Diese Seite bezieht sich auf Windows 10, Sie verwenden jedoch eine vorherige Version von Windows.', 'cc_segment': 'crawl-data/CC-MAIN-2015-48/segments/1448398453656.76/wet/CC-MAIN-20151124205413-00312-ip-10-71-132-137.ec2.internal.warc.wet.gz', 'original_nlines': 14, 'original_length': 446, 'language': 'de', 'language_score': 1.0, 'perplexity': 129.9, 'bucket': 'head'}
|
4 |
+
{'url': 'http://www.austria.info/at/aktivitaten/familie/hohlenforscher-unterwegs/niederosterreich-otscher-tropfsteinhohle', 'date_download': '2015-11-28T18:57:17Z', 'digest': 'sha1:LMWGF2GHWSLUZEWCJHSWABRQNNSNYF6B', 'length': 1381, 'nlines': 6, 'source_domain': 'www.austria.info', 'title': 'Mystische Unterwelt in der Ötscher Tropfsteinhöhle', 'raw_content': 'Ötscher Tropfsteinhöhle © Ötscher Tourismusverein\nNiederösterreich: Ötscher Tropfsteinhöhle\nHöhlenforscher unterwegs\nDas Attribut steinalt ist treffend für die Ötscher Tropfsteinhöhle, reicht doch der Ursprung der unterirdischen Hohlräume im Naturpark Ötscher-Tormäuer 12.000 bis 1,8 Millionen Jahre zurück.\nZwei Wege führen zum Eingang in diese von bizarren Tropfsteinformationen geprägte Unterwelt. Vom Parkplatz des Gasthauses Schindlhütte durchsteigen die Höhlenbesucher den wildromantischen Roßkogelgraben über fünf Stiegen und zwei Brücken. Der abenteuerliche Erlebnissteig mündet nach 45 Minuten an der Höhlenpforte. Die zweite Variante: In zwei Stunden Fußweg gelangen die Wanderer von Lackenhof aus zur Grotte. Der Hüter der Höhle, Johann Scharner, entführt Besucher für rund eine Stunde in das Gangsystem, das insgesamt 575 Meter misst. Mit Karbidlampen ausgerüstet steigen die Besucher durch einen künstlich angelegten Stollen über Stiegen in die große Halle hinab.„Mauern“ aus meterdickem Fels umgeben die unterirdischen Räume, die Namen wie „Hoher Dom“, „Halle der feurigen Zungen“, „Märchenhalle“ oder „Zaubergang“ tragen. In der „Knochennische“ sind Knochen von Tieren aufgeschlichtet, die im Laufe der Jahrhunderte durch das „Wetterloch" in die Höhle stürzten.An der tiefsten Stelle der Höhle liegt still ein 100 m² großer See in ewiger Finsternis.\nwww.lackenhof.at', 'cc_segment': 'crawl-data/CC-MAIN-2015-48/segments/1448398453656.76/wet/CC-MAIN-20151124205413-00312-ip-10-71-132-137.ec2.internal.warc.wet.gz', 'original_nlines': 297, 'original_length': 6870, 'language': 'de', 'language_score': 0.99, 'perplexity': 363.2, 'bucket': 'head'}
|
5 |
+
{'url': 'http://www.bmw-berlin-marathon.com/news-und-media/news/2006/03/06/fit-fuer-den-halbmarathon-sportforum-der-rbblaufbewegung-mit-dem-medical-team-am-9-maerz-2006.html', 'date_download': '2015-11-28T18:26:28Z', 'digest': 'sha1:R4WDWR4PQWKBZHD642YWNPHU64B5XYIC', 'length': 3338, 'nlines': 10, 'source_domain': 'www.bmw-berlin-marathon.com', 'title': '„Fit für den Halbmarathon“ – Sportforum der RBB-Laufbewegung mit dem Medical Team am 9. März 2006 :: News ::: SCC | EVENTS', 'raw_content': '„Fit für den Halbmarathon“ – Sportforum der RBB-Laufbewegung mit dem Medical Team am 9. März 2006\nIn gut vier Wochen fällt der Startschuss für den 16. Vattenfall BERLINER HALBMARATHON am 2. April 2006. Höchste Zeit für alle Läufer, noch einmal die Qualität ihrer Vorbereitung auf den Prüfstand zu stellen. Die RBB-Laufbewegung bietet in Kooperation mit dem Medical Team von SCC-RUNNING am 9. März einen Informationsabend rund um das Thema Halbmarathon an. Hier erfahren Sie, was es aus sportmedizinischer, orthopädischer und trainingswissenschaftlicher Sicht zu beachten gilt. Beste Startvoraussetzungen bietet zudem unser kostenloser Online-Trainingsplaner im Internet, der Ihnen eine individuelle Vorbereitung ermöglicht. Auf dem Podium des Sportforums begrüßen Sie vier langjährige Mitglieder des Medical Team: Dr. med. Martin Bauer, Sportmediziner und Facharzt für Allgemeinmedizin Dr. med. Lars Brechtel, Sportmediziner der Humboldt-Universität zu Berlin Dr. med. Margrit Lock, Sportmedizinerin und Orthopädin Jürgen Lock, Dipl. Sportwissenschaftler und Leiter der Sportwissenschaft des Medical-Teams von SCC-RUNNING\nDie Gesundheit geht vor\nUnser Expertenteam wird Ihnen jede Menge Tipps und Anregungen für Ihre gesunde Vorbereitung geben. Denn trotz aller sportlichen Ziele sollte Ihre Gesundheit immer an erster Stelle stehen. Das gilt sowohl für Ihre Vorbereitung als auch den Wettkampf. „Bei Erkältung und Unwohlsein etwa sollte als erstes der morgendlichen Ruhepuls vor dem Aufstehen sowie die Körpertemperatur gemessen werden. Sind Temperatur und Puls (5-10 Schläge) erhöht, dann ist es Zeit für einen Arztbesuch. Ein Blutbild gibt Klarheit über den Krankheitszustand“, nimmt Lars Brechtel ein wichtiges Thema des Sportforums vorweg. Und auch bei anderen akuten und chronischen Krankheiten muss vor dem Start ein Arzt befragt werden. Die regelmäßige sportmedizinische Tauglichkeitsuntersuchung einschließlich Belastungs-EKG sollte in jedem Fall Voraussetzung für einen Start sein.\nTrainingsplanung in den letzten drei Wochen\nDer Sportwissenschaftler Jürgen Lock wird sich vor allem dem Thema Trainingsplanung widmen. „Viele Läufer meinen, Sie müssten in den letzten drei Wochen vor dem Start das komplette Training nachholen, das sie im Winter versäumt haben“, so der Sportwissenschaftler. Dass man auf diese Weise Rückschritte macht, liegt auf der Hand. Individuelles und planvolles Vorgehen ist jetzt entscheidend. Online-Trainingsplaner\nDafür bietet auch der kostenlose Online-Trainingsplaner im Internet beste Voraussetzungen – entwickelt von Jürgen Lock und der Weltklasse-Läuferin Uta Pippig. Ob Laufeinsteiger oder Profi – mit dem Online-Trainingsplaner können Sie sich ganz individuell auf Ihren Start vorbereiten. Anhand Ihrer Herzfrequenz, Ihres Alters und Ihrer Ambitionen haben Sie die Möglichkeit, sich kostenlos einen Plan auszudrucken, der auf Ihre persönlichen Ziele und Möglichkeiten abgestimmt ist. Hier geht’s zum Online-Trainingsplaner: www.scc-events.com/running/fit_for_run/trainingsplanung.php\nSportforum „Fit für den Halbmarathon“ Datum: Donnerstag, 9. März 2006, 19.30 Uhr\nVeranstaltungsort: RBB-Fernsehzentrum, Sitzungsraum 14. Etage in Masurenallee 8-14, 14057 Berlin (Charlottenburg).\nUm eine Anmeldung per Fax (030 - 3031 2909) oder per Email ([email protected]) wird gebeten. Weitere News', 'cc_segment': 'crawl-data/CC-MAIN-2015-48/segments/1448398453656.76/wet/CC-MAIN-20151124205413-00312-ip-10-71-132-137.ec2.internal.warc.wet.gz', 'original_nlines': 97, 'original_length': 4984, 'language': 'de', 'language_score': 0.99, 'perplexity': 368.0, 'bucket': 'head'}
|
6 |
+
{'url': 'http://www.britishairways.com/travel/ba_vsg18.jsp/termcn-vsg/public/de_de', 'date_download': '2015-11-28T18:52:24Z', 'digest': 'sha1:OXDFSBTWXKWGAMZSCKQVOIFIJMUK5KG3', 'length': 4887, 'nlines': 15, 'source_domain': 'www.britishairways.com', 'title': 'Website-Nutzungsbedingungen', 'raw_content': 'AllgemeinesInhaber und Betreiber dieser Website ist British Airways Plc (Firmennummer 1777777) mit eingetragenem Geschäftssitz Waterside, Postfach 365, Harmondsworth, UB7 0GB, England.\nFür die Zwecke dieser Nutzungsbedingungen verweisen „wir“, „uns“ und „unser“ auf British Airways Plc, während Verweise auf „Sie“ und „Ihr“ auf die Personen verweisen, die auf diese Website zugreifen (einschließlich von Personen, die die Website im Namen anderer Personen aufrufen); Verweise auf „Material“ oder „Materialien“ umfassen Daten, Informationen und Datenbanken.\nFalls Sie diesen Nutzungsbedingungen, den nachfolgend verlinkten Dokumenten oder sonstigen Ihnen im Rahmen Ihrer Nutzung dieser Website zur Kenntnis gebrachten Beschränkungen nicht zustimmen, sind Sie nicht berechtigt, diese Website zu nutzen oder auf sie zugreifen, und verpflichten sich, dieses zu unterlassen.\nUmfang dieser NutzungsbedingungenDiese Nutzungsbedingungen beziehen sich ausschließlich auf Ihre Nutzung dieser Website (ba.com und britishairways.com) sowie, sofern keine eigenständigen oder zusätzlichen Bedingungen Anwendung finden, eventueller Anwendungen, die Inhalte dieser Website nutzen, und eventueller Minisites dieser Website.\nFür die Fluggastbeförderung, Gewinnziehungen, Wettbewerbe und sonstige Werbeaktionen, die wir von Zeit zu Zeit durchführen, gelten eigene Bestimmungen.\nWenn Sie auf dieser Website ein Ticket für einen von uns durchgeführten Flug erwerben, finden unsere Allgemeinen Geschäftsbedingungen zur Beförderung von Fluggästen und Gepäck Anwendung. Allgemeine Beförderungsbedingungen anzeigen\nWenn Sie auf dieser Website ein Ticket für einen von anderen Fluglinien durchgeführten Flug (einschließlich von Codeshare-Flügen, von einem BA-Franchisenehmer durchgeführten Flügen und OpenSkies-Flügen) erwerben, finden die Allgemeinen Geschäftsbedingungen zur Beförderung von Fluggästen und Gepäck der durchführenden Fluggesellschaft Anwendung. Zur weiteren Information Allgemeine Beförderungsbedingungen anzeigen. Die jeweiligen Allgemeinen Beförderungsbedingungen erhalten Sie auf der Website der betreffenden Fluggesellschaft bzw. bei der betreffenden Fluggesellschaft selbst.\nDatenschutzAlle personenbezogenen Informationen, die Sie uns im Rahmen der Nutzung dieser Website zur Verfügung stellen, werden im Einklang mit unseren Datenschutzrichtlinien verwendet. Informationen über Cookies und den Einsatz von Cookies auf dieser Website finden Sie auf unserer Seite Cookies.\nSchutzrechteAlle Materialien auf dieser Website, das Aussehen, die Organisation und das Layout dieser Website, der dieser zugrundlegende Softwarecode und die ihr zugrundeliegenden Daten unterliegen dem Marken-, Urheber-, Datenbank- und anderen angemeldeten und nicht angemeldeten geistigen Eigentumsrechten, die Eigentum entweder von uns direkt oder von unseren Lizenzgebern sind.\nSofern dies nicht anderweitig innerhalb dieser Nutzungsbedingungen gestattet wird, ist es Ihnen untersagt, auf dieser Website enthaltene Materialien oder den ihr zugrundeliegenden Softwarecode bzw. die ihr zugrundeliegenden Daten zu kopieren, zu modifizieren, zu ändern, zu publizieren, zu veröffentlichen, zu vertreiben, zu verkaufen oder zu übertragen (sei es ganz oder teilweise).\nAutorisierte Nutzer dieser WebsiteIhre Nutzung dieser Website ist personengebunden. Wir stellen diese Website ausschließlich zur Verfügung, um es Ihnen zu ermöglichen, die Verfügbarkeit unserer Waren und Leistungen zu überprüfen und mit uns Geschäfte zu tätigen, und zu keinen anderen Zweck.\nSie sind dafür verantwortlich, die Vertraulichkeit Ihrer Website-Zugangsdaten (wie Benutzernamen, Kennwörter und persönlichen Kennnummern) und Buchungsdaten (wie Buchungsreferenzen und Ihrer Reiseroute) zu wahren.\nSie können entscheiden, Ihren Familienmitgliedern, Freunden oder Kollegen in Ihrem Namen den Zugang zur Website zu gestatten, indem Sie ihnen Website-Zugangsdaten bzw. Buchungsdaten zur Verfügung stellen, jeweils mit der Maßgabe, dass\nSie die Einwilligung aller sonstigen Personen eingeholt haben, deren Buchungsdaten oder personenbezogene Daten zusammen mit Ihren Daten zugänglich sind (etwa bei einer Gruppenbuchung), und Sie die uneingeschränkte Verantwortung für die Handlungen und Unterlassungen dieser Personen beim Zugriff auf die Website unter Verwendung der von Ihnen zur Verfügung gestellten Website-Zugangsdaten bzw. Buchungsdaten übernehmen, unabhängig davon, ob der Zugang von Ihnen autorisiert ist oder nicht. Es ist Ihnen untersagt, kommerziellen Unternehmen oder sonstigen Organisationen, die der Öffentlichkeit Leistungen anbieten, zu gestatten, auf diese Website oder darauf enthaltene oder über sie erworbene Materialien zuzugreifen oder diese zu nutzen.\nSicherheitFalls Sie die begründete Vermutung hegen, dass Ihr Zugriff auf diese Website nicht länger sicher ist (z.B. aufgrund des Verlusts, Diebstahls oder der unbefugten Of', 'cc_segment': 'crawl-data/CC-MAIN-2015-48/segments/1448398453656.76/wet/CC-MAIN-20151124205413-00312-ip-10-71-132-137.ec2.internal.warc.wet.gz', 'original_nlines': 16, 'original_length': 5131, 'language': 'de', 'language_score': 1.0, 'perplexity': 240.6, 'bucket': 'head'}
|
7 |
+
{'url': 'http://www.edel.com/at/buch/termine/stevie-wonder/', 'date_download': '2015-11-28T18:36:37Z', 'digest': 'sha1:R6DAZCFBNIQJ45GR25B6VW673HHX3HQI', 'length': 54, 'nlines': 1, 'source_domain': 'www.edel.com', 'title': 'Stevie Wonder - Termine Neuheiten', 'raw_content': 'Zeige deinen Freunden, dass dir Stevie Wonder gefällt.', 'cc_segment': 'crawl-data/CC-MAIN-2015-48/segments/1448398453656.76/wet/CC-MAIN-20151124205413-00312-ip-10-71-132-137.ec2.internal.warc.wet.gz', 'original_nlines': 512, 'original_length': 2205, 'language': 'de', 'language_score': 0.99, 'perplexity': 160.0, 'bucket': 'head'}
|
8 |
+
{'url': 'http://www.frauenfilmfestival.eu/index.php?id=151&L=1%2Fwp-content%2Fthemes%2FTheProfessional%2Ftimthumb.php%3Fsrc%3D%2F%2Fwp-content%2Fthemes%2FTheProfessional%2Ftimthumb.php', 'date_download': '2015-11-28T18:23:52Z', 'digest': 'sha1:5TUO6RX244CSQM7PG7KPY4FABIROD3HD', 'length': 1287, 'nlines': 4, 'source_domain': 'www.frauenfilmfestival.eu', 'title': 'Angstkommen', 'raw_content': "Angstkommen\nDeutschland 2008, 1' | Regie, Buch Pary El-Qalqili | Bildgestaltung Kaspar Kaven | Ton Isabella Willinger | Darsteller Philip Bergmann | Produktion Joint Adventures SynopsisFlüchtling-Sein in Deutschland bedeutet, in einem Schwebezustand zu leben. Asylverfahren ziehen sich oft jahrelang hin, die Flüchtlinge leben zwischen der Hoffnung auf einen Aufenthaltstitel und der Angst abgeschoben zu werden. Die GU (Gemeinschaftsunterkunft) Rosenheimer Straße besteht aus zwei zweigeschossigen Containern auf einem Parkplatz zwischen zwei viel befahrenen Schnellstraßen. Die Kamera fährt auf dem Flur entlang, blickt in die Zimmer. Grelles Licht der Neonröhren, giftgrüne und gelbe Wände, graue Schränke mit Vorhängeschlössern. Auf einmal taucht ein Tänzer auf und durchbricht die Monotonie. angstkommen erzählt das alles in einer Plansequenz von einer Minute. angstkommen läuft im Programm des Festivals zusammen mit Hotel Sahara.\nBiographiePary El-Qalqili wurde 1982 in Berlin geboren. Sie studierte Kulturwissenschaften an der Europa-Universität Viadrina in Frankfurt (Oder). Seit 2006 absolviert sie den Studiengang Dokumentarfilm und Fernsehpublizistik an der Hochschule für Fernsehen und Film München. angstkommen ist ihr zweiter Film. Pary El-Qalqili\nDokumentarfilm, Kurzfilm", 'cc_segment': 'crawl-data/CC-MAIN-2015-48/segments/1448398453656.76/wet/CC-MAIN-20151124205413-00312-ip-10-71-132-137.ec2.internal.warc.wet.gz', 'original_nlines': 13, 'original_length': 17796, 'language': 'de', 'language_score': 0.99, 'perplexity': 332.6, 'bucket': 'head'}
|
9 |
+
{'url': 'http://www.gentleman-blog.de/2010/05/31/gentlemen-experience-gq-bombay-collins/', 'date_download': '2015-11-28T18:24:45Z', 'digest': 'sha1:PPWQQAAZYU2LFCEAGF6PTCPYBRSIXKJ2', 'length': 1857, 'nlines': 7, 'source_domain': 'www.gentleman-blog.de', 'title': 'Tipp: Gentlemen Experience von GQ & Bombay Sapphire', 'raw_content': 'Tipp: Veranstaltungsreihe „Gentlemen Experience“ von GQ & Bombay Sapphire\nLust auf interessante Abende in angenehmer Gesellschaft? Das Männerlifestyle-Magazin GQ (Gentlemen’s Quarterly) und Bombay Sapphire laden in mehreren deutschen Großstädten zum Gentlemen Experience 2010, bestehend aus einer Reihe von exklusiven Events. Diese haben unterschiedliche Themenschwerpunkte und stehen ganz im Zeichen von Lifestyle & Trends, zeitgenössischem Design und moderner Barkultur – nicht nur für den modernen Gentleman inspirierend.\nAlexandra Kamp liest aus ihrem Hörbuch „Sexus“\nDer Gentleman-Blog war in der Berliner Shochu-Bar am Brandenburger Tor vor Ort, um sich ein eigenes Bild von der Veranstaltungsreihe zu machen. Wir wurden nicht enttäuscht! Zu Beginn las die prominente Münchener Schauspielerin Alexandra Kamp aus ihrem erfolgreichen Hörbuch „Sexus“ , welches auf Henry Millers Roman basiert, vor. Mit ihrer Lesung zog sie die Zuhörer schnell in ihren Bann, muxmäuschenstill lauschten sie ihren Worten. Doch auch die Gastgeber und vor allem das Publikum sorgten für eine angenehme und unaufgeregte Atmosphäre. Trotz freien Eintritts und kostenlosen schmackhaften Drinks war die Veranstaltung nicht überlaufen, sondern eher ein Insider-Tipp.\nEintritt, Drinks und interessante Gespräche kostenlos\nDie nächsten beiden Termine sind der 09. Juni in Düsseldorf in der „Tobar“ und einen Tag später, am 10. Juni in der Frankfurter „Halle der Helden“, bevor die Reihe dann im Herbst fortgesetzt wird. In Düsseldorf wird Alexandra Kamp ebenfalls Millers „Sexus“ vortragen. Der Abend im Frankfurt steht im Zeichen der neuesten technischen Accessoires und Errungenschaften für die Herren der Schöpfung. Anmeldungen sind über GQ-Online möglich, wo man sich auf die Gästeliste setzen lassen kann. Hier geht es zur Anmeldung.\nDer Gentleman-Blog wünscht viel Vergnügen!', 'cc_segment': 'crawl-data/CC-MAIN-2015-48/segments/1448398453656.76/wet/CC-MAIN-20151124205413-00312-ip-10-71-132-137.ec2.internal.warc.wet.gz', 'original_nlines': 16, 'original_length': 2238, 'language': 'de', 'language_score': 0.99, 'perplexity': 304.0, 'bucket': 'head'}
|
10 |
+
{'url': 'http://www.jmberlin.de/1933/2013/04/19/dankesurkunde-der-preusischen-regierung-fur-den-lehrer-levi-schwalm/', 'date_download': '2015-11-28T18:26:24Z', 'digest': 'sha1:ZOOONNMBKWFPPHBZSKDEDV6TZQW6IKOO', 'length': 2855, 'nlines': 18, 'source_domain': 'www.jmberlin.de', 'title': 'Jüdisches Museum Berlin: Online-Schaukasten - Dankesurkunde der Preußischen Regierung für den Lehrer Levi Schwalm « 1933', 'raw_content': 'STARTÜBER DAS PROJEKTABONNIEREN\tDE | EN Der Anfang vom Ende des deutschen Judentums\t1933 < 16. APRIL 1933 20. APRIL 1933 > Mittwoch,19. April 1933 Dankesurkunde der Preußischen Regierung für den Lehrer Levi Schwalm BESCHREIBUNG | TRANSKRIPTION Dieses Dokument, ausgestellt während der ersten Welle antijüdischer Verordnungen, kommt überraschend daher. Werden die meisten jüdischen Lehrer infolge des »Gesetzes zur Wiederherstellung des Berufsbeamtentums« vom 7. April beurlaubt und schließlich entlassen, bedankt sich hier die Preußische Regierung bei dem Lehrer Levi Schwalm für seine »in treuer Pflichterfüllung geleisteten Dienste«.\nWas aus dem Dokument jedoch nicht hervorgeht, ist, dass auch er zwangsweise in den Ruhestand treten musste. Jedoch nicht, weil er ein jüdischer Lehrer an einer öffentlichen Schule war, sondern weil die jüdische Schule, an der er unterrichtete, geschlossen wurde. Und dennoch: Es ist eine Dankesurkunde, welche allem Anschein nach ernst gemeint war und wahrscheinlich trotzdem nur wenig Trost bot.\nDer 1878 im hessischen Treysa geborene Levi Schwalm – dessen Familienname sich dem durch Treysa strömenden Fluss verdankt – absolvierte eine dreijährige Ausbildung an der Bildungs-Anstalt für jüdische Lehrer zu Hannover. Ab 1898 fungierte er als Religions- und Elementarlehrer an der Jüdischen Volksschule in Bovenden bei Göttingen, wo er zudem von der Gemeinde als Vorbeter und Schächter angestellt wurde. Drei Jahre später wurde ihm von der Königlichen Preußischen Regierung bescheinigt, dass er »zur endgültigen Anstellung als Volksschullehrer befähigt ist«. 1903 zog Levi Schwalm in das unweit entfernt liegenden Dransfeld, um dort die gleichen Dienste auszuüben wie in Bovenden.\nNach fast 30-jähriger Lehrtätigkeit erfolgte die Zwangspensionierung. 1937 zog er mit seiner Ehefrau Meta nach Hamburg und von dort zur Tochter und ihrem Ehemann in die Niederlande. Letztere konnten im Februar 1939 in die USA ausreisen, dem Ehepaar Schwalm gelang es im Oktober nachzufolgen – zwei Monate nach Beginn des Krieges.\nBei Ihrem Übertritt in den Ruhestand sprechen wir Ihnen für die dem Staat in treuer Pflichterfüllung geleisteten Dienste die Anerkennung und den Dank der Staatsregierung aus.\nHildesheim, den 19. April 1933.\nDie Preußische Regierung\nDer kommissarische\nRegierungspräsident\n(Abt. für Kirchen u. Schulen)\nIm Auftrage\nAn Herrn Lehrer\nLevi Schwalm\nin Dransfeld\nKategorie(n): Berufsverbot | Schule Dankesurkunde der Preußischen Regierung für den Lehrer Levi Schwalm, Hildesheim, 19. April 1933 Leo Baeck Institute, Levi Schwalm Collection, AR 6447 Siehe auch: 28. Mär\nHalbjahreszeugnis für Mirjam Frank weiterlesen 5. Jul\nZwischenprüfungszeugnis der Hochschule für die Wissenschaft des Judentums für Erwin Zimet weiterlesen 19. Dez\nChanukka-Ansprache des Breslauer Schulleiters Rudolf Schäffer weiterlesen IMPRESSUM', 'cc_segment': 'crawl-data/CC-MAIN-2015-48/segments/1448398453656.76/wet/CC-MAIN-20151124205413-00312-ip-10-71-132-137.ec2.internal.warc.wet.gz', 'original_nlines': 25, 'original_length': 2955, 'language': 'de', 'language_score': 0.99, 'perplexity': 284.0, 'bucket': 'head'}
|
german_common_crawl.py
CHANGED
@@ -16,7 +16,6 @@
|
|
16 |
|
17 |
from __future__ import absolute_import, division, print_function
|
18 |
import datasets
|
19 |
-
import itertools
|
20 |
import gzip
|
21 |
from ast import literal_eval
|
22 |
|
@@ -44,109 +43,114 @@ _URL_FIRST = [REPO_URL + file_name for file_name in [
|
|
44 |
"de_head_0000_2015-48.txt.gz",
|
45 |
]]
|
46 |
|
|
|
47 |
_URL_HEAD = [REPO_URL + file_name for file_name in [
|
48 |
"de_head_0000_2015-48.txt.gz",
|
49 |
-
|
50 |
-
|
51 |
-
|
52 |
-
|
53 |
-
|
54 |
-
|
55 |
-
|
56 |
-
|
57 |
-
|
58 |
-
|
59 |
-
|
60 |
-
|
61 |
-
|
62 |
-
|
63 |
-
|
64 |
-
|
65 |
-
|
66 |
-
|
67 |
-
|
68 |
-
|
69 |
-
|
70 |
-
|
71 |
-
|
72 |
-
|
73 |
-
|
74 |
-
|
75 |
-
|
76 |
-
|
77 |
-
|
78 |
-
|
79 |
-
|
80 |
-
|
81 |
-
|
82 |
-
|
83 |
-
|
84 |
-
|
85 |
-
|
86 |
-
|
87 |
-
|
88 |
-
|
89 |
-
|
90 |
-
|
91 |
-
|
92 |
-
|
93 |
-
|
94 |
-
|
95 |
-
|
96 |
-
|
97 |
-
|
98 |
-
|
99 |
-
|
100 |
-
|
101 |
-
|
102 |
-
|
103 |
-
|
104 |
-
|
105 |
-
|
106 |
-
|
107 |
-
|
108 |
-
|
109 |
-
|
110 |
-
|
111 |
-
|
112 |
-
|
113 |
-
|
114 |
-
|
115 |
-
|
116 |
-
|
117 |
-
|
118 |
-
|
119 |
-
|
120 |
-
|
121 |
-
|
122 |
-
|
123 |
-
|
124 |
-
|
125 |
-
|
126 |
-
|
127 |
-
|
128 |
-
|
129 |
-
|
130 |
-
|
131 |
-
|
132 |
-
|
133 |
-
|
134 |
-
|
135 |
-
|
136 |
-
|
137 |
-
|
138 |
-
|
139 |
-
|
140 |
-
|
141 |
-
|
142 |
-
|
143 |
-
|
144 |
-
|
145 |
-
|
146 |
-
|
147 |
-
|
148 |
-
|
149 |
-
|
|
|
|
|
|
|
|
|
150 |
]]
|
151 |
|
152 |
class GermanCommonCrawl(datasets.GeneratorBasedBuilder):
|
@@ -157,9 +161,9 @@ class GermanCommonCrawl(datasets.GeneratorBasedBuilder):
|
|
157 |
|
158 |
BUILDER_CONFIGS = [
|
159 |
datasets.BuilderConfig(name="first", version=VERSION, description="Only the first data file"),
|
160 |
-
datasets.BuilderConfig(name="head", version=VERSION, description="
|
161 |
-
|
162 |
-
|
163 |
]
|
164 |
|
165 |
def _info(self):
|
@@ -199,8 +203,12 @@ class GermanCommonCrawl(datasets.GeneratorBasedBuilder):
|
|
199 |
"""Returns SplitGenerators."""
|
200 |
if self.config.name == "first":
|
201 |
data_files = dl_manager.download(_URL_FIRST)
|
|
|
|
|
|
|
|
|
202 |
else:
|
203 |
-
|
204 |
|
205 |
return [
|
206 |
datasets.SplitGenerator(
|
@@ -215,14 +223,20 @@ class GermanCommonCrawl(datasets.GeneratorBasedBuilder):
|
|
215 |
"""This function returns the examples in the raw (text) form by iterating on all the files."""
|
216 |
for filepath in data_files:
|
217 |
with gzip.open(filepath, "rt", encoding="utf-8") as f:
|
|
|
218 |
for id_, line in enumerate(f):
|
219 |
item = literal_eval(line)
|
220 |
-
import ipdb; ipdb.set_trace()
|
221 |
yield id_, {
|
222 |
-
|
223 |
-
|
224 |
-
|
225 |
-
|
226 |
-
|
227 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
228 |
}
|
|
|
16 |
|
17 |
from __future__ import absolute_import, division, print_function
|
18 |
import datasets
|
|
|
19 |
import gzip
|
20 |
from ast import literal_eval
|
21 |
|
|
|
43 |
"de_head_0000_2015-48.txt.gz",
|
44 |
]]
|
45 |
|
46 |
+
#TODO convert & upload all those files correctly
|
47 |
_URL_HEAD = [REPO_URL + file_name for file_name in [
|
48 |
"de_head_0000_2015-48.txt.gz",
|
49 |
+
"de_head_0000_2016-18.txt.gz",
|
50 |
+
"de_head_0000_2016-44.txt.gz",
|
51 |
+
"de_head_0000_2017-13.txt.gz",
|
52 |
+
"de_head_0000_2017-30.txt.gz",
|
53 |
+
"de_head_0000_2017-39.txt.gz",
|
54 |
+
"de_head_0000_2017-51.txt.gz",
|
55 |
+
"de_head_0000_2018-09.txt.gz",
|
56 |
+
"de_head_0000_2018-17.txt.gz",
|
57 |
+
"de_head_0000_2018-30.txt.gz",
|
58 |
+
"de_head_0000_2018-39.txt.gz",
|
59 |
+
"de_head_0000_2018-51.txt.gz",
|
60 |
+
"de_head_0000_2019-18.txt.gz",
|
61 |
+
"de_head_0000_2019-30.txt.gz",
|
62 |
+
"de_head_0000_2019-47.txt.gz",
|
63 |
+
"de_head_0000_2020-10.txt.gz",
|
64 |
+
"de_head_0001_2016-44.txt.gz",
|
65 |
+
"de_head_0001_2017-13.txt.gz",
|
66 |
+
"de_head_0001_2017-30.txt.gz",
|
67 |
+
"de_head_0001_2017-39.txt.gz",
|
68 |
+
"de_head_0001_2017-51.txt.gz",
|
69 |
+
"de_head_0001_2018-09.txt.gz",
|
70 |
+
"de_head_0001_2018-17.txt.gz",
|
71 |
+
"de_head_0001_2018-30.txt.gz",
|
72 |
+
"de_head_0001_2018-39.txt.gz",
|
73 |
+
"de_head_0001_2018-51.txt.gz",
|
74 |
+
"de_head_0001_2019-09.txt.gz",
|
75 |
+
"de_head_0001_2019-18.txt.gz",
|
76 |
+
"de_head_0001_2019-30.txt.gz",
|
77 |
+
"de_head_0001_2019-47.txt.gz",
|
78 |
+
"de_head_0001_2020-10.txt.gz",
|
79 |
+
"de_head_0002_2016-44.txt.gz",
|
80 |
+
"de_head_0002_2017-13.txt.gz",
|
81 |
+
"de_head_0002_2017-30.txt.gz",
|
82 |
+
"de_head_0002_2017-39.txt.gz",
|
83 |
+
"de_head_0002_2017-51.txt.gz",
|
84 |
+
"de_head_0002_2018-09.txt.gz",
|
85 |
+
"de_head_0002_2018-17.txt.gz",
|
86 |
+
"de_head_0002_2018-30.txt.gz",
|
87 |
+
"de_head_0002_2018-39.txt.gz",
|
88 |
+
"de_head_0002_2018-51.txt.gz",
|
89 |
+
"de_head_0002_2019-09.txt.gz",
|
90 |
+
"de_head_0002_2019-18.txt.gz",
|
91 |
+
"de_head_0002_2019-30.txt.gz",
|
92 |
+
"de_head_0002_2019-47.txt.gz",
|
93 |
+
"de_head_0002_2020-10.txt.gz",
|
94 |
+
"de_head_0003_2016-44.txt.gz",
|
95 |
+
"de_head_0003_2017-13.txt.gz",
|
96 |
+
"de_head_0003_2017-30.txt.gz",
|
97 |
+
"de_head_0003_2017-39.txt.gz",
|
98 |
+
"de_head_0003_2017-51.txt.gz",
|
99 |
+
"de_head_0003_2018-09.txt.gz",
|
100 |
+
"de_head_0003_2018-17.txt.gz",
|
101 |
+
"de_head_0003_2018-30.txt.gz",
|
102 |
+
"de_head_0003_2018-39.txt.gz",
|
103 |
+
"de_head_0003_2018-51.txt.gz",
|
104 |
+
"de_head_0003_2019-09.txt.gz",
|
105 |
+
"de_head_0003_2019-18.txt.gz",
|
106 |
+
"de_head_0003_2019-30.txt.gz",
|
107 |
+
"de_head_0003_2019-47.txt.gz",
|
108 |
+
"de_head_0003_2020-10.txt.gz",
|
109 |
+
"de_head_0004_2016-44.txt.gz",
|
110 |
+
"de_head_0004_2017-30.txt.gz",
|
111 |
+
"de_head_0004_2017-39.txt.gz",
|
112 |
+
"de_head_0004_2017-51.txt.gz",
|
113 |
+
"de_head_0004_2018-09.txt.gz",
|
114 |
+
"de_head_0004_2018-17.txt.gz",
|
115 |
+
"de_head_0004_2018-30.txt.gz",
|
116 |
+
"de_head_0004_2018-39.txt.gz",
|
117 |
+
"de_head_0004_2018-51.txt.gz",
|
118 |
+
"de_head_0004_2019-09.txt.gz",
|
119 |
+
"de_head_0004_2019-18.txt.gz",
|
120 |
+
"de_head_0004_2019-30.txt.gz",
|
121 |
+
"de_head_0004_2019-47.txt.gz",
|
122 |
+
"de_head_0004_2020-10.txt.gz",
|
123 |
+
"de_head_0005_2017-51.txt.gz",
|
124 |
+
"de_head_0005_2018-09.txt.gz",
|
125 |
+
"de_head_0005_2018-17.txt.gz",
|
126 |
+
"de_head_0005_2018-30.txt.gz",
|
127 |
+
"de_head_0005_2018-39.txt.gz",
|
128 |
+
"de_head_0005_2018-51.txt.gz",
|
129 |
+
"de_head_0005_2019-09.txt.gz",
|
130 |
+
"de_head_0005_2019-18.txt.gz",
|
131 |
+
"de_head_0005_2019-30.txt.gz",
|
132 |
+
"de_head_0005_2019-47.txt.gz",
|
133 |
+
"de_head_0005_2020-10.txt.gz",
|
134 |
+
"de_head_0006_2018-09.txt.gz",
|
135 |
+
"de_head_0006_2018-17.txt.gz",
|
136 |
+
"de_head_0006_2018-30.txt.gz",
|
137 |
+
"de_head_0006_2018-39.txt.gz",
|
138 |
+
"de_head_0006_2018-51.txt.gz",
|
139 |
+
"de_head_0006_2019-09.txt.gz",
|
140 |
+
"de_head_0006_2019-18.txt.gz",
|
141 |
+
"de_head_0006_2019-30.txt.gz",
|
142 |
+
"de_head_0006_2019-47.txt.gz",
|
143 |
+
"de_head_0006_2020-10.txt.gz",
|
144 |
+
"de_head_0007_2018-30.txt.gz",
|
145 |
+
"de_head_0007_2018-51.txt.gz",
|
146 |
+
"de_head_0007_2019-09.txt.gz",
|
147 |
+
"de_head_0007_2019-18.txt.gz",
|
148 |
+
"de_head_0007_2019-47.txt.gz",
|
149 |
+
"de_head_0007_2020-10.txt.gz",
|
150 |
+
]]
|
151 |
+
|
152 |
+
# TOOD add file names and convert and upload all of them
|
153 |
+
_URL_MIDDLE = [REPO_URL + file_name for file_name in [
|
154 |
]]
|
155 |
|
156 |
class GermanCommonCrawl(datasets.GeneratorBasedBuilder):
|
|
|
161 |
|
162 |
BUILDER_CONFIGS = [
|
163 |
datasets.BuilderConfig(name="first", version=VERSION, description="Only the first data file"),
|
164 |
+
datasets.BuilderConfig(name="head", version=VERSION, description=""), #TODO fill description
|
165 |
+
datasets.BuilderConfig(name="middle", version=VERSION, description=""), #TODO fill description
|
166 |
+
datasets.BuilderConfig(name="all", version=VERSION, description=""), #TODO fill description
|
167 |
]
|
168 |
|
169 |
def _info(self):
|
|
|
203 |
"""Returns SplitGenerators."""
|
204 |
if self.config.name == "first":
|
205 |
data_files = dl_manager.download(_URL_FIRST)
|
206 |
+
elif self.config.name == "head":
|
207 |
+
data_files = dl_manager.download(_URL_HEAD)
|
208 |
+
elif self.config.name == "middle":
|
209 |
+
data_files = dl_manager.download(_URL_MIDDLE)
|
210 |
else:
|
211 |
+
data_files = dl_manager.download(_URL_HEAD + _URL_MIDDLE)
|
212 |
|
213 |
return [
|
214 |
datasets.SplitGenerator(
|
|
|
223 |
"""This function returns the examples in the raw (text) form by iterating on all the files."""
|
224 |
for filepath in data_files:
|
225 |
with gzip.open(filepath, "rt", encoding="utf-8") as f:
|
226 |
+
import ipdb; ipdb.set_trace()
|
227 |
for id_, line in enumerate(f):
|
228 |
item = literal_eval(line)
|
|
|
229 |
yield id_, {
|
230 |
+
"url": item["url"],
|
231 |
+
"date_download": item["date_download"],
|
232 |
+
"digest": item["digest"],
|
233 |
+
"length": item["length"],
|
234 |
+
"nlines": item["nlines"],
|
235 |
+
"source_domain": item["source_domain"],
|
236 |
+
"title": item["title"],
|
237 |
+
"raw_content": item["raw_content"],
|
238 |
+
"cc_segment": item["cc_segment"],
|
239 |
+
"original_nlines": item["original_nlines"],
|
240 |
+
"original_length": item["original_length"],
|
241 |
+
"language": item["language"],
|
242 |
}
|