Seite 1 von 2 12 LetzteLetzte
Ergebnis 1 bis 7 von 14
Danksagungen1bedankt sich

Thema: [VB.NET] große XML-Datei auslesen (10gb)

  1. #1
    Erfahrener Benutzer
    Registriert seit
    27.09.2011
    Alter
    14
    Beiträge
    134
    Renommee-Modifikator
    0

    Standard [VB.NET] große XML-Datei auslesen (10gb)

    Hallo,

    ich habe eine 10gb XML-Datei, die ich heruntergeladen (ca 2gb)und dann auf das 5-fache entpackt habe. Nun wollte ich diese Datei mit System.Xml.XmlTextReader einlesen und den Inhalt (ca. 1mio mal Inhalt von bestimmten Tag) in jeweils einzelne Dateien schreiben.

    Soweit, sogut. Nur hängt sich das Programm auf, wenn ich das starte und dann kommt nach 60 sek der abbruch. Och denke ein Ram von 3gb reicht da wohl nicht aus (Ich kauf mir KEINEN Ram dazu!).Gibt es andere Möglichkeiten, soetwas zu realisieren?

    Ich weiß nur, dass der Tag <page> ist, und, dass alles was dazwischen ist in die neuen Dateien (einmal etwas zwischen <page> und </page> ^= 1 neue Datei) muss.

    Ich hoffe, dass ihr mir helfen könnt!

    PS: Ich kenne die Leerzeilenverteilung nicht, sie soll aber beibehalten werden.
    Ich: 14-jähriger Schüler, 9.Klasse, Gymnasium, kein eigener pc, keinego-shooter oder sonst. blödsinn. Wohnhaft Celle, in der nähe von Hannover
    Meine Kenntnisse:
    HTML (5 etw.), CSS, Javascript (+jQuery etwas, +Canvas etwas), PHP, MySQL / SQL (Grundlegendes), Visual Basic .Net (VHS - Kurs für jugendliche Einsteiger beendet)

  2. #2
    HTML-Guru Avatar von vitus37
    Registriert seit
    31.10.2009
    Ort
    WWW
    Beiträge
    2.087
    Renommee-Modifikator
    5

    Standard

    Hallo,

    ich kenne mich mit VB nicht aus und werde dir vermutlich nicht helfen können, aber ich bin mir relativ sicher, dass wir dir besser helfen können, wenn du uns deinen bisherigen Quelltext zeigst.

    Gruß

  3. #3
    HTML-Guru Avatar von mermshaus
    Registriert seit
    11.08.2009
    Beiträge
    5.110
    Renommee-Modifikator
    9

    Standard

    Wobei das Problem darin bestehen dürfte, dass die 10 GB einfach eine Nummer zu heftig sind. Das hängt auch von der Implementierung des Parsers ab.

    Um zu verdeutlichen, was ich meine, hier aus einem Thread für PHP:

    There's only two php APIs that's really suited for processing such large files. The first is the old expat api, and the second is the newer XMLreader functions. These apis read continous streams rather than loading the entire tree into memory (which is what simplexml and DOM does).
    - Parsing Huge XML Files in PHP - Stack Overflow

    Dein Suchbegriff wäre analog: „vb.net parse large xml“

  4. #4
    Erfahrener Benutzer
    Registriert seit
    10.04.2012
    Beiträge
    124
    Renommee-Modifikator
    0

    Standard

    Erstmal würde ich das in eine Datenabnk importieren, denn eine 10GB große Datei ist für einen kleinen PC die hölle.... dann da auch noch zu Parsen.
    Eine Datenbank macht sowas eher mit.

  5. #5
    HTML-Guru Avatar von mermshaus
    Registriert seit
    11.08.2009
    Beiträge
    5.110
    Renommee-Modifikator
    9

    Standard

    Da bliebe die Frage, wie du das importierst. Selbes Problem.

  6. #6
    Erfahrener Benutzer
    Registriert seit
    10.04.2012
    Beiträge
    124
    Renommee-Modifikator
    0

    Standard

    Zitat Zitat von mermshaus Beitrag anzeigen
    Da bliebe die Frage, wie du das importierst. Selbes Problem.
    Mit einem Bash Script bzw. batch (in Windows) Script, einfach ein algorythmus schreiben, der das für dich macht.
    Linux wäre hier vielleicht eleganter, da Linux viele Funktionen wie grep ect. mitbringt.

  7. #7
    HTML-Guru Avatar von mermshaus
    Registriert seit
    11.08.2009
    Beiträge
    5.110
    Renommee-Modifikator
    9

    Standard

    Warum den Algorithmus dann nicht gleich in .NET schreiben? Irgendwie sehe ich nicht, wo bei deinem Vorschlag der konkrete Gewinn ist.

Seite 1 von 2 12 LetzteLetzte

Aktive Benutzer

Aktive Benutzer

Aktive Benutzer in diesem Thema: 1 (Registrierte Benutzer: 0, Gäste: 1)

Ähnliche Themen

  1. PhP:Datei auslesen
    Von Domi im Forum PHP
    Antworten: 3
    Letzter Beitrag: 08.03.2011, 08:10
  2. PHP Datei auslesen
    Von Flemli200 im Forum PHP
    Antworten: 12
    Letzter Beitrag: 30.12.2010, 04:46
  3. JMS große Datei verschicken
    Von skizZ im Forum C/C++/C#, Java, Visual Basic
    Antworten: 7
    Letzter Beitrag: 21.10.2010, 08:16
  4. .txt Datei rückwärts auslesen
    Von HTMLooser im Forum PHP
    Antworten: 7
    Letzter Beitrag: 22.04.2010, 19:11
  5. CSV Datei rückwärts auslesen
    Von schubi im Forum PHP
    Antworten: 5
    Letzter Beitrag: 11.09.2005, 20:33

Berechtigungen

  • Neue Themen erstellen: Nein
  • Themen beantworten: Nein
  • Anhänge hochladen: Nein
  • Beiträge bearbeiten: Nein
  •