• Najnowsze pytania
  • Bez odpowiedzi
  • Zadaj pytanie
  • Kategorie
  • Tagi
  • Zdobyte punkty
  • Ekipa ninja
  • IRC
  • FAQ
  • Regulamin
  • Książki warte uwagi

Wczytywanie pliku z archiwum zip do byte[] w wydajny sposób

Object Storage Arubacloud
0 głosów
277 wizyt
pytanie zadane 1 stycznia 2022 w C# przez milosz263 Nowicjusz (240 p.)

Aktualnie używam tej funkcji (oraz biblioteki System.IO.Compression) do tego zadania, Niestety wymaga ona przechowania w pamięci 3 kopii danego pliku podczas wczytywania. Jest to uciążliwe przy wczytywaniu większego pliku, w tym wypadku załadowanie pliku ~1,2GB wymaga 3.3GB pamięci oraz powoduje 6 wywołań GC. Czy jest jakaś wydajniejsza metoda na wczytywanie danych? Mogę użyć innej biblioteki, ale ta akurat była najlepiej udokumentowana.

using System.IO;
using System.IO.Compression;
//...
private static byte[] LoadFile(ZipArchive source, string filename)
{
    using var stream = source.GetEntry(filename).Open();
    using var ms = new MemoryStream();
    stream.CopyTo(ms);
    return ms.ToArray();
}

Przykład zużycia pamięci z debuggera Visual Studio.

2 odpowiedzi

+1 głos
odpowiedź 1 stycznia 2022 przez adrian17 Ekspert (344,860 p.)
wybrane 1 stycznia 2022 przez milosz263
 
Najlepsza

Tak na oko (nie odpalałem), to coś takiego?

	private static byte[] LoadFile(ZipArchive source, string filename)
	{
		var entry = source.GetEntry(filename);
		using var stream = entry.Open();
		
		byte[] buffer = new byte[entry.Length];
		stream.Read(buffer, 0, (int)entry.Length);
		return buffer;
	}

 

komentarz 1 stycznia 2022 przez milosz263 Nowicjusz (240 p.)
Chyba działa. Mój testowy plik wczytał się bezbłędnie, aplikacja zajmuje w RAMie tyle, ile powinna (czyli 1,2gb + ~50mb na resztę testowego kodu), oraz GC nie jest ani razu wywołany. Dzięki za pomoc!
EDIT: wczytanie 100 000 małych plików też nie sprawia problemu, kod wykonuje się tyle samo czasu co "oryginał".
–2 głosów
odpowiedź 1 stycznia 2022 przez Wiciorny Ekspert (270,110 p.)

No co się dziwić jak sam konwertujesz to do tablicy z metody toArray to nie będzie optymalne, też po co tworzysz memory stream ? 
 

byte[] data = File.ReadAllBytes("D:\z.7z");

Masz do tego optymalną i gotową metode https://docs.microsoft.com/pl-pl/dotnet/api/system.io.file.readallbytes?view=net-6.0

Koła się na nowo nie wymyśla, bo nie jest to potrzebne

1
komentarz 1 stycznia 2022 przez adrian17 Ekspert (344,860 p.)
To co wrzuciłeś to bajty całego archiwum, a on czyta konkretny plik z archiwum.
1
komentarz 1 stycznia 2022 przez Wiciorny Ekspert (270,110 p.)

dobrze, ale równie dobrze może tam być link do pliku ....  np tekstowego 

byte[] newdata = File.ReadAllBytes("D:\t.txt");

aj, dobra po-noworoczne zwolnienie, zwracam honor, rozumiem  zauważyłem dopiero entry...  

Podobne pytania

0 głosów
0 odpowiedzi 86 wizyt
pytanie zadane 27 maja 2019 w C# przez poczatkujacy_pr Nowicjusz (180 p.)
0 głosów
1 odpowiedź 79 wizyt
pytanie zadane 6 listopada 2022 w Sprzęt komputerowy przez Telemele Nowicjusz (120 p.)
0 głosów
1 odpowiedź 136 wizyt
pytanie zadane 20 sierpnia 2017 w PHP przez sobi94 Początkujący (270 p.)

92,570 zapytań

141,422 odpowiedzi

319,643 komentarzy

61,958 pasjonatów

Motyw:

Akcja Pajacyk

Pajacyk od wielu lat dożywia dzieci. Pomóż klikając w zielony brzuszek na stronie. Dziękujemy! ♡

Oto polecana książka warta uwagi.
Pełną listę książek znajdziesz tutaj.

Akademia Sekuraka

Kolejna edycja największej imprezy hakerskiej w Polsce, czyli Mega Sekurak Hacking Party odbędzie się już 20 maja 2024r. Z tej okazji mamy dla Was kod: pasjamshp - jeżeli wpiszecie go w koszyku, to wówczas otrzymacie 40% zniżki na bilet w wersji standard!

Więcej informacji na temat imprezy znajdziecie tutaj. Dziękujemy ekipie Sekuraka za taką fajną zniżkę dla wszystkich Pasjonatów!

Akademia Sekuraka

Niedawno wystartował dodruk tej świetnej, rozchwytywanej książki (około 940 stron). Mamy dla Was kod: pasja (wpiszcie go w koszyku), dzięki któremu otrzymujemy 10% zniżki - dziękujemy zaprzyjaźnionej ekipie Sekuraka za taki bonus dla Pasjonatów! Książka to pierwszy tom z serii o ITsec, który łagodnie wprowadzi w świat bezpieczeństwa IT każdą osobę - warto, polecamy!

...