Partycjonowanie i przykładowy składnik

W tym artykule opisano składnik w projektancie Azure Machine Learning.

Użyj składnika Partition and Sample, aby wykonać próbkowanie na zestawie danych lub utworzyć partycje na podstawie zestawu danych.

Próbkowanie jest ważnym narzędziem w uczeniu maszynowym, ponieważ pozwala zmniejszyć rozmiar zestawu danych przy zachowaniu tego samego współczynnika wartości. Ten składnik obsługuje kilka powiązanych zadań, które są ważne w uczeniu maszynowym:

  • Dzielenie danych na wiele podsekcji o tym samym rozmiarze.

    Partycje mogą być używane do krzyżowego sprawdzania poprawności lub do przypisywania przypadków do grup losowych.

  • Rozdzielenie danych na grupy, a następnie praca z danymi z określonej grupy.

    Po losowym przypisaniu spraw do różnych grup może być konieczne zmodyfikowanie funkcji skojarzonych tylko z jedną grupą.

  • Pobierania próbek.

    Możesz wyodrębnić procent danych, zastosować próbkowanie losowe lub wybrać kolumnę do równoważenia zestawu danych i przeprowadzić próbkowanie warstwowe na ich wartościach.

  • Tworzenie mniejszego zestawu danych na potrzeby testowania.

    Jeśli masz dużo danych, możesz użyć tylko pierwszych n wierszy podczas konfigurowania potoku, a następnie przełączyć się do korzystania z pełnego zestawu danych podczas tworzenia modelu. Możesz również użyć próbkowania, aby utworzyć mniejszy zestaw danych do użycia w programowania.

Konfigurowanie składnika

Ten składnik obsługuje następujące metody dzielenia danych na partycje lub próbkowania. Najpierw wybierz metodę, a następnie ustaw dodatkowe opcje wymagane przez metodę.

  • Head
  • Próbkowanie
  • Przypisywanie do zagięcia
  • Wybierz fałdę

Pobieranie pierwszych N wierszy z zestawu danych

Użyj tego trybu, aby pobrać tylko pierwsze n wierszy. Ta opcja jest przydatna, jeśli chcesz przetestować potok na niewielkiej liczbie wierszy i nie potrzebujesz danych do zrównoważenia ani próbkowania w żaden sposób.

  1. Dodaj składnik Partition and Sample do potoku w interfejsie i połącz zestaw danych.

  2. Tryb partycji lub próbki: ustaw tę opcję na Head.

  3. Liczba wierszy do wybrania: wprowadź liczbę wierszy do zwrócenia.

    Liczba wierszy musi być nieujemną liczbą całkowitą. Jeśli liczba wybranych wierszy jest większa niż liczba wierszy w zestawie danych, zwracany jest cały zestaw danych.

  4. Prześlij potok.

Składnik generuje pojedynczy zestaw danych zawierający tylko określoną liczbę wierszy. Wiersze są zawsze odczytywane w górnej części zestawu danych.

Tworzenie próbki danych

Ta opcja obsługuje proste losowe próbkowanie lub próbkowanie losowe w warstwie. Jest to przydatne, jeśli chcesz utworzyć mniejszy reprezentatywny przykładowy zestaw danych na potrzeby testowania.

  1. Dodaj składnik Partition and Sample do potoku i połącz zestaw danych.

  2. Partycjonowanie lub tryb próbkowania: ustaw tę opcję na Próbkowanie.

  3. Częstotliwość próbkowania: wprowadź wartość z zakresu od 0 do 1. ta wartość określa wartość procentową wierszy ze źródłowego zestawu danych, który powinien zostać uwzględniony w wyjściowym zestawie danych.

    Jeśli na przykład chcesz, aby tylko połowa oryginalnego zestawu danych wskazywała, 0.5 że częstotliwość próbkowania powinna wynosić 50 procent.

    Wiersze wejściowego zestawu danych są mieszane i selektywnie umieszczane w wyjściowym zestawie danych zgodnie z określonym współczynnikiem.

  4. Inicjator losowy do próbkowania: opcjonalnie wprowadź liczbę całkowitą, która ma być używana jako wartość inicjatora.

    Ta opcja jest ważna, jeśli wiersze mają być dzielone w taki sam sposób za każdym razem. Wartość domyślna to 0, co oznacza, że początkowy inicjator jest generowany na podstawie zegara systemowego. Ta wartość może prowadzić do nieco innych wyników przy każdym uruchomieniu potoku.

  5. Podział warstwowy próbkowania: wybierz tę opcję, jeśli ważne jest, aby wiersze w zestawie danych zostały podzielone równomiernie przez kolumnę klucza przed próbkowaniem.

    W kolumnie Klucz stratification na potrzeby próbkowania wybierz pojedynczą kolumnę warstwy do użycia podczas dzielenia zestawu danych. Wiersze w zestawie danych są następnie podzielone w następujący sposób:

    1. Wszystkie wiersze wejściowe są grupowane (stratyfikowane) według wartości w określonej kolumnie strata.

    2. Wiersze są potasowane w każdej grupie.

    3. Każda grupa jest selektywnie dodawana do wyjściowego zestawu danych w celu spełnienia określonego współczynnika.

  6. Prześlij potok.

    Dzięki tej opcji składnik generuje pojedynczy zestaw danych, który zawiera reprezentatywne próbkowanie danych. Pozostała, nieprzykładowana część zestawu danych nie jest wyjściowa.

Dzielenie danych na partycje

Użyj tej opcji, jeśli chcesz podzielić zestaw danych na podzestawy danych. Ta opcja jest również przydatna, gdy chcesz utworzyć niestandardową liczbę krotności na potrzeby krzyżowego sprawdzania poprawności lub podzielić wiersze na kilka grup.

  1. Dodaj składnik Partition and Sample do potoku i połącz zestaw danych.

  2. W obszarze Partition or sample mode (Tryb partycji lub próbki) wybierz pozycję Assign to Folds (Przypisz do składania).

  3. Użyj zamiany w partycjonowaniu: wybierz tę opcję, jeśli chcesz, aby przykładowany wiersz został ponownie umieszczony w puli wierszy w celu potencjalnego ponownego użycia. W związku z tym ten sam wiersz może być przypisany do kilku krotności.

    Jeśli nie używasz zamiany (opcja domyślna), przykładowy wiersz nie zostanie ponownie umieszczony w puli wierszy w celu potencjalnego ponownego użycia. W rezultacie każdy wiersz może być przypisany tylko do jednego składania.

  4. Podział losowy: wybierz tę opcję, jeśli chcesz, aby wiersze zostały losowo przypisane do składania.

    Jeśli nie wybierzesz tej opcji, wiersze są przypisywane do składania za pomocą metody działania okrężnego.

  5. Inicjator losowy: opcjonalnie wprowadź liczbę całkowitą, która ma być używana jako wartość inicjatora. Ta opcja jest ważna, jeśli wiersze mają być dzielone w taki sam sposób za każdym razem. W przeciwnym razie wartość domyślna 0 oznacza, że zostanie użyty losowy inicjator początkowy.

  6. Określ metodę partycjonatora: określ sposób, w jaki dane mają być podzielone na poszczególne partycje, korzystając z następujących opcji:

    • Podziel partycję równomiernie: użyj tej opcji, aby umieścić taką samą liczbę wierszy w każdej partycji. Aby określić liczbę partycji wyjściowych, wprowadź liczbę całkowitą w polu Określ liczbę składań, które mają być równomiernie podzielone .

    • Partycja z dostosowanymi proporcjami: użyj tej opcji, aby określić rozmiar każdej partycji jako listę rozdzielaną przecinkami.

      Załóżmy na przykład, że chcesz utworzyć trzy partycje. Pierwsza partycja będzie zawierać 50 procent danych. Pozostałe dwie partycje będą zawierać 25 procent danych. W polu Lista proporcji rozdzielonych przecinkami wprowadź następujące liczby: .5, .25, .25.

      Suma wszystkich rozmiarów partycji musi zawierać maksymalnie 1.

      Jeśli wprowadzisz liczby, które sumują się do mniej niż 1, zostanie utworzona dodatkowa partycja do przechowywania pozostałych wierszy. Jeśli na przykład wprowadzisz wartości .2 i .3, zostanie utworzona trzecia partycja do przechowywania pozostałych 50 procent wszystkich wierszy.

      Jeśli wprowadzisz liczby, które sumują się do więcej niż 1, podczas uruchamiania potoku zostanie zgłoszony błąd.

  7. Podział warstwowy: wybierz tę opcję, jeśli chcesz, aby wiersze mają być podzielone po podzieleniu, a następnie wybierz kolumnę strata.

  8. Prześlij potok.

    Dzięki tej opcji składnik generuje wiele zestawów danych. Zestawy danych są partycjonowane zgodnie z określonymi regułami.

Używanie danych ze wstępnie zdefiniowanej partycji

Użyj tej opcji, gdy zestaw danych został podzielony na wiele partycji, a teraz chcesz załadować każdą partycję z kolei w celu dalszej analizy lub przetwarzania.

  1. Dodaj składnik Partition and Sample do potoku.

  2. Połączenie składnik do danych wyjściowych poprzedniego wystąpienia partycji i przykładu. To wystąpienie musi mieć użytą opcję Przypisz do składania , aby wygenerować pewną liczbę partycji.

  3. Tryb partycji lub próbki: wybierz pozycję Wybierz fałdowanie.

  4. Określ, z którego składania ma być próbkowana: wybierz partycję do użycia, wprowadzając jej indeks. Indeksy partycji są oparte na 1. Jeśli na przykład zestaw danych został podzielony na trzy części, partycje będą miały indeksy 1, 2 i 3.

    Jeśli wprowadzisz nieprawidłową wartość indeksu, zostanie zgłoszony błąd czasu projektowania: "Błąd 0018: Zestaw danych zawiera nieprawidłowe dane".

    Oprócz grupowania zestawu danych według zagięcia można oddzielić zestaw danych na dwie grupy: krotnie docelowe i wszystkie inne elementy. Aby to zrobić, wprowadź indeks pojedynczej krotnie, a następnie wybierz opcję Wybierz uzupełnienie wybranej krotnie, aby pobrać wszystko, ale dane z określonej krotnie.

  5. Jeśli pracujesz z wieloma partycjami, musisz dodać więcej wystąpień składnika Partition and Sample , aby obsłużyć każdą partycję.

    Na przykład składnik Partition (Partycja) i Sample (Przykład ) w drugim wierszu jest ustawiony na wartość Assign to Folds (Przypisz do zagięcia), a składnik w trzecim wierszu ma wartość Pick Fold (Wybierz fałdowanie).

    Partition and sample

  6. Prześlij potok.

    Dzięki tej opcji składnik generuje pojedynczy zestaw danych, który zawiera tylko wiersze przypisane do tego składania.

Uwaga

Nie można bezpośrednio wyświetlić oznaczeń składanych. Są one obecne tylko w metadanych.

Następne kroki

Zobacz zestaw składników dostępnych do Azure Machine Learning.