Metoda Hellwiga
Gdy zachodzi konieczność ograniczenia liczby elementów zbioru X pierwotnie
wybranych zmiennych
objaśniających posłużymy się metodą optymalnego wyboru predykant- metodą
Hellwiga.
Każdą z ‚kandydatek” możemy uważać za źródło wiedzy o zmiennej Y, zasadne jest
więc traktowanie jej
jako nośnika informacji o zmiennej objaśnianej.
Rozpatrujemy wszystkie niepuste kombinacje m-zmiennych ze zbioru X. Ich liczba
wynosi:
Zbiór elementów tworzący S-tą kombinację oznaczamy przez
CS.
Określamy indywidualną pojemność informacyjną nośnika Xj wchodzącego w skład
S-tej kombinacji:
;
a następnie obliczamy integralną pojemność informacyjną
S-tej kombinacji:
Za najlepszą (optymalną) kombinację nośników informacji uznajemy ten podzbiór
kandydatek na zmienne
objaśniające, dla którego pojemność integralna jest największa.