A $ t $ -SNE a Machine Learning nagyszerű darabja, de számos okot találhat a PCA használatára. A fejem tetején ötöt említek. Mint a legtöbb más alkalmazott számítási módszertan, a $ t $ -SNE nem ezüst golyó , és jó néhány oka van, ami miatt egyes esetekben nem optimális választás. Hadd említsek néhány pontot röviden:

1. A végső megoldás sztochaszticitása . A PCA determinista; A $ t $ -SNE nem az. Az egyik kap egy szép vizualizációt, majd a kollégája újabb vizualizációt kap, majd művészi színt kapnak, ami jobban néz ki, és ha a $ KL (P || Q) $ divergenciában 0,03 dollár \% $ különbség értelmes ... A PCA-ban a a feltett kérdésre adott helyes válasz garantált. A $ t $ -SNE-nek több minimumja lehet, amelyek különböző megoldásokhoz vezethetnek. Ez több futtatást igényel, valamint kérdéseket vet fel az eredmények reprodukálhatóságával kapcsolatban.

2. A leképezés értelmezhetősége . Ez a fenti ponthoz kapcsolódik, de tegyük fel, hogy egy csapat megállapodott egy adott véletlenszerű kezdésben / futásban. Most a kérdés az lesz, hogy ez mit mutat ... A $ t $ -SNE csak a helyi / szomszédokat próbálja helyesen feltérképezni, ezért a beágyazásból származó betekintéseinknek nagyon óvatosnak kell lenniük; a globális trendek nincsenek pontosan ábrázolva (és ez potenciálisan nagyszerű lehet a vizualizáció szempontjából). Másrészt a PCA csak a kezdeti kovarianciamátrix átlós elforgatása, és a sajátvektorok egy új axiális rendszert képviselnek az eredeti adataink által lefedett térben. Közvetlenül meg tudjuk magyarázni, hogy mit csinál egy adott PCA.

3. Alkalmazás új / nem látott adatokra . A $ t $ -SNE nem tanul funkciót az eredeti térből az új (alsó) dimenzióba, és ez probléma. Ebben a kérdésben a $ t $ -SNE egy nem parametrikus tanulási algoritmus, ezért a paraméteres algoritmussal való közelítés rosszul felvetett probléma. A beágyazást úgy lehet megtanulni, hogy az adatokat közvetlenül mozgatja az alacsony dimenziós térben. Ez azt jelenti, hogy nem kapunk sajátvektort vagy hasonló konstrukciót, amelyet új adatokban használhatunk. Ezzel szemben a PCA alkalmazásával a sajátvektorok új tengelyrendszert kínálnak, amely közvetlenül felhasználható új adatok vetítésére. _{[Nyilvánvalóan megpróbálhatna egy mélyhálózatot betanítani a $ t $ -SNE leképezés elsajátításához (Dr. Van der Maatent ennek a videónak a ~ 46 'pontján hallhatja, aki valami hasonlót javasol ), de nyilvánvalóan nincs egyszerű megoldás.]}

4. Hiányos adatok . A $ t $ -SNE nem foglalkozik hiányos adatokkal. Igazság szerint a PCA sem foglalkozik velük, de a hiányos adatokhoz szükséges PCA számos kiterjesztése (pl. valószínűségi PCA) létezik, és szinte standard modellezési rutin. A $ t $ -SNE jelenleg nem tudja kezelni a hiányos adatokat (eltekintve attól, hogy először egy valószínűségi PCA-t képeztek ki, és a PC-pontokat átadták a $ t $ -SNE-nek bemenetként).

5. A $ k $ nem (túl) kis eset. $ t $ -SNE megoldja a zsúfoltságként ismert problémát, amely gyakorlatilag kissé hasonló pontokat jelent a magasabb dimenzióban alsó dimenziókban egymásra omlanak (további itt). Most, ahogy növeli a használt méreteket, a zsúfoltság problémája kevésbé súlyos, azaz. a $ t $ -SNE használatával próbált megoldani a problémát csillapítja. Megkerülheti ezt a kérdést, de ez nem triviális. Ezért ha szüksége van egy $ k $ dimenziós vektorra, mivel a redukált halmaz és a $ k $ nem egészen kicsi, akkor a produkciós megoldás optimalitása kérdéses. A PCA viszont mindig a magyarázat szerinti variancia szempontjából mindig a $ k $ legjobb lineáris kombinációt kínálja. (Köszönet @amoeba-nak, hogy észrevette, hogy rendetlenséget csináltam, amikor először megpróbáltam felvázolni ezt a pontot.)

Nem említem a számítási követelményekkel kapcsolatos kérdéseket (pl. Sebesség vagy memória mérete) ), sem a releváns hiperparaméterek (pl. zavartság) kiválasztásával kapcsolatos kérdések. Úgy gondolom, hogy ezek a $ t $ -SNE módszertan belső kérdései, és lényegtelenek, ha összehasonlítjuk egy másik algoritmussal.

Összefoglalva, a $ t $ -SNE nagyszerű, de mivel minden algoritmusnak vannak korlátai, amikor alkalmazhatóságához jön. A $ t $ -SNE-t szinte minden új adatkészletnél használom, amely magyarázó adatelemző eszközként a kezembe kerül. Úgy gondolom, hogy vannak bizonyos korlátai, amelyek nem teszik majdnem annyira alkalmazhatóvá, mint a PCA. Hadd hangsúlyozzam, hogy a PCA sem tökéletes; például a PCA-alapú vizualizációk gyakran alacsonyabbak, mint a $ t $ -SNE.

https://stats.stackexchange.com/a/249520/7828

kiváló általános válasz.

Szeretnék koncentráljon még egy kicsit a problémájára. Nyilvánvalóan szeretné megnézni, hogy a mintái hogyan viszonyulnak a 7 bemeneti változóhoz. Ez az, amit a t-SNE nem tesz meg. Az SNE és a t-SNE ötlete az, hogy szomszédokat helyezzen közel egymáshoz, (szinte) teljesen figyelmen kívül hagyva a globális struktúrát.

Ez kiválóan alkalmas vizualizációra, mert hasonló elemek ábrázolhatók egymás mellett ( és nem egymásra, vö. zsúfoltság).

Ez nem jó a további elemzéshez. A globális szerkezet elveszett, egyes objektumok akadályozhatók voltak a szomszédaikhoz való költözésben, és a különböző csoportok közötti szétválasztás nem marad meg mennyiségileg. Nagyrészt ezért pl. a vetítés klaszterezése általában nem működik nagyon jól.

A PCA ennek épp az ellenkezője. Megpróbálja megőrizni a globális tulajdonságokat (nagy szórású sajátvektorok), miközben elveszítheti a szomszédok közötti kis szórásbeli eltéréseket.

Egy alkalmazott szög megadásához a PCA és a t-SNE nem zárják ki egymást.A biológia egyes területein nagy dimenziójú adatokkal van dolgunk, ahol a t-SNE egyszerűen nem méretarányos.Ezért először a PCA-t használjuk az adatok dimenzióinak csökkentésére, majd a legfőbb elvkomponenseket figyelembe véve a vizualizációhoz t-SNE-t (vagy hasonló, nemlineáris dimenziósság-csökkentési megközelítést, például UMAP-ot) alkalmazunk.

Sok nagyon jó pontot adtak már itt.Van azonban néhány, amelyet szeretnék hangsúlyozni.Az egyik az, hogy a PCA megőrzi azokat a dolgokat, amelyeket a tSNE nem.Ez jó vagy rossz lehet, attól függően, hogy mit próbál elérni.Például a tSNE nem fogja megőrizni a fürtméreteket, míg a PCA (lásd az alábbi képeket, tSNE vs PCA

Heurisztikusan szem előtt tarthatja, hogy a PCA megőrzi a pontok közötti nagy távolságokat, míg a tSNE megőrzi azokat a pontokat, amelyek az ábrázolásban közel vannak egymáshoz.Ezért az egyes módszerek teljesítménye nagymértékben függ az adatkészlettől!