http://metabolomics.jp/mediawiki/index.php?action=history&feed=atom&title=Aritalab%3ALecture%2FMath%2FPLS
Aritalab:Lecture/Math/PLS - Revision history
2026-04-06T10:18:35Z
Revision history for this page on the wiki
MediaWiki 1.19.1
http://metabolomics.jp/mediawiki/index.php?title=Aritalab:Lecture/Math/PLS&diff=315332&oldid=prev
Adm: /* PLS: Partial Least Squares */
2017-06-07T00:54:39Z
<p><span dir="auto"><span class="autocomment">PLS: Partial Least Squares</span></span></p>
<table class='diff diff-contentalign-left'>
<col class='diff-marker' />
<col class='diff-content' />
<col class='diff-marker' />
<col class='diff-content' />
<tr valign='top'>
<td colspan='2' style="background-color: white; color:black;">← Older revision</td>
<td colspan='2' style="background-color: white; color:black;">Revision as of 00:54, 7 June 2017</td>
</tr><tr><td colspan="2" class="diff-lineno">Line 4:</td>
<td colspan="2" class="diff-lineno">Line 4:</td></tr>
<tr><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div>そこで、説明変量に対して最初に主成分分析を施し、そのスコアを利用して目的変量との重回帰分析をおこなう手法を主成分回帰 (principal component regression) と呼びます。</div></td><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div>そこで、説明変量に対して最初に主成分分析を施し、そのスコアを利用して目的変量との重回帰分析をおこなう手法を主成分回帰 (principal component regression) と呼びます。</div></td></tr>
<tr><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"></td><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"></td></tr>
<tr><td class='diff-marker'>−</td><td style="background: #ffa; color:black; font-size: smaller;"><div>==PLS: <del class="diffchange diffchange-inline">Partial Least Squares</del>==</div></td><td class='diff-marker'>+</td><td style="background: #cfc; color:black; font-size: smaller;"><div>==PLS: <ins class="diffchange diffchange-inline">Projection to Latent Structures</ins>==</div></td></tr>
<tr><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"></td><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"></td></tr>
<tr><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div>これまで、目的変量がひとつの場合だけを扱ってきましたが、目的変量側も数が多い場合に使うのがPLSです。</div></td><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div>これまで、目的変量がひとつの場合だけを扱ってきましたが、目的変量側も数が多い場合に使うのがPLSです。</div></td></tr>
</table>
Adm
http://metabolomics.jp/mediawiki/index.php?title=Aritalab:Lecture/Math/PLS&diff=304490&oldid=prev
Adm: /* PLS: Partial Least Squares */
2013-06-04T07:10:23Z
<p><span dir="auto"><span class="autocomment">PLS: Partial Least Squares</span></span></p>
<table class='diff diff-contentalign-left'>
<col class='diff-marker' />
<col class='diff-content' />
<col class='diff-marker' />
<col class='diff-content' />
<tr valign='top'>
<td colspan='2' style="background-color: white; color:black;">← Older revision</td>
<td colspan='2' style="background-color: white; color:black;">Revision as of 07:10, 4 June 2013</td>
</tr><tr><td colspan="2" class="diff-lineno">Line 8:</td>
<td colspan="2" class="diff-lineno">Line 8:</td></tr>
<tr><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div>これまで、目的変量がひとつの場合だけを扱ってきましたが、目的変量側も数が多い場合に使うのがPLSです。</div></td><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div>これまで、目的変量がひとつの場合だけを扱ってきましたが、目的変量側も数が多い場合に使うのがPLSです。</div></td></tr>
<tr><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div>主成分回帰は説明変量側のみで主成分分析を施していましたが、同様の変量圧縮を目的変量側でもおこないます。以下では、目的変量と説明変量の行列が求めた主成分から構成されると仮定します。</div></td><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div>主成分回帰は説明変量側のみで主成分分析を施していましたが、同様の変量圧縮を目的変量側でもおこないます。以下では、目的変量と説明変量の行列が求めた主成分から構成されると仮定します。</div></td></tr>
<tr><td class='diff-marker'>−</td><td style="background: #ffa; color:black; font-size: smaller;"><div> </div></td><td class='diff-marker'>+</td><td style="background: #cfc; color:black; font-size: smaller;"><div><ins class="diffchange diffchange-inline">; [[Aritalab:Lecture/Math/PLS/R_PLS|Rによる実習]]</ins></div></td></tr>
<tr><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div>===NIPALSアルゴリズム===</div></td><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div>===NIPALSアルゴリズム===</div></td></tr>
<tr><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div>{|</div></td><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div>{|</div></td></tr>
</table>
Adm
http://metabolomics.jp/mediawiki/index.php?title=Aritalab:Lecture/Math/PLS&diff=304488&oldid=prev
Adm: r
2013-06-04T06:20:08Z
<p>r</p>
<table class='diff diff-contentalign-left'>
<col class='diff-marker' />
<col class='diff-content' />
<col class='diff-marker' />
<col class='diff-content' />
<tr valign='top'>
<td colspan='2' style="background-color: white; color:black;">← Older revision</td>
<td colspan='2' style="background-color: white; color:black;">Revision as of 06:20, 4 June 2013</td>
</tr><tr><td colspan="2" class="diff-lineno">Line 7:</td>
<td colspan="2" class="diff-lineno">Line 7:</td></tr>
<tr><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"></td><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"></td></tr>
<tr><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div>これまで、目的変量がひとつの場合だけを扱ってきましたが、目的変量側も数が多い場合に使うのがPLSです。</div></td><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div>これまで、目的変量がひとつの場合だけを扱ってきましたが、目的変量側も数が多い場合に使うのがPLSです。</div></td></tr>
<tr><td class='diff-marker'>−</td><td style="background: #ffa; color:black; font-size: smaller;"><div><del class="diffchange diffchange-inline">主成分回帰は説明変量側のみで主成分分析を施していましたが、同様の変量圧縮を目的変量側でもおこないます。</del></div></td><td class='diff-marker'>+</td><td style="background: #cfc; color:black; font-size: smaller;"><div><ins class="diffchange diffchange-inline">主成分回帰は説明変量側のみで主成分分析を施していましたが、同様の変量圧縮を目的変量側でもおこないます。以下では、目的変量と説明変量の行列が求めた主成分から構成されると仮定します。</ins></div></td></tr>
<tr><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"></td><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"></td></tr>
<tr><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div>===NIPALSアルゴリズム===</div></td><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div>===NIPALSアルゴリズム===</div></td></tr>
<tr><td colspan="2"> </td><td class='diff-marker'>+</td><td style="background: #cfc; color:black; font-size: smaller;"><div><ins style="color: red; font-weight: bold; text-decoration: none;">{|</ins></div></td></tr>
<tr><td colspan="2"> </td><td class='diff-marker'>+</td><td style="background: #cfc; color:black; font-size: smaller;"><div><ins style="color: red; font-weight: bold; text-decoration: none;">|width=70%|</ins></div></td></tr>
<tr><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div># 最初は目的変量 Y の中で最大の分散を持つ列を選び u とする</div></td><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div># 最初は目的変量 Y の中で最大の分散を持つ列を選び u とする</div></td></tr>
<tr><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div># u と X の各列との相関を計算、ローディング p<sup>T</sup> を求める</div></td><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div># u と X の各列との相関を計算、ローディング p<sup>T</sup> を求める</div></td></tr>
<tr><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div># p<sup>T</sup> と各サンプル (X の各行) との相関を計算、スコア t を求める</div></td><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div># p<sup>T</sup> と各サンプル (X の各行) との相関を計算、スコア t を求める</div></td></tr>
<tr><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div># t と Y の各列との相関を計算、ローディング q<sup>T</sup> を求める</div></td><td class='diff-marker'> </td><td style="background: #eee; color:black; font-size: smaller;"><div># t と Y の各列との相関を計算、ローディング q<sup>T</sup> を求める</div></td></tr>
<tr><td colspan="2"> </td><td class='diff-marker'>+</td><td style="background: #cfc; color:black; font-size: smaller;"><div><ins style="color: red; font-weight: bold; text-decoration: none;"># q<sup>T</sup> と各目的変量 (Y の各行）との相関を計算、スコア u' を求める</ins></div></td></tr>
<tr><td colspan="2"> </td><td class='diff-marker'>+</td><td style="background: #cfc; color:black; font-size: smaller;"><div><ins style="color: red; font-weight: bold; text-decoration: none;"># 最初の u と u' を比較して収束するか判定。収束しないなら 2 に戻る</ins></div></td></tr>
<tr><td colspan="2"> </td><td class='diff-marker'>+</td><td style="background: #cfc; color:black; font-size: smaller;"><div><ins style="color: red; font-weight: bold; text-decoration: none;"># 収束した u と X の各列との相関を計算、第一潜在変数 (latent variable; LV) r<sup>T</sup> を求める</ins></div></td></tr>
<tr><td colspan="2"> </td><td class='diff-marker'>+</td><td style="background: #cfc; color:black; font-size: smaller;"><div><ins style="color: red; font-weight: bold; text-decoration: none;"># X と Y について以下のように残差を計算する</ins></div></td></tr>
<tr><td colspan="2"> </td><td class='diff-marker'>+</td><td style="background: #cfc; color:black; font-size: smaller;"><div><ins style="color: red; font-weight: bold; text-decoration: none;">:: X' = X - t r<sup>T</sup></ins></div></td></tr>
<tr><td colspan="2"> </td><td class='diff-marker'>+</td><td style="background: #cfc; color:black; font-size: smaller;"><div><ins style="color: red; font-weight: bold; text-decoration: none;">:: Y' = Y - u q<sup>T</sup></ins></div></td></tr>
<tr><td colspan="2"> </td><td class='diff-marker'>+</td><td style="background: #cfc; color:black; font-size: smaller;"><div><ins style="color: red; font-weight: bold; text-decoration: none;"># X と Y をそれぞれ残差で置き換え、ステップを繰り返す</ins></div></td></tr>
<tr><td colspan="2"> </td><td class='diff-marker'>+</td><td style="background: #cfc; color:black; font-size: smaller;"><div><ins style="color: red; font-weight: bold; text-decoration: none;">|</ins></div></td></tr>
<tr><td colspan="2"> </td><td class='diff-marker'>+</td><td style="background: #cfc; color:black; font-size: smaller;"><div><ins style="color: red; font-weight: bold; text-decoration: none;">[[Image:Lecture_Math_PLS_NIPALS.png|right|200px]]</ins></div></td></tr>
<tr><td colspan="2"> </td><td class='diff-marker'>+</td><td style="background: #cfc; color:black; font-size: smaller;"><div><ins style="color: red; font-weight: bold; text-decoration: none;">|}</ins></div></td></tr>
<tr><td colspan="2"> </td><td class='diff-marker'>+</td><td style="background: #cfc; color:black; font-size: smaller;"><div><ins style="color: red; font-weight: bold; text-decoration: none;"></ins></div></td></tr>
<tr><td colspan="2"> </td><td class='diff-marker'>+</td><td style="background: #cfc; color:black; font-size: smaller;"><div><ins style="color: red; font-weight: bold; text-decoration: none;">アルゴリズムのポイントは、Y側とX側の両方に対称に主成分回帰をおこなっている点です。</ins></div></td></tr>
</table>
Adm
http://metabolomics.jp/mediawiki/index.php?title=Aritalab:Lecture/Math/PLS&diff=304486&oldid=prev
Adm: Created page with "==主成分回帰== 回帰分析は説明変数間に相関が高いものがあると機能しませんでした（共線性の問題）。 そこで、説明変量に対し..."
2013-06-04T06:02:46Z
<p>Created page with "==主成分回帰== 回帰分析は説明変数間に相関が高いものがあると機能しませんでした（共線性の問題）。 そこで、説明変量に対し..."</p>
<p><b>New page</b></p><div>==主成分回帰==<br />
<br />
回帰分析は説明変数間に相関が高いものがあると機能しませんでした（共線性の問題）。<br />
そこで、説明変量に対して最初に主成分分析を施し、そのスコアを利用して目的変量との重回帰分析をおこなう手法を主成分回帰 (principal component regression) と呼びます。<br />
<br />
==PLS: Partial Least Squares==<br />
<br />
これまで、目的変量がひとつの場合だけを扱ってきましたが、目的変量側も数が多い場合に使うのがPLSです。<br />
主成分回帰は説明変量側のみで主成分分析を施していましたが、同様の変量圧縮を目的変量側でもおこないます。<br />
<br />
===NIPALSアルゴリズム===<br />
# 最初は目的変量 Y の中で最大の分散を持つ列を選び u とする<br />
# u と X の各列との相関を計算、ローディング p<sup>T</sup> を求める<br />
# p<sup>T</sup> と各サンプル (X の各行) との相関を計算、スコア t を求める<br />
# t と Y の各列との相関を計算、ローディング q<sup>T</sup> を求める</div>
Adm