small latex typo in ex36
This commit is contained in:
Binary file not shown.
Binary file not shown.
@@ -2,7 +2,7 @@
|
||||
"cells": [
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "50b2fbbe",
|
||||
"id": "97f6a138",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -14,7 +14,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "da488c0c",
|
||||
"id": "824d5177",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -27,7 +27,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "b84d6b13",
|
||||
"id": "6838dbb2",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -44,7 +44,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "96c9c28e",
|
||||
"id": "1ca16d7e",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -62,7 +62,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "439f1456",
|
||||
"id": "eee8a021",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -74,7 +74,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "b51e09f7",
|
||||
"id": "d30d8361",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -84,7 +84,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "02c45981",
|
||||
"id": "a37286a2",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -97,7 +97,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "cc0e91ea",
|
||||
"id": "361813c1",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -107,7 +107,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "b5805f35",
|
||||
"id": "c660b483",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -119,7 +119,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "6e3095bf",
|
||||
"id": "31ff8521",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -134,7 +134,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "da90fe04",
|
||||
"id": "c8c6d90e",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -147,7 +147,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "1a106e07",
|
||||
"id": "87935b80",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -159,7 +159,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "3917877b",
|
||||
"id": "21bb793c",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -171,7 +171,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "78226f28",
|
||||
"id": "53c548e7",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -183,7 +183,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "951dfffa",
|
||||
"id": "c00f35c8",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -193,7 +193,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "21d2770e",
|
||||
"id": "21ed3292",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -205,7 +205,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "ec212498",
|
||||
"id": "509e6b16",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -217,7 +217,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "4ffabf6c",
|
||||
"id": "5357343f",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -229,19 +229,19 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "f97a6f45",
|
||||
"id": "1e9ace16",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
"source": [
|
||||
"### b) The singular value decomposition\n",
|
||||
"\n",
|
||||
"Use the singular value decomposition of an n\\times p$ matrix $\\boldsymbol{X}$ (our design matrix)"
|
||||
"Use the singular value decomposition of an $n\\times p$ matrix $\\boldsymbol{X}$ (our design matrix)"
|
||||
]
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "8761ed23",
|
||||
"id": "40651a93",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -253,14 +253,14 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "92f8479e",
|
||||
"id": "9c32138e",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
"source": [
|
||||
"where $\\boldsymbol{U}$ and $\\boldsymbol{V}$ are orthogonal matrices of dimensions\n",
|
||||
"$n\\times n$ and $p\\times p$, respectively, and $\\boldsymbol{\\Sigma}$ is an\n",
|
||||
"$n\\times p$ matrix which contains the ingular values only. This material was discussed during the lectures of week 35.\n",
|
||||
"$n\\times p$ matrix which contains the singular values only. This material was discussed during the lectures of week 35.\n",
|
||||
"\n",
|
||||
"Show that you can write the \n",
|
||||
"OLS solutions in terms of the eigenvectors (the columns) of the orthogonal matrix $\\boldsymbol{U}$ as"
|
||||
@@ -268,7 +268,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "9df91bda",
|
||||
"id": "b9051ac7",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -280,7 +280,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "e6de0312",
|
||||
"id": "31ef228e",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -290,7 +290,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "8e09d132",
|
||||
"id": "c17ec408",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -302,7 +302,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "a9c924ab",
|
||||
"id": "2a1ccfae",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -314,7 +314,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "3b9328a1",
|
||||
"id": "ab9f7ef5",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -338,7 +338,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "5b54b7b4",
|
||||
"id": "4fc66d38",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -350,7 +350,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "a7ebe31b",
|
||||
"id": "897303d0",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -360,7 +360,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "874e0dd3",
|
||||
"id": "86e099db",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -372,7 +372,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "9adcc39f",
|
||||
"id": "16458ef3",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
|
||||
@@ -279,6 +279,18 @@ const thebe_selector_output = ".output, .cell_output"
|
||||
</a>
|
||||
</li>
|
||||
</ul>
|
||||
<p aria-level="2" class="caption" role="heading">
|
||||
<span class="caption-text">
|
||||
Projects
|
||||
</span>
|
||||
</p>
|
||||
<ul class="nav bd-sidenav">
|
||||
<li class="toctree-l1">
|
||||
<a class="reference internal" href="project1.html">
|
||||
Project 1 on Machine Learning, deadline October 9 (midnight), 2023
|
||||
</a>
|
||||
</li>
|
||||
</ul>
|
||||
|
||||
</div>
|
||||
</nav> <!-- To handle the deprecated key -->
|
||||
@@ -504,14 +516,14 @@ a finite number larger than zero. We will not implement that here.</p>
|
||||
</div>
|
||||
<div class="section" id="b-the-singular-value-decomposition">
|
||||
<h3>b) The singular value decomposition<a class="headerlink" href="#b-the-singular-value-decomposition" title="Permalink to this headline">¶</a></h3>
|
||||
<p>Use the singular value decomposition of an n\times p<span class="math notranslate nohighlight">\( matrix \)</span>\boldsymbol{X}$ (our design matrix)</p>
|
||||
<p>Use the singular value decomposition of an <span class="math notranslate nohighlight">\(n\times p\)</span> matrix <span class="math notranslate nohighlight">\(\boldsymbol{X}\)</span> (our design matrix)</p>
|
||||
<div class="math notranslate nohighlight">
|
||||
\[
|
||||
\boldsymbol{X}=\boldsymbol{U}\boldsymbol{\Sigma}\boldsymbol{V}^T,
|
||||
\]</div>
|
||||
<p>where <span class="math notranslate nohighlight">\(\boldsymbol{U}\)</span> and <span class="math notranslate nohighlight">\(\boldsymbol{V}\)</span> are orthogonal matrices of dimensions
|
||||
<span class="math notranslate nohighlight">\(n\times n\)</span> and <span class="math notranslate nohighlight">\(p\times p\)</span>, respectively, and <span class="math notranslate nohighlight">\(\boldsymbol{\Sigma}\)</span> is an
|
||||
<span class="math notranslate nohighlight">\(n\times p\)</span> matrix which contains the ingular values only. This material was discussed during the lectures of week 35.</p>
|
||||
<span class="math notranslate nohighlight">\(n\times p\)</span> matrix which contains the singular values only. This material was discussed during the lectures of week 35.</p>
|
||||
<p>Show that you can write the
|
||||
OLS solutions in terms of the eigenvectors (the columns) of the orthogonal matrix <span class="math notranslate nohighlight">\(\boldsymbol{U}\)</span> as</p>
|
||||
<div class="math notranslate nohighlight">
|
||||
|
||||
File diff suppressed because one or more lines are too long
@@ -2,7 +2,7 @@
|
||||
"cells": [
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "50b2fbbe",
|
||||
"id": "97f6a138",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -14,7 +14,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "da488c0c",
|
||||
"id": "824d5177",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -27,7 +27,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "b84d6b13",
|
||||
"id": "6838dbb2",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -44,7 +44,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "96c9c28e",
|
||||
"id": "1ca16d7e",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -62,7 +62,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "439f1456",
|
||||
"id": "eee8a021",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -74,7 +74,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "b51e09f7",
|
||||
"id": "d30d8361",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -84,7 +84,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "02c45981",
|
||||
"id": "a37286a2",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -97,7 +97,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "cc0e91ea",
|
||||
"id": "361813c1",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -107,7 +107,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "b5805f35",
|
||||
"id": "c660b483",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -119,7 +119,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "6e3095bf",
|
||||
"id": "31ff8521",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -134,7 +134,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "da90fe04",
|
||||
"id": "c8c6d90e",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -147,7 +147,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "1a106e07",
|
||||
"id": "87935b80",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -159,7 +159,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "3917877b",
|
||||
"id": "21bb793c",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -171,7 +171,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "78226f28",
|
||||
"id": "53c548e7",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -183,7 +183,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "951dfffa",
|
||||
"id": "c00f35c8",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -193,7 +193,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "21d2770e",
|
||||
"id": "21ed3292",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -205,7 +205,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "ec212498",
|
||||
"id": "509e6b16",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -217,7 +217,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "4ffabf6c",
|
||||
"id": "5357343f",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -229,19 +229,19 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "f97a6f45",
|
||||
"id": "1e9ace16",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
"source": [
|
||||
"### b) The singular value decomposition\n",
|
||||
"\n",
|
||||
"Use the singular value decomposition of an n\\times p$ matrix $\\boldsymbol{X}$ (our design matrix)"
|
||||
"Use the singular value decomposition of an $n\\times p$ matrix $\\boldsymbol{X}$ (our design matrix)"
|
||||
]
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "8761ed23",
|
||||
"id": "40651a93",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -253,14 +253,14 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "92f8479e",
|
||||
"id": "9c32138e",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
"source": [
|
||||
"where $\\boldsymbol{U}$ and $\\boldsymbol{V}$ are orthogonal matrices of dimensions\n",
|
||||
"$n\\times n$ and $p\\times p$, respectively, and $\\boldsymbol{\\Sigma}$ is an\n",
|
||||
"$n\\times p$ matrix which contains the ingular values only. This material was discussed during the lectures of week 35.\n",
|
||||
"$n\\times p$ matrix which contains the singular values only. This material was discussed during the lectures of week 35.\n",
|
||||
"\n",
|
||||
"Show that you can write the \n",
|
||||
"OLS solutions in terms of the eigenvectors (the columns) of the orthogonal matrix $\\boldsymbol{U}$ as"
|
||||
@@ -268,7 +268,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "9df91bda",
|
||||
"id": "b9051ac7",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -280,7 +280,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "e6de0312",
|
||||
"id": "31ef228e",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -290,7 +290,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "8e09d132",
|
||||
"id": "c17ec408",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -302,7 +302,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "a9c924ab",
|
||||
"id": "2a1ccfae",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -314,7 +314,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "3b9328a1",
|
||||
"id": "ab9f7ef5",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -338,7 +338,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "5b54b7b4",
|
||||
"id": "4fc66d38",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -350,7 +350,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "a7ebe31b",
|
||||
"id": "897303d0",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -360,7 +360,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "874e0dd3",
|
||||
"id": "86e099db",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -372,7 +372,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "9adcc39f",
|
||||
"id": "16458ef3",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
|
||||
@@ -2,7 +2,7 @@
|
||||
"cells": [
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "50b2fbbe",
|
||||
"id": "97f6a138",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -14,7 +14,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "da488c0c",
|
||||
"id": "824d5177",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -27,7 +27,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "b84d6b13",
|
||||
"id": "6838dbb2",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -44,7 +44,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "96c9c28e",
|
||||
"id": "1ca16d7e",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -62,7 +62,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "439f1456",
|
||||
"id": "eee8a021",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -74,7 +74,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "b51e09f7",
|
||||
"id": "d30d8361",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -84,7 +84,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "02c45981",
|
||||
"id": "a37286a2",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -97,7 +97,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "cc0e91ea",
|
||||
"id": "361813c1",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -107,7 +107,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "b5805f35",
|
||||
"id": "c660b483",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -119,7 +119,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "6e3095bf",
|
||||
"id": "31ff8521",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -134,7 +134,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "da90fe04",
|
||||
"id": "c8c6d90e",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -147,7 +147,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "1a106e07",
|
||||
"id": "87935b80",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -159,7 +159,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "3917877b",
|
||||
"id": "21bb793c",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -171,7 +171,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "78226f28",
|
||||
"id": "53c548e7",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -183,7 +183,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "951dfffa",
|
||||
"id": "c00f35c8",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -193,7 +193,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "21d2770e",
|
||||
"id": "21ed3292",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -205,7 +205,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "ec212498",
|
||||
"id": "509e6b16",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -217,7 +217,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "4ffabf6c",
|
||||
"id": "5357343f",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -229,19 +229,19 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "f97a6f45",
|
||||
"id": "1e9ace16",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
"source": [
|
||||
"### b) The singular value decomposition\n",
|
||||
"\n",
|
||||
"Use the singular value decomposition of an n\\times p$ matrix $\\boldsymbol{X}$ (our design matrix)"
|
||||
"Use the singular value decomposition of an $n\\times p$ matrix $\\boldsymbol{X}$ (our design matrix)"
|
||||
]
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "8761ed23",
|
||||
"id": "40651a93",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -253,14 +253,14 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "92f8479e",
|
||||
"id": "9c32138e",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
"source": [
|
||||
"where $\\boldsymbol{U}$ and $\\boldsymbol{V}$ are orthogonal matrices of dimensions\n",
|
||||
"$n\\times n$ and $p\\times p$, respectively, and $\\boldsymbol{\\Sigma}$ is an\n",
|
||||
"$n\\times p$ matrix which contains the ingular values only. This material was discussed during the lectures of week 35.\n",
|
||||
"$n\\times p$ matrix which contains the singular values only. This material was discussed during the lectures of week 35.\n",
|
||||
"\n",
|
||||
"Show that you can write the \n",
|
||||
"OLS solutions in terms of the eigenvectors (the columns) of the orthogonal matrix $\\boldsymbol{U}$ as"
|
||||
@@ -268,7 +268,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "9df91bda",
|
||||
"id": "b9051ac7",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -280,7 +280,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "e6de0312",
|
||||
"id": "31ef228e",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -290,7 +290,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "8e09d132",
|
||||
"id": "c17ec408",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -302,7 +302,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "a9c924ab",
|
||||
"id": "2a1ccfae",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -314,7 +314,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "3b9328a1",
|
||||
"id": "ab9f7ef5",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -338,7 +338,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "5b54b7b4",
|
||||
"id": "4fc66d38",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -350,7 +350,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "a7ebe31b",
|
||||
"id": "897303d0",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -360,7 +360,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "874e0dd3",
|
||||
"id": "86e099db",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -372,7 +372,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "9adcc39f",
|
||||
"id": "16458ef3",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
|
||||
@@ -85,7 +85,7 @@ The ordinary least squares result is
|
||||
|
||||
=== b) The singular value decomposition ===
|
||||
|
||||
Use the singular value decomposition of an n\times p$ matrix $\bm{X}$ (our design matrix)
|
||||
Use the singular value decomposition of an $n\times p$ matrix $\bm{X}$ (our design matrix)
|
||||
!bt
|
||||
\[
|
||||
\bm{X}=\bm{U}\bm{\Sigma}\bm{V}^T,
|
||||
@@ -94,7 +94,7 @@ Use the singular value decomposition of an n\times p$ matrix $\bm{X}$ (our desig
|
||||
|
||||
where $\bm{U}$ and $\bm{V}$ are orthogonal matrices of dimensions
|
||||
$n\times n$ and $p\times p$, respectively, and $\bm{\Sigma}$ is an
|
||||
$n\times p$ matrix which contains the ingular values only. This material was discussed during the lectures of week 35.
|
||||
$n\times p$ matrix which contains the singular values only. This material was discussed during the lectures of week 35.
|
||||
|
||||
Show that you can write the
|
||||
OLS solutions in terms of the eigenvectors (the columns) of the orthogonal matrix $\bm{U}$ as
|
||||
|
||||
Reference in New Issue
Block a user