typo
This commit is contained in:
@@ -433,9 +433,6 @@ $$
|
||||
$$
|
||||
<p> <br>
|
||||
|
||||
|
||||
<b>Note that in order to derive these equations we have assumed we can replace the unknown function \( {\bm f} \) with the target/output data \( \boldsymbol{y} \).</b>
|
||||
|
||||
<p>The three terms represent the square of the bias of the learning
|
||||
method, which can be thought of as the error caused by the simplifying
|
||||
assumptions built into the method. The second term represents the
|
||||
@@ -467,6 +464,8 @@ $$
|
||||
<p> <br>
|
||||
|
||||
<p>that is the rewriting in terms of the so-called bias, the variance of the model \( \boldsymbol{\tilde{y}} \) and the variance of \( \boldsymbol{\epsilon} \).</p>
|
||||
|
||||
<b>Note that in order to derive these equations we have assumed we can replace the unknown function \( \boldsymbol{f} \) with the target/output data \( \boldsymbol{y} \).</b>
|
||||
</section>
|
||||
|
||||
<section>
|
||||
|
||||
@@ -454,9 +454,6 @@ $$
|
||||
\mathbb{E}\left[(\boldsymbol{y}-\boldsymbol{\tilde{y}})^2\right]=\frac{1}{n}\sum_i(f_i-\mathbb{E}\left[\boldsymbol{\tilde{y}}\right])^2+\frac{1}{n}\sum_i(\tilde{y}_i-\mathbb{E}\left[\boldsymbol{\tilde{y}}\right])^2+\sigma^2.
|
||||
$$
|
||||
|
||||
|
||||
<b>Note that in order to derive these equations we have assumed we can replace the unknown function \( {\bm f} \) with the target/output data \( \boldsymbol{y} \).</b>
|
||||
|
||||
<p>The three terms represent the square of the bias of the learning
|
||||
method, which can be thought of as the error caused by the simplifying
|
||||
assumptions built into the method. The second term represents the
|
||||
@@ -483,6 +480,8 @@ $$
|
||||
|
||||
<p>that is the rewriting in terms of the so-called bias, the variance of the model \( \boldsymbol{\tilde{y}} \) and the variance of \( \boldsymbol{\epsilon} \).</p>
|
||||
|
||||
<b>Note that in order to derive these equations we have assumed we can replace the unknown function \( \boldsymbol{f} \) with the target/output data \( \boldsymbol{y} \).</b>
|
||||
|
||||
<!-- !split --><br><br><br><br><br><br><br><br><br><br>
|
||||
<h2 id="a-way-to-read-the-bias-variance-tradeoff">A way to Read the Bias-Variance Tradeoff </h2>
|
||||
|
||||
|
||||
@@ -531,9 +531,6 @@ $$
|
||||
\mathbb{E}\left[(\boldsymbol{y}-\boldsymbol{\tilde{y}})^2\right]=\frac{1}{n}\sum_i(f_i-\mathbb{E}\left[\boldsymbol{\tilde{y}}\right])^2+\frac{1}{n}\sum_i(\tilde{y}_i-\mathbb{E}\left[\boldsymbol{\tilde{y}}\right])^2+\sigma^2.
|
||||
$$
|
||||
|
||||
|
||||
<b>Note that in order to derive these equations we have assumed we can replace the unknown function \( {\bm f} \) with the target/output data \( \boldsymbol{y} \).</b>
|
||||
|
||||
<p>The three terms represent the square of the bias of the learning
|
||||
method, which can be thought of as the error caused by the simplifying
|
||||
assumptions built into the method. The second term represents the
|
||||
@@ -560,6 +557,8 @@ $$
|
||||
|
||||
<p>that is the rewriting in terms of the so-called bias, the variance of the model \( \boldsymbol{\tilde{y}} \) and the variance of \( \boldsymbol{\epsilon} \).</p>
|
||||
|
||||
<b>Note that in order to derive these equations we have assumed we can replace the unknown function \( \boldsymbol{f} \) with the target/output data \( \boldsymbol{y} \).</b>
|
||||
|
||||
<!-- !split --><br><br><br><br><br><br><br><br><br><br>
|
||||
<h2 id="a-way-to-read-the-bias-variance-tradeoff">A way to Read the Bias-Variance Tradeoff </h2>
|
||||
|
||||
|
||||
Binary file not shown.
+122
-122
@@ -2,7 +2,7 @@
|
||||
"cells": [
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "7bf071b1",
|
||||
"id": "24abf018",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -14,7 +14,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "fca6a6fc",
|
||||
"id": "ed320440",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -27,7 +27,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "76146bb5",
|
||||
"id": "bed7f6b2",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -45,7 +45,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "270056a4",
|
||||
"id": "c1ffcc13",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -64,7 +64,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "f8bb5fa3",
|
||||
"id": "46137c4b",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -81,7 +81,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "042794b6",
|
||||
"id": "c6edc330",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -103,7 +103,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "0716244e",
|
||||
"id": "ef27169f",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -113,7 +113,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "7f56b4b3",
|
||||
"id": "5bd4d2b0",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -140,7 +140,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "23a958ae",
|
||||
"id": "1ae30629",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -166,7 +166,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "ef846ba4",
|
||||
"id": "500c4cb6",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -183,7 +183,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "f07eb989",
|
||||
"id": "4c2b3d83",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -203,7 +203,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "168c7f44",
|
||||
"id": "1a925456",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -232,7 +232,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "91a005b6",
|
||||
"id": "4f4056ff",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -255,7 +255,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "81a1f57f",
|
||||
"id": "01113cba",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -273,7 +273,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "4f9283e6",
|
||||
"id": "d3ab456a",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -285,7 +285,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "bd2e743f",
|
||||
"id": "03ea9a2b",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -302,7 +302,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "f5df29d7",
|
||||
"id": "8d8cdec2",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -314,7 +314,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "21a55b99",
|
||||
"id": "ef09ae6f",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -324,7 +324,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "d49b329d",
|
||||
"id": "a706d82a",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -336,13 +336,11 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "0e7e1d13",
|
||||
"id": "f9e0d15d",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
"source": [
|
||||
"**Note that in order to derive these equations we have assumed we can replace the unknown function ${\\bm f}$ with the target/output data $\\boldsymbol{y}$.**\n",
|
||||
"\n",
|
||||
"The three terms represent the square of the bias of the learning\n",
|
||||
"method, which can be thought of as the error caused by the simplifying\n",
|
||||
"assumptions built into the method. The second term represents the\n",
|
||||
@@ -355,7 +353,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "febbf88b",
|
||||
"id": "0a4056b5",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -367,7 +365,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "14a8720f",
|
||||
"id": "dc20fce8",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -377,7 +375,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "8f0752e5",
|
||||
"id": "08fcc960",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -389,7 +387,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "ef13d53b",
|
||||
"id": "50947ecf",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -399,7 +397,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "f60bc886",
|
||||
"id": "57039525",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -411,17 +409,19 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "549b0b58",
|
||||
"id": "6bc16e70",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
"source": [
|
||||
"that is the rewriting in terms of the so-called bias, the variance of the model $\\boldsymbol{\\tilde{y}}$ and the variance of $\\boldsymbol{\\epsilon}$."
|
||||
"that is the rewriting in terms of the so-called bias, the variance of the model $\\boldsymbol{\\tilde{y}}$ and the variance of $\\boldsymbol{\\epsilon}$.\n",
|
||||
"\n",
|
||||
"**Note that in order to derive these equations we have assumed we can replace the unknown function $\\boldsymbol{f}$ with the target/output data $\\boldsymbol{y}$.**"
|
||||
]
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "ccc22f3e",
|
||||
"id": "4b1d24c0",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -437,7 +437,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "96e1d82b",
|
||||
"id": "5bfcc00f",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -448,7 +448,7 @@
|
||||
{
|
||||
"cell_type": "code",
|
||||
"execution_count": 1,
|
||||
"id": "543cf710",
|
||||
"id": "96dac6f5",
|
||||
"metadata": {
|
||||
"collapsed": false,
|
||||
"editable": true
|
||||
@@ -507,7 +507,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "aa0481ce",
|
||||
"id": "6f7e475d",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -545,7 +545,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "423b11dc",
|
||||
"id": "d79bd003",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -572,7 +572,7 @@
|
||||
{
|
||||
"cell_type": "code",
|
||||
"execution_count": 2,
|
||||
"id": "839908f3",
|
||||
"id": "35a26b1a",
|
||||
"metadata": {
|
||||
"collapsed": false,
|
||||
"editable": true
|
||||
@@ -634,7 +634,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "cf7ef117",
|
||||
"id": "f33d8525",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -659,7 +659,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "5a546e71",
|
||||
"id": "def18e0b",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -687,7 +687,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "312213f3",
|
||||
"id": "86185e19",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -700,7 +700,7 @@
|
||||
{
|
||||
"cell_type": "code",
|
||||
"execution_count": 3,
|
||||
"id": "e1e75799",
|
||||
"id": "837eb6db",
|
||||
"metadata": {
|
||||
"collapsed": false,
|
||||
"editable": true
|
||||
@@ -800,7 +800,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "82b6d7b2",
|
||||
"id": "246a6330",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -811,7 +811,7 @@
|
||||
{
|
||||
"cell_type": "code",
|
||||
"execution_count": 4,
|
||||
"id": "680e8f94",
|
||||
"id": "d8b02f78",
|
||||
"metadata": {
|
||||
"collapsed": false,
|
||||
"editable": true
|
||||
@@ -900,7 +900,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "358eb02e",
|
||||
"id": "a70eda65",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -910,7 +910,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "ddf9682b",
|
||||
"id": "89d0a804",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -923,7 +923,7 @@
|
||||
{
|
||||
"cell_type": "code",
|
||||
"execution_count": 5,
|
||||
"id": "36bc2e16",
|
||||
"id": "befb782e",
|
||||
"metadata": {
|
||||
"collapsed": false,
|
||||
"editable": true
|
||||
@@ -1001,7 +1001,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "b89e8c5f",
|
||||
"id": "f279a89f",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1023,7 +1023,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "c01146fe",
|
||||
"id": "de1348db",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1049,7 +1049,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "36f48ba3",
|
||||
"id": "671bc801",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1073,7 +1073,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "abb8ec9f",
|
||||
"id": "e91cbb81",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1098,7 +1098,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "89bd7958",
|
||||
"id": "dfc053a0",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1110,7 +1110,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "a15d7726",
|
||||
"id": "4282dc50",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1128,7 +1128,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "dae960a6",
|
||||
"id": "2f025673",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1146,7 +1146,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "a6a527c7",
|
||||
"id": "5dfdb4c4",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1157,7 +1157,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "bcbc1606",
|
||||
"id": "2f6af246",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1184,7 +1184,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "44868ab3",
|
||||
"id": "399a5233",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1197,7 +1197,7 @@
|
||||
{
|
||||
"cell_type": "code",
|
||||
"execution_count": 6,
|
||||
"id": "8333c751",
|
||||
"id": "bfda37ae",
|
||||
"metadata": {
|
||||
"collapsed": false,
|
||||
"editable": true
|
||||
@@ -1262,7 +1262,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "8a5c98c3",
|
||||
"id": "b4b3f084",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1275,7 +1275,7 @@
|
||||
{
|
||||
"cell_type": "code",
|
||||
"execution_count": 7,
|
||||
"id": "1d60fc67",
|
||||
"id": "ce3ceda9",
|
||||
"metadata": {
|
||||
"collapsed": false,
|
||||
"editable": true
|
||||
@@ -1294,7 +1294,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "73622cff",
|
||||
"id": "6a2be8a1",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1305,7 +1305,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "51977624",
|
||||
"id": "d749d39b",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1317,7 +1317,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "d2575f3a",
|
||||
"id": "6ea5c8f3",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1336,7 +1336,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "1c0c2cea",
|
||||
"id": "925afdd2",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1358,7 +1358,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "b11b7129",
|
||||
"id": "901107a1",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1370,7 +1370,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "afc423c5",
|
||||
"id": "8974b273",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1380,7 +1380,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "64d8c6ce",
|
||||
"id": "54f99567",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1393,7 +1393,7 @@
|
||||
{
|
||||
"cell_type": "code",
|
||||
"execution_count": 8,
|
||||
"id": "322c074c",
|
||||
"id": "cd0ca302",
|
||||
"metadata": {
|
||||
"collapsed": false,
|
||||
"editable": true
|
||||
@@ -1458,7 +1458,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "92c29cc2",
|
||||
"id": "eb99abc1",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1470,7 +1470,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "b955f585",
|
||||
"id": "2168208b",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1485,7 +1485,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "a63f345b",
|
||||
"id": "69b20587",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1497,7 +1497,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "fcdc9de0",
|
||||
"id": "0e405775",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1509,7 +1509,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "64f6e6be",
|
||||
"id": "4d499554",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1526,7 +1526,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "f64bf4a3",
|
||||
"id": "f514bdf0",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1540,7 +1540,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "553be466",
|
||||
"id": "cef661b9",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1550,7 +1550,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "4ba87d01",
|
||||
"id": "26fe55f0",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1562,7 +1562,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "cfe8c506",
|
||||
"id": "87dfcfc8",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1574,7 +1574,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "8e9fdc31",
|
||||
"id": "6bd311af",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1586,7 +1586,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "ac0dfb2b",
|
||||
"id": "b667f9c8",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1597,7 +1597,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "675e527b",
|
||||
"id": "c18601fe",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1609,7 +1609,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "6a174fbd",
|
||||
"id": "bd809e78",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1620,7 +1620,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "caf218f1",
|
||||
"id": "cfe1139a",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1636,7 +1636,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "16165273",
|
||||
"id": "c34e2ce7",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1648,7 +1648,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "d0e46c20",
|
||||
"id": "8b5e67b7",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1658,7 +1658,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "8486356a",
|
||||
"id": "95fa1261",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1670,7 +1670,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "dd68b2a8",
|
||||
"id": "475c0e60",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1685,7 +1685,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "29a5a406",
|
||||
"id": "1fcc2920",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1697,7 +1697,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "49951491",
|
||||
"id": "2b8ca280",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1708,7 +1708,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "afb8c5ce",
|
||||
"id": "c13c8084",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1720,7 +1720,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "23597d68",
|
||||
"id": "28c175f9",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1732,7 +1732,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "f0875957",
|
||||
"id": "822f9d8f",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1744,7 +1744,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "57b5907d",
|
||||
"id": "b7ef7713",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1754,7 +1754,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "045c215d",
|
||||
"id": "e0d677b0",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1766,7 +1766,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "e12783ef",
|
||||
"id": "1bd3a1e4",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1780,7 +1780,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "4187ff04",
|
||||
"id": "2229abec",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1792,7 +1792,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "0654d024",
|
||||
"id": "20185c58",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1802,7 +1802,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "d54ab2d6",
|
||||
"id": "9bca0545",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1814,7 +1814,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "983a58a6",
|
||||
"id": "b7a80eb4",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1824,7 +1824,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "430c828c",
|
||||
"id": "d9d417b0",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1836,7 +1836,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "c451eb7f",
|
||||
"id": "3405d5d0",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1847,7 +1847,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "7e453b99",
|
||||
"id": "b1fe4b02",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1870,7 +1870,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "0e10f377",
|
||||
"id": "fab2b45c",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1882,7 +1882,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "dfce6eee",
|
||||
"id": "599b6e62",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1892,7 +1892,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "890dfde2",
|
||||
"id": "2a90fb4f",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1904,7 +1904,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "ae64124a",
|
||||
"id": "64b0f466",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1921,7 +1921,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "8f99fa2a",
|
||||
"id": "e82c6a01",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1940,7 +1940,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "e4e3f038",
|
||||
"id": "3da5eca8",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1957,7 +1957,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "ea2b411d",
|
||||
"id": "62626aea",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1972,7 +1972,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "7064eec5",
|
||||
"id": "b54b2119",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1982,7 +1982,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "1abfa3d5",
|
||||
"id": "cc6c3444",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -1998,7 +1998,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "d642ddcc",
|
||||
"id": "fd89c356",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -2010,7 +2010,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "25ee959a",
|
||||
"id": "dc825324",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -2021,7 +2021,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "152d2931",
|
||||
"id": "cb6495ee",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -2033,7 +2033,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "d30eccfc",
|
||||
"id": "3416b1d9",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -2043,7 +2043,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "0c633584",
|
||||
"id": "0c251c1b",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -2057,7 +2057,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "101b4179",
|
||||
"id": "1284b5bd",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -2069,7 +2069,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "d65e281a",
|
||||
"id": "853bad30",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -2079,7 +2079,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "291c125e",
|
||||
"id": "bf24f7e5",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -2091,7 +2091,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "1cf1a4b3",
|
||||
"id": "bcbb9dd2",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -2103,7 +2103,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "0cf4aba0",
|
||||
"id": "29afa420",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -2116,7 +2116,7 @@
|
||||
{
|
||||
"cell_type": "code",
|
||||
"execution_count": 9,
|
||||
"id": "12ca8ea5",
|
||||
"id": "e226ab3b",
|
||||
"metadata": {
|
||||
"collapsed": false,
|
||||
"editable": true
|
||||
@@ -2259,7 +2259,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "affe5fa5",
|
||||
"id": "0981d00d",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -2278,7 +2278,7 @@
|
||||
{
|
||||
"cell_type": "code",
|
||||
"execution_count": 10,
|
||||
"id": "4ffe7b86",
|
||||
"id": "297a1581",
|
||||
"metadata": {
|
||||
"collapsed": false,
|
||||
"editable": true
|
||||
@@ -2321,7 +2321,7 @@
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"id": "dcc7f8a2",
|
||||
"id": "b12732fb",
|
||||
"metadata": {
|
||||
"editable": true
|
||||
},
|
||||
@@ -2335,7 +2335,7 @@
|
||||
{
|
||||
"cell_type": "code",
|
||||
"execution_count": 11,
|
||||
"id": "75e4cd7a",
|
||||
"id": "6bf79dfe",
|
||||
"metadata": {
|
||||
"collapsed": false,
|
||||
"editable": true
|
||||
|
||||
@@ -199,7 +199,7 @@ We can rewrite this as
|
||||
\]
|
||||
!et
|
||||
|
||||
_Note that in order to derive these equations we have assumed we can replace the unknown function ${\bm f}$ with the target/output data $\bm{y}$._
|
||||
|
||||
|
||||
The three terms represent the square of the bias of the learning
|
||||
method, which can be thought of as the error caused by the simplifying
|
||||
@@ -228,6 +228,7 @@ which, using the abovementioned expectation values can be rewritten as
|
||||
!et
|
||||
that is the rewriting in terms of the so-called bias, the variance of the model $\bm{\tilde{y}}$ and the variance of $\bm{\epsilon}$.
|
||||
|
||||
_Note that in order to derive these equations we have assumed we can replace the unknown function $\bm{f}$ with the target/output data $\bm{y}$._
|
||||
|
||||
!split
|
||||
===== A way to Read the Bias-Variance Tradeoff =====
|
||||
|
||||
Reference in New Issue
Block a user