An Introduction to Machine Learning

Gebonden Engels 2017 2e druk 9783319639123
Verwachte levertijd ongeveer 9 werkdagen

Samenvatting

This textbook presents fundamental machine learning concepts in an easy to understand manner by providing practical advice, using straightforward examples, and offering engaging discussions of relevant applications. The main topics include Bayesian classifiers, nearest-neighbor classifiers, linear and polynomial classifiers, decision trees, neural networks, and support vector machines. Later chapters show how to combine these simple tools by way of “boosting,” how to exploit them in more complicated domains, and how to deal with diverse advanced practical issues. One chapter is dedicated to the popular genetic algorithms.

This revised edition contains three entirely new chapters on critical topics regarding the pragmatic application of machine learning in industry. The chapters examine multi-label domains, unsupervised learning and its use in deep learning, and logical approaches to induction. Numerous chapters have been expanded, and the presentation of the material has been enhanced. The book contains many new exercises, numerous solved examples, thought-provoking experiments, and computer assignments for independent work.

Specificaties

ISBN13:9783319639123
Taal:Engels
Bindwijze:gebonden
Uitgever:Springer International Publishing
Druk:2

Lezersrecensies

Wees de eerste die een lezersrecensie schrijft!

Inhoudsopgave

1&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; A Simple Machine-Learning Task&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 1<div> <p>1.1&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Training&nbsp; Sets and Classifiers.......................................................................... 1</p>

<p>1.2&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Minor Digression: &nbsp;Hill-Climbing Search....................................................... 5</p>

1.3&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Hill Climbing in &nbsp;Machine Learning................................................................ 9<p></p>

<p>1.4&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; The Induced Classifier’s Performance........................................................ 12</p>

<p>1.5&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Some Difficulties with &nbsp;Available Data......................................................... 14</p>

<p>1.6&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Summary and Historical Remarks............................................................... 18</p>

<p>1.7&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Solidify Your Knowledge.............................................................................. 19</p>

<p>2&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Probabilities: &nbsp;Bayesian Classifiers&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 22</p>

<p>2.1&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; The Single-Attribute Case............................................................................. 22</p>

<p>2.2&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Vectors&nbsp; of Discrete Attributes..................................................................... 27</p>

<p>2.3&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Probabilities of Rare Events:&nbsp; Exploiting the&nbsp; &nbsp;Expert’s Intuition............. 29</p>

2.4&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; How&nbsp; to Handle Continuous Attributes....................................................... 35<p></p>

<p>2.5&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Gaussian “Bell” Function:&nbsp; A &nbsp;Standard pdf................................................. 38</p>

2.6&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Approximating PDFs with Sets &nbsp;of Gaussians............................................ 40<p></p>

<p>2.7&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Summary and Historical Remarks............................................................... 43</p>

<p>2.8&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Solidify Your Knowledge.............................................................................. 46</p>

<p>3&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Similarities: &nbsp;Nearest-Neighbor Classifiers&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 49</p>

<p>3.1&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; The k-Nearest-Neighbor Rule...................................................................... 49</p> <p>3.2&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Measuring Similarity...................................................................................... 52</p>

<p>3.3&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Irrelevant&nbsp; Attributes and Scaling Problems............................................... 56</p>

3.4&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Performance Considerations........................................................................ 60<p></p>

<p>3.5&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Weighted Nearest Neighbors....................................................................... 63</p>

<p>3.6&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Removing Dangerous Examples.................................................................. 65</p>

3.7&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Removing Redundant Examples.................................................................. 68<p></p>

<p>3.8&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Summary and Historical Remarks............................................................... 71</p>

<p>3.9&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Solidify Your Knowledge.............................................................................. 72</p>

</div> <br> <div> <p>&nbsp;</p>

<p>&nbsp;</p>

<p>&nbsp;</p>

<p>&nbsp;</p>

<p>4&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Inter-Class Boundaries:</p>

<p>Linear and Polynomial Classifiers&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 75</p>
<p>4.1&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; The Essence..................................................................................................... 75</p>
<p>4.2&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; The Additive Rule: &nbsp;Perceptron Learning.................................................... 79</p>
<p>4.3&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; The&nbsp; Multiplicative &nbsp;Rule: &nbsp;WINNOW............................................................ 85</p>
<p>4.4&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Domains with More than &nbsp;Two Classes........................................................ 88</p>
<p>4.5&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Polynomial Classifiers..................................................................................... 91</p>
<p>4.6&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Specific Aspects of Polynomial Classifiers................................................... 93</p>
<p>4.7&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Numerical Domains and Support Vector Machines................................... 97</p>
<p>4.8&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Summary and Historical Remarks.............................................................. 100</p>
<p>4.9&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Solidify Your Knowledge............................................................................. 101</p>
<p>5&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Artificial Neural Networks&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 105</p>
<p>5.1&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Multilayer Perceptrons as Classifiers.......................................................... 105</p>
<p>5.2&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Neural Network’s Error............................................................................... 110</p>
<p>5.3&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Backpropagation of Error........................................................................... 111</p>
<p>5.4&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Special Aspects of Multilayer Perceptrons................................................ 117</p>
<p>5.5&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Architectural Issues...................................................................................... 121</p>
<p>5.6&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Radial Basis Function Networks................................................................. 123</p>
<p>5.7&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Summary and Historical Remarks.............................................................. 126</p>
<p>5.8&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Solidify Your Knowledge............................................................................. 128</p>
<p>6&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Decision &nbsp;Trees&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 130</p>
<p>6.1&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Decision Trees <as classifiers.......................................................................="" 130="" </p><p>6.2&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Induction of Decision Trees........................................................................ 134</p>
<p>6.3&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; How Much Information Does an&nbsp; &nbsp;Attribute Convey?............................... 137</p>
<p>6.4&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Binary Split of a&nbsp; &nbsp;Numeric Attribute.......................................................... 142</p>
<p>6.5&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Pruning.......................................................................................................... 144</p>
<p>6.6&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Converting the Decision Tree &nbsp;into Rules.................................................. 149</p>
<p>6.7&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Summary and Historical Remarks.............................................................. 151</p>
<p>6.8&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Solidify Your Knowledge............................................................................. 153</p>
<p>7&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Computational Learning Theory&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 157</p>
<p>7.1&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; PAC Learning................................................................................................. 157</p>
7.2&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Examples&nbsp; of PAC &nbsp;Learnability.................................................................... 161<p></p>
<p>7.3&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Some Practical and Theoretical Consequences......................................... 164</p>
<p>7.4&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; VC-Dimension and Learnability................................................................. 166</p>
<p>7.5&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Summary and Historical Remarks.............................................................. 169</p>
<p>7.6&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Exercises and Thought Experiments......................................................... 170</p>
</div> <br> <div> <p>&nbsp;</p>

<p>&nbsp;</p>

<p>&nbsp;</p>

<p>&nbsp;</p>

<p>8&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; A&nbsp; Few &nbsp;Instructive Applications&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 173</p>

<p>8.1&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Character Recognition................................................................................ 173</p>

8.2&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Oil-Spill Recognition.................................................................................... 177<p></p>

<p>8.3&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Sleep Classification...................................................................................... 181</p>

8.4&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Brain-Computer Interface.......................................................................... 185<p></p>

<p>8.5&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Medical Diagnosis........................................................................................ 189</p>

8.6&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Text Classification........................................................................................ 192<p></p>

8.7&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Summary and Historical Remarks............................................................ 194<p></p>

<p>8.8&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Exercises and Thought Experiments........................................................ 195</p>

9&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Induction&nbsp; of Voting Assemblies&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 198<p></p>

<p>9.1&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Bagging.......................................................................................................... 198</p>

<p>9.2&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Schapire’s Boosting..................................................................................... 201</p>

<p>9.3&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Adaboost:&nbsp; Practical Version of Boosting................................................. &lt;205</p>

<p>9.4&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Variations on the &nbsp;Boosting Theme........................................................... 210</p>

9.5&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Cost-Saving Benefits of &nbsp;the Approach...................................................... 213<p></p>

<p>9.6&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Summary and Historical Remarks............................................................ 215</p>

<p>9.7&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Solidify Your Knowledge............................................................................ 216</p>

<p>10&nbsp;&nbsp;&nbsp;&nbsp; Some&nbsp; Practical&nbsp; Aspects&nbsp; to Know About&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 219</p>

<p>10.1&nbsp;&nbsp;&nbsp;&nbsp; A Learner’s Bias.......................................................................................... 219</p>

<p>10.2&nbsp;&nbsp;&nbsp;&nbsp; Imbalanced Training Sets........................................................................... 223</p>

<p>10.3&nbsp;&nbsp;&nbsp;&nbsp; Context-Dependent Domains..................................................................... 228</p>

10.4&nbsp;&nbsp;&nbsp;&nbsp; Unknown Attribute Values......................................................................... 231<p></p>

<p>10.5&nbsp;&nbsp;&nbsp;&nbsp; Attribute Selection....................................................................................... 234</p>

10.6&nbsp;&nbsp;&nbsp;&nbsp; Miscellaneous............................................................................................... 237<p></p>

<p>10.7&nbsp;&nbsp;&nbsp;&nbsp; Summary and Historical Remarks............................................................ 238</p>

10.8&nbsp;&nbsp;&nbsp;&nbsp; Solidify Your Knowledge............................................................................ 240<p></p>

<p>11&nbsp;&nbsp;&nbsp;&nbsp; Performance Evaluation&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 243</p>

<p>11.1&nbsp;&nbsp;&nbsp;&nbsp; Basic Performance Criteria........................................................................ 243</p>

<p>11.2&nbsp;&nbsp;&nbsp;&nbsp; Precision and Recall.................................................................................... 247</p>

<p>11.3&nbsp;&nbsp;&nbsp;&nbsp; Other Ways&nbsp; to Measure Performance..................................................... 252</p>

<p>11.4&nbsp;&nbsp;&nbsp;&nbsp; Learning Curves and &nbsp;Computational Costs............................................. 255</p>

11.5&nbsp;&nbsp;&nbsp;&nbsp; Methodologies of Experimental Evaluation............................................. 258<p></p>

<p>11.6&nbsp;&nbsp;&nbsp;&nbsp; Summary and Historical Remarks............................................................ 261</p>

11.7&nbsp;&nbsp;&nbsp;&nbsp; Solidify Your Knowledge............................................................................ 263<p></p>

</div> <br> <div> <p>&nbsp;</p>

&nbsp;<p></p>

<p>&nbsp;</p>

<p>&nbsp;</p>

<p>12&nbsp;&nbsp;&nbsp;&nbsp; Statistical Significance&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 266</p>

<p>12.1&nbsp;&nbsp;&nbsp;&nbsp; Sampling a Population................................................................................ 266</p>

<p>12.2&nbsp;&nbsp;&nbsp;&nbsp; Benefiting from the &nbsp;Normal Distribution................................................ 271</p>

<p>12.3&nbsp;&nbsp;&nbsp;&nbsp; Confidence Intervals................................................................................... 275</p>

<p>12.4&nbsp;&nbsp;&nbsp;&nbsp; Statistical Evaluation of &nbsp;a Classifier.......................................................... 277</p>

<p>12.5&nbsp;&nbsp;&nbsp;&nbsp; Another Kind of &nbsp;Statistical Evaluation..................................................... 280</p>

<p>12.6&nbsp;&nbsp;&nbsp;&nbsp; Comparing Machine-Learning Techniques.............................................. 281</p>

12.7&nbsp;&nbsp;&nbsp;&nbsp; Summary and Historical Remarks............................................................ 284<p></p>

<p>12.8&nbsp;&nbsp;&nbsp;&nbsp; Solidify Your Knowledge............................................................................ 285&lt;</p>

<p>13&nbsp;&nbsp;&nbsp;&nbsp; Induction&nbsp; in Multi-Label Domains&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 287</p>

13.1&nbsp;&nbsp;&nbsp;&nbsp; Classical Machine Learning in<p></p>

Multi-Label Domains................................................................................... 287<p></p>

<p>13.2&nbsp;&nbsp;&nbsp;&nbsp; Treating&nbsp; Each&nbsp; Class Separately:</p>

<p>Binary Relevance......................................................................................... 290</p>

<p>13.3&nbsp;&nbsp;&nbsp;&nbsp; Classifier Chains........................................................................................... 293</p>

<p>13.4&nbsp;&nbsp;&nbsp;&nbsp; Another Possibility: Stacking..................................................................... 296</p>

<p>13.5&nbsp;&nbsp;&nbsp;&nbsp; A Note on Hierarchically &nbsp;Ordered Classes............................................... 298</p>

<p>13.6&nbsp;&nbsp;&nbsp;&nbsp; Aggregating the Classes.............................................................................. 301</p>

<p>13.7&nbsp;&nbsp;&nbsp;&nbsp; Criteria for Performance Evaluation........................................................ 304</p>

13.8&nbsp;&nbsp;&nbsp;&nbsp; Summary and Historical Remarks............................................................ 307<p></p>

<p>13.9&nbsp;&nbsp;&nbsp;&nbsp; Solidify Your Knowledge............................................................................ 308</p>

14&nbsp;&nbsp;&nbsp;&nbsp; Unsupervised Learning&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 311<p></p>

14.1&nbsp;&nbsp;&nbsp;&nbsp; Cluster Analysis........................................................................................... 311<p></p>

<p>14.2&nbsp;&nbsp;&nbsp;&nbsp; A Simple Algorithm: k-Means.................................................................... 315</p>

<p>14.3&nbsp;&nbsp;&nbsp;&nbsp; More Advanced Versions &nbsp;of k-Means...................................................... 321</p>

<p>14.4&nbsp;&nbsp;&nbsp;&nbsp; Hierarchical Aggregation............................................................................ 323</p>

14.5&nbsp;&nbsp;&nbsp;&nbsp; Self-Organizing Feature Maps: Introduction........................................... 326<p></p>

<p>14.6&nbsp;&nbsp;&nbsp;&nbsp; Some Important Details.............................................................................. 329</p>

<p>14.7&nbsp;&nbsp;&nbsp;&nbsp; Why Feature Maps?.................................................................................... 332</p>

<p>14.8&nbsp;&nbsp;&nbsp;&nbsp; Summary and Historical Remarks............................................................ 334</p>

<p>14.9&nbsp;&nbsp;&nbsp;&nbsp; Solidify Your Knowledge............................................................................ 335</p>

<p>15&nbsp;&nbsp;&nbsp;&nbsp; Classifiers in the Form&nbsp; &nbsp;of Rulesets&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 338</p>

<p>15.1&nbsp;&nbsp;&nbsp;&nbsp; A Class Described &nbsp;By Rules....................................................................... 338</p>

<p>15.2&nbsp;&nbsp;&nbsp;&nbsp; Inducing Rulesets by &nbsp;Sequential Covering............................................... 341</p>

15.3&nbsp;&nbsp;&nbsp;&nbsp; Predicates and Recursion.......................................................................... 344<p></p>

<p>15.4&nbsp;&nbsp;&nbsp;&nbsp; More Advanced Search Operators............................................................ 347</p>

</div> <br> <p>&nbsp;</p>

<p>&nbsp;</p>

<p>&nbsp;</p>

<p>&nbsp;</p>

<p>15.5&nbsp;&nbsp;&nbsp;&nbsp; Summary and Historical Remarks.............................................................. 349</p>

<p>15.6&nbsp;&nbsp;&nbsp;&nbsp; Solidify Your Knowledge............................................................................ 350</p>

<p>16&nbsp;&nbsp;&nbsp;&nbsp; The Genetic Algorithm&lt;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 352&lt; </p><p>16.1&nbsp;&nbsp;&nbsp;&nbsp; The Baseline Genetic Algorithm................................................................ 352</p>

<p>16.2&nbsp;&nbsp;&nbsp;&nbsp; Implementing the Individual Modules...................................................... 355</p>

<p>16.3&nbsp;&nbsp;&nbsp;&nbsp; Why it Works............................................................................................... 359</p>

16.4&nbsp;&nbsp;&nbsp;&nbsp; The Danger of &nbsp;Premature Degeneration................................................. 362<p></p>

<p>16.5&nbsp;&nbsp;&nbsp;&nbsp; Other Genetic Operators............................................................................ 364</p>

16.6&nbsp;&nbsp;&nbsp;&nbsp; Some Advanced Versions........................................................................... 367<p></p>

<p>16.7&nbsp;&nbsp;&nbsp;&nbsp; Selections in k-NN Classifiers..................................................................... 370</p>

<p>16.8&nbsp;&nbsp;&nbsp;&nbsp; Summary and Historical Remarks............................................................ 373</p>

<p>16.9&nbsp;&nbsp;&nbsp;&nbsp; Solidify Your Knowledge............................................................................ 374</p>

<p>17&nbsp;&nbsp;&nbsp;&nbsp; Reinforcement Learning&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 376</p>

<p>17.1&nbsp;&nbsp;&nbsp;&nbsp; How&nbsp; to Choose the Most &nbsp;Rewarding Action........................................... 376</p>

<p>17.2&nbsp;&nbsp;&nbsp;&nbsp; States and Actions in &nbsp;a Game.................................................................... 379</p>

17.3&nbsp;&nbsp;&nbsp;&nbsp; The SARSA Approach................................................................................. 383<p></p>

<p>17.4&nbsp;&nbsp;&nbsp;&nbsp; Summary and Historical Remarks............................................................ 384</p>

<p>17.5&nbsp;&nbsp;&nbsp;&nbsp; Solidify Your Knowledge............................................................................ 384</p>

<p>Index&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 395</p>

Managementboek Top 100

Rubrieken

Populaire producten

    Personen

      Trefwoorden

        An Introduction to Machine Learning