Week 1和Week 2主要講解了機器學習中的一些基礎概念，并介紹了線性回歸算法（Linear Regression）。

機器學習主要分為三類：

1. 監督學習（Supervised Learning)：已知給定輸入的數據集的輸出結果。監督學習是學習輸入和輸出之間的映射關系。根據輸出值的類型監督學習問題可分為回歸（regression）問題和分類（classification）問題。如果輸出值是連續的，即為回歸問題；如果輸出值是一個離散的有限集合，即為分類問題。
2. 非監督學習（Unsupervised Learning)：給定的數據集只有輸入沒有輸出結果。非監督學習是為了發現數據集之間的隱藏結構關系。非監督學習中，有一個重要的方法稱為聚類（clustering algorithm)，聚類算法是把具有相同特征的數據聚集在一組。
3. 其它：Reinforcement learning, recommender systems

根據輸入的特征變量個數，可將線性回歸分為單變量線性回歸與多元線性回歸（multivariate linear regression）。線性回歸的圖像是條直線，不一定能很好的擬合數據，可以通過多項式回歸（polynomial regression），增加多項式來改變圖像曲線。

監督學習模型中，需要構建一個假設函數（hypothesis function）h(x)用于擬合輸入與輸出之間的映射關系，再構建一個損失函數（cost function）J(θ)用于衡量假設函數擬合的準確度。擬合最好的情況是所有點到擬合圖像的垂直距離的平方和的平均值最小。為了使損失函數最小化，我們需要找出合適的θ參數，可以通過梯度下降算法（Gradient Descent）來進行parameter learning。梯度下降算法的基本思想是先確定一個初始的θ值和學習速率α，然后對損失函數J(θ)求梯度，θ值在求出的梯度的方向的指引下，以學習速率和梯度大小的乘積為步長進行迭代，直至收斂（convergence）。在損失函數圖像中，梯度下降算法即是從一個θ初始點出發，不斷向圖像的global minimum收斂的過程（容易受local minima影響）。如果不同輸入特征變量之間的值域相差過大，會是梯度下降算法的運行速度變慢，可以用特征縮放（feature scaling）和均值歸一化（mean normalization）來加速。

除了使用梯度下降算法，也可以用標準方程（normal equation）直接計算得到最優參數θ。

Cost Function

對于最簡單的單變量線性回歸模型，我們的假設函數$h_θ(x) = θ_0 + θ_1x$hθ?(x)=θ0?+θ1?x。損失函數也稱作平方誤差函數（squared error function / mean squared error），

Gradient Descent

梯度下降算法核心是不斷地對損失函數求導（derivative, the slope of the tangent），用導數作為在該點的前進方向，沿著損失函數$J(θ_0, θ_1)$J(θ0?,θ1?)，向最低點前進。每一步的大小由learning rate α決定。不需要隨時調整α的大小，哪怕α是個固定值，隨著靠近local minimum，gradient descent也會自動取更小的步伐。如果α過小，gradient descent會非常的慢；如果α過大，gradient descent可能會錯過最小值，無法收斂，甚至會diverge。

單變量線性回歸的梯度下降，

在每次迭代的過程中，要同時更新所有參數的值。

Multivariate Linear Regression

Hypothesis function，


Gradient descent,

Feature Scaling & Mean Normalization

通過使不同輸入特征變量的值域大概在同一個范圍內，來加速梯度下降算法。一般有feature scaling和mean normalization兩種方法。

特征縮放是用輸入變量值分別除以輸入值的值域區間長度。

均值歸一化是用每個輸入值減去輸入值的均值后，除以輸入值的值域區間長度或者輸入值的標準差。

Normal Equation

標準方程不需要進行特征縮放操作。當n很大的時候，標準方程也會很耗時，例如當n > 10000時，用迭代操作可能會更好些。

Exercise 2: 實現線性回歸 - Matlab

作為一個餐飲行業的老板，考察分店開設，給的數據集包括各個城市的人口與盈利。完成單變量線性回歸，尋找人口與盈利之間的關系。

1. Plotting Data

根據提示，在plotData.m中完成繪制圖像的任務。

function plotData(x, y)
%PLOTDATA Plots the data points x and y into a new figure 
%   PLOTDATA(x,y) plots the data points and gives the figure axes labels of
%   population and profit.

figure; % open a new figure window

% ====================== YOUR CODE HERE ======================
% Instructions: Plot the training data into a figure using the 
%               "figure" and "plot" commands. Set the axes labels using
%               the "xlabel" and "ylabel" commands. Assume the 
%               population and revenue data have been passed in
%               as the x and y arguments of this function.
%
% Hint: You can use the 'rx' option with plot to have the markers
%       appear as red crosses. Furthermore, you can make the
%       markers larger by using plot(..., 'rx', 'MarkerSize', 10);

plot(x, y, 'rx', 'MarkerSize', 10);
ylabel('Profit in $10,000s');
xlabel('Population of City in 10,000s');

% ============================================================

end

2. Cost Function

在computeCost.m文件中，根據損失函數模型，完成損失函數的計算。

function J = computeCost(X, y, theta)
%COMPUTECOST Compute cost for linear regression
%   J = COMPUTECOST(X, y, theta) computes the cost of using theta as the
%   parameter for linear regression to fit the data points in X and y

% Initialize some useful values
m = length(y); % number of training examples

% You need to return the following variables correctly 
J = 0;

% ====================== YOUR CODE HERE ======================
% Instructions: Compute the cost of a particular choice of theta
%               You should set J to the cost.

J = sum((X * theta - y) .^2) / 2 / m;

% =========================================================================

end

3. Gradient Descent

在gradientDescent.m中，完成梯度的計算。

function [theta, J_history] = gradientDescent(X, y, theta, alpha, num_iters)
%GRADIENTDESCENT Performs gradient descent to learn theta
%   theta = GRADIENTDESCENT(X, y, theta, alpha, num_iters) updates theta by 
%   taking num_iters gradient steps with learning rate alpha

% Initialize some useful values
m = length(y); % number of training examples
J_history = zeros(num_iters, 1);

for iter = 1:num_iters

    % ====================== YOUR CODE HERE ======================
    % Instructions: Perform a single gradient step on the parameter vector
    %               theta. 
    %
    % Hint: While debugging, it can be useful to print out the values
    %       of the cost function (computeCost) and gradient here.
    %

    theta = theta - X' * (X * theta - y) * (alpha / m);
    
    % Save the cost J in every iteration    
    J_history(iter) = computeCost(X, y, theta);

    % ============================================================

end

end

4. Visualizing J(θ)

用surf和contour命令畫出來的圖像分別如下所示。

Ex1完整代碼已上傳Github。