• Blob數據結構介紹
  Blob提供了統一的存儲器接口，TensorFlow中的Tensor也有對應的Blob數據結構。
  Caffe的基本存儲單元是Blob，使用Blob格式的4維數組用于存儲和交換數據，維度從低到高為（width_，height_，channels_，num_），用于存儲數據或權值（data）和權值增量（diff），其中width_和height_分別表示圖像的寬和高，channels_表示顏色通道RGB，num_表示第幾個顏色通道。在進行網絡計算時，每層的輸出/輸入都需要通過Blob對象緩沖。

//使用的是一個Blob的容器是因為某些Layer包含多組學習參數
vector<shared_ptr<Blob<Dtype>>> blobs_;

• 1
• 2

• Blob數據結構描述
  src/caffe/proto/caffe.proto文件中，Blob描述如下：

// packed表示這些值在內存中緊密排布，沒有空洞
message BlobShape{
    //只包括若干int64類型值，分別表示Blob每個維度的大小
    repeated int64 dim = 1 [packed = true];
}
message BlobProto{
    //包含一個BlobShape對象
    optional BlobShape shape = 7;
    //包含若干浮點元素，存儲數據或者權值，元素數目由shape或者（num， channels， height， width）確定
    repeated float data = 5 [packed = true];
    //包含若干浮點元素，存儲增量信息，維度與data數組一致
    repeated float diff = 6 [packed = true];
    //與data類似，類型為double
    repeated double double_data = 7 [packed = true];
    //與diff類似，類型為double
    repeated double double_diff = 8 [packed = true];
    //維度信息可選值，新版Caffe推薦使用shape,而不用后面的值
    optional int32 num = 1 [default = 0];
    optional int32 channels = 2 [default = 0];
    optional int32 height = 3 [default = 0];
    optional int32 width = 4 [default = 0];
}

• 函數介紹
  Dtype data_at(const int n, const int c, const int h,const int w) const:通過n,c,h,w 4個參數來來獲取該向量位置上的值。
  Dtype diff_at(const int n, const int c, const int h,const int w) const
  Dtype asum_data() const:絕對值之和，即L1-范式
  Dtype asum_diff() const
  Dtype sumsq_data() const:平方和，即L2-范式
  Dtype sumsq_diff() const
  void scale_data(Dtype scale_factor):data乘以一個標量
  void scale_diff(Dtype scale_factor)
  void ShareData(const Blob& other):共享一個Blob的data
  void ShareDiff(const Blob& other)
  const Dtype* cpu_data() const:只讀CPU上的數據
  const Dtype* gpu_data() const
  void set_cpu_data(Dtype* data):設置CPU上的數據
  const Dtype* cpu_diff() const:只讀CPU上的偏差
  const Dtype* gpu_diff() const
  Dtype* mutable_cpu_data():讀寫cpu上的數據
  Dtype* mutable_gpu_data()
  Dtype* mutable_cpu_diff():讀寫CPU上計算偏差
  Dtype* mutable_gpu_diff()
  void Update():更新變量值，使數據同步。
  void FromProto(const BlobProto& proto, bool reshape=true):反序列化函數，從BlobProto中恢復一個Blob對象
  void ToProto(BlobProto* proto, bool write_diff=false) const:序列化函數，將內存中的Blob對象保存到BlobProto中
  ToProto()和FromProto()可將Blob內部值保存到磁盤中或者從磁盤中載入到內存。
• 使用ProtoBuffer而不使用結構體的原因：
  1）結構體的序列化/反序列化操作需要額外的編程實現，難以做到結構標準化；2）結構體中包含變長數據（一般用指向某個內存地址的指針）時，需要更加細致的工作保證數據的完整性。
  ProtoBuffer將編程最容易出現問題的地方加以隱藏，讓機器自動處理，提高了程序的健壯性。
• Blob模板類
  在include/caffe/blob.hpp中申明了Blob模板類，并封裝了SyncedMemory類，const int kMaxBlobAxes = 32定義了Blob最大維數目。

//狀態機變量：未初始化、CPU數據有效、GPU數據有效、已同步
enum SyncedHead {UNINITIALIZED, HEAD_AT_CPU, HEAD_AT_GPU, SYNCED}