Google colaboratory使用筆記
標簽: paper
Google colaboratory使用筆記
介紹
Google colaboratory是google提供的一個免費的云服務器,Colaboratory 是一個 Google 研究項目,旨在幫助傳播機器學習培訓和研究成果。它是一個 Jupyter notebook環境,不需要進行任何設置就可以使用,并且完全在云端運行。
使用步驟
1.google colaboratory 配置
科學上網注冊自己的google賬戶,進入google云盤,在其中創建一個文件夾,例如colabNotebooks。
右鍵單擊創建的文件夾內右窗格中的其他位置,選擇More>Colaboratory。彈出另一個窗口,您可以將筆記本命名為test.ipynb
在筆記本中,選擇Runtime > Change runtime type。將彈出一個窗口。然后選擇運行時間類型,從硬件加速器下拉菜單中選擇GPU并保存設置(還有TPU的選擇)
設置好gpu之后我們創建第一個code,點擊左側按鈕運行單元格。
安裝調用Google drive API,運行下面代碼,點擊結果中鏈接,獲取授權碼,并填入完成Google drive的的授權。
!pip install -U -q PyDrive
from pydrive.auth import GoogleAuth
from pydrive.drive import GoogleDrive
from google.colab import auth
from oauth2client.client import GoogleCredentials
auth.authenticate_user()
gauth = GoogleAuth()
gauth.credentials = GoogleCredentials.get_application_default()
drive = GoogleDrive(gauth)
掛載后可以通過linux命令訪問google云盤,如果在訓練時候覺得速度慢,可以將drive東西放入虛擬服務器中,避免io交互時間。后面我將在google colaboratory訓練模型并保存到云盤。
注意事項
-
Google Colab是一個notebook環境,可看成是一臺帶有GPU的Ubuntu虛擬機,只不過我們只能用命令行的方式操作它。你可以選擇執行系統命令,亦或是直接編寫運行python代碼。
-
每次訪問Google Colab,會重新分配一個虛擬機,以前的代碼和數據會丟失。如果要保存數據和代碼,可以將其保存到Google Drive(谷歌云端硬盤)。
-
掛載完Google Drive,會在虛擬機里生成一個drive文件夾,直接將Google Drive當成是一塊硬盤即可。訪問drive文件夾里的文件,就是在訪問你的Google Drive里的文件。在Colab的代碼cell中輸入以下代碼,會返回一個鏈接,點擊鏈接登陸谷歌賬戶后,會有一個授權碼,復制授權碼,輸入至表單后,就可在該虛擬機中訪問谷歌云端硬盤。
-
.Colab最多連續使用12小時,超過時間系統會強制掐斷正在運行的程序并收回占用的虛擬機。(好像再次連接到虛擬機后,虛擬機是被清空的狀態,需要重新配置和安裝庫等等)
-
colab免費版本目前分配的顯卡為tesla T4。
-
colab與linux環境指令類似,僅需要在指令前添加“!”即可。
-
導入數據的三種方式:
直接上傳文件
上傳Google Drive并掛載導入
從github倉庫下載導入 -
缺點是網絡不穩定,每隔一段時間要點進來連接,一旦長時間不重新連接就會停止運行。
-
內存不夠大,大數據會出問題。
智能推薦
【工具使用】Google免費云環境Colaboratory使用
Colaboratory是Google的一個免費的深度學習云端環境,提供免費的GPU和TPU。 colab的地址:https://colab.research.google.com 1 前提條件 科學上網 谷歌賬號:用于登錄谷歌云盤 https://drive.google.com/drive/my-drive 2 使用以及運行深度學習項目 將項目文件或者文件夾上傳至谷歌云盤 在上傳的文件夾中空白...
Google Colab(Colaboratory)免費 GPU使用指南
Google Colab 免費 GPU使用指南 Google Colab 的全名是:Colaboratory,用免費的Gpu跑深度學習機器學習代碼。 1. 注冊Google賬號 打開Google后,在首頁右上角可以注冊Google賬號。 2. Google Drive登陸 在Google Chrome中輸入網址:https://drive.google.com/drive/my-drive , 打...
google免費云端環境colaboratory
從朋友圈中無意間發現了colaboratory,據說可以免費的使用Tesla k80 GPU加速,笨妞還從沒用過geforce以上的GPU,忍不住想試試。 參考了網友發出來的“量子位”的文章, https://mp.weixin.qq.com/s?__biz=MzIzNjc1NzUzMw==&mid=2247493706&idx=1&...
在Google Colaboratory測試imageAI
1. 打開Colaboratory 2. 點擊左上角的【文件】【新建文件夾】 3. 點擊【代碼執行程序】【更改運行時類型】,修改為為GPU 4. !wget https://github.com/OlafenwaMoses/ImageAI/releases/download/1.0/yolo.h5 5. !wget https://github.com/OlafenwaMoses/ImageAI/...
猜你喜歡
freemarker + ItextRender 根據模板生成PDF文件
1. 制作模板 2. 獲取模板,并將所獲取的數據加載生成html文件 2. 生成PDF文件 其中由兩個地方需要注意,都是關于獲取文件路徑的問題,由于項目部署的時候是打包成jar包形式,所以在開發過程中時直接安照傳統的獲取方法沒有一點文件,但是當打包后部署,總是出錯。于是參考網上文章,先將文件讀出來到項目的臨時目錄下,然后再按正常方式加載該臨時文件; 還有一個問題至今沒有解決,就是關于生成PDF文件...
電腦空間不夠了?教你一個小秒招快速清理 Docker 占用的磁盤空間!
Docker 很占用空間,每當我們運行容器、拉取鏡像、部署應用、構建自己的鏡像時,我們的磁盤空間會被大量占用。 如果你也被這個問題所困擾,咱們就一起看一下 Docker 是如何使用磁盤空間的,以及如何回收。 docker 占用的空間可以通過下面的命令查看: TYPE 列出了docker 使用磁盤的 4 種類型: Images:所有鏡像占用的空間,包括拉取下來的鏡像,和本地構建的。 Con...
requests實現全自動PPT模板
http://www.1ppt.com/moban/ 可以免費的下載PPT模板,當然如果要人工一個個下,還是挺麻煩的,我們可以利用requests輕松下載 訪問這個主頁,我們可以看到下面的樣式 點每一個PPT模板的圖片,我們可以進入到詳細的信息頁面,翻到下面,我們可以看到對應的下載地址 點擊這個下載的按鈕,我們便可以下載對應的PPT壓縮包 那我們就開始做吧 首先,查看網頁的源代碼,我們可以看到每一...
Linux C系統編程-線程互斥鎖(四)
互斥鎖 互斥鎖也是屬于線程之間處理同步互斥方式,有上鎖/解鎖兩種狀態。 互斥鎖函數接口 1)初始化互斥鎖 pthread_mutex_init() man 3 pthread_mutex_init (找不到的情況下首先 sudo apt-get install glibc-doc sudo apt-get install manpages-posix-dev) 動態初始化 int pthread_...