3 minutes
Google Colab の個人的 Tips
Google Drive のマウント 1
GUI を操作して Google Drive をマウントする
- 左側にある 🗂:file_folder: から
- ドライブをマウント
- アクセスを許可の確認 > GOOGLE ドライブに接続
- カレントディレクトリ配下に
drive
ファイルが作成されマウント完了
Google Drive のマウント 2
# mount google drive
from google.colab import drive
drive.mount('drive')
上記コードを実行すると以下のように認証のための URL と認証コード入力画面が出る
Go to this URL in a browser: path/to/auth
Enter your authorization code:
- 認証 URL をクリック
- アカウントの選択 > 許可
- ログインコードをコピーしてコード入力画面に貼り付け, 実行
- カレントディレクトリ配下に
drive
(もしくは任意の)ファイルが作成されマウント完了
Google Colab の ディレクトリ変更
他のシェル実行コマンドと同じように ! cd path/to/dir
としてもディレクトリ変更がなされない。
% cd path/to/dir
% cd /content/drive/My\ Drive
としておくと直接 drive のファイルを操作できる
ローカルからのファイルアップロード
from google.colab import files
uploaded = files.upload()
ローカルへのファイルダウンロード
from google.colab import files
files.download('path/to/file.txt')
画像の表示
from IPython.display import Image
Image('path/to/image.png', width=200)
参考: ローカル ファイル システム
個人的メモ
util コマンド
# drive に直接アクセス
% cd /content/drive/My\ Drive
! grep 'hoge' -ilr . --include='*.py'
! find . -name *txt
pip 系コマンド
# pip install
! pip install pkg
# pip の パッケージリストの取得
! pip list
# パッケージのバージョンとか詳細
! pip show pkg
apt 系コマンド
# インストール
! apt-get install pkg
# dpkg系
! dpkg --help
! dpkg -L pkg
# パッケージの削除
! apt-get purge pkg
MeCab インストール
# See: https://pypi.org/project/mecab-python3/
! apt-get install swig libmecab-dev mecab-ipadic-utf8
! pip install mecab-python3
# 必要に応じてdicdirやuserdicを書き換える
! find . -name mecabrc
! cat /etc/mecabrc
CaboCha インストール
予めcabochaとCRF++のソースをdrive内に置いていて、driveをマウントしていることが前提
/content/drive/My Drive/src
└── make
├── cabocha-0.69.tar.bz2
└── CRF++-0.58.tar.gz
%%bash
# mecabとその依存関係もドライブ内に置いている場合
# apt-get install /content/drive/My\ Drive/src/apt/archives/*.deb >/dev/null
# pip -q install /content/drive/My\ Drive/src/pip/*.tar.gz
# カレントディレクトリ(/content)にソースをコピー
cp -R /content/drive/My\ Drive/src/make/{cabocha-0.69.tar.bz2,CRF++-0.58.tar.gz} .
# crfppインストール
tar -zxf CRF++-0.58.tar.gz
cd CRF++-0.58
./configure --quiet && make >/dev/null && make install >/dev/null && ldconfig
cd ..
# cabochaインストール
tar -jxf cabocha-0.69.tar.bz2
cd cabocha-0.69
./configure --quiet -with-charset=utf-8 && make >/dev/null && make check >/dev/null && make install >/dev/null && ldconfig
pip -q install python/
cd ..
拾い画像
ドライブにパッケージを保存したかったり(検証途中)
# ドライブ内にパッケージのダウンロード
! apt-get --download-only -o dir::cache=/content/drive/My\ Drive/src/apt install pkg
! pip download -d /content/drive/My\ Drive/src/pip --no-binary :all: pkg
# ドライブ内からのパッケージのインストール
! apt-get install /content/drive/My\ Drive/src/apt/archives/*.deb
! pip install /content/drive/My\ Drive/src/pip/*.tar.gz
パッケージインストールの永続化のベストアンサー募集
必須ってわけじゃないけど、重いパッケージを毎回インストールするのは面倒だよね
とは言いつつも全部をドライブ内で管理しようとしても依存関係とかめんどそうだしどうしようかなーっていう現状
Read other posts