ミニバッチ化時にミスることが多いので、以下のようなことをすると良いらしい。 データごとの計算を書いてみて、1 つずつ計算したものと照合する ミニバッチサイズを 1 にして計算したものの和or平均とミニバッチで計算したものを比較する

stackoverflow.com dot と matmul 2 次元では完全に同一。3 次元以上では異なる挙動をする。 dot は a の最後の軸と b の最後から 2 番目の軸を掛け合わせる matmul は行列の配列だとみなして行列積を計算する @ 演算子 Python 3.5 以降では @ 演算子や @= …

scikit-learn の問題点 scikit-learn 信者としてはとりあえず scikit-learn の実装を使いたくなるが、scikit-learn の実装はおすすめできないらしい。 -https://www.red dit.com/r/MachineLearning/comments/47kf7w/scikitlearn_tsne_implementation/ （はて…

共有ライブラリ編 env | grep LD md5sum 一致してるものを調べる ls -l シンボリックリンクを調べる readelf -a hogehoge.so readelf -a hogehoge.so | grep SONAME SONAME を調べる find build/ -name '*so' | xargs ldd | less 依存関係を調べる ldd `whic…

numexpr github.com numba Numba — Numba

autograd（微分可能 numpy） github.com pyCNN github.comCNN とは convolutional neural network ではなく C++ neural network

convnet benchmarks github.comconvnet (CNN) の実行速度のベンチマーク比較表。これを見ると意外と chainer はかなり良い位置につけている。cuDNN が速い。 DeepMark github.com

サーバ起動$ iperf -sクライアント$ iperf -c

shift 2回押し：search everywhere alt+enter：警告が出ているところで修復（自動import、initでself.hogeにコピー） command+shift+A：ランチャー的なモノ起動 F1：quick documentation Shift+F1：external documentation（ブラウザ） Command+B：定義に飛…

wscaleに√2を与える