Charles R. Harris(Independent researcher), K. Jarrod Millman(Berkeley)
2020/09/16
Pythonの数値計算ライブラリとしてお馴染みにのNumpyの論文。なんとNatureに掲載。
もともとPythonにあったNumericとNumarrayという2つのライブラリが統合されてできたのがNumpy（知らなかった）。
以下の図から、今やNumpyが数多くのライブラリに使われていることが分かる（知らないものもたくさん）。
その他、Numpyが使われたプロジェクトの輝かしい功績や、Numpyの特徴・メリットが記載されている。
Numpyさんにはお世話になってます。
100 numpy exercisesをやるとNumpy力上がるかも
2020/04/22
この論文の凄さは、「DNNは学習していない」ということ。学習済モデルを全面的に信用している。それでAUC95.80％は驚愕。
— shinmura0 @ 9/26鳥コンペ反省会 (@shinmura0) September 14, 2020
凄まじく早い（学習）ので、エッジなんかで威力を発揮しそう。
（続く） https://t.co/1u6BUQsJnt
TensorFlow User Group Meetup - ベイズ分科会 - connpassでの発表資料
世界モデルというのは、やっていることはもろSLAMっぽいけど、違いがよく分からない。
Pixyzという深層生成モデルライブラリ、きになる。一度さわってみたい。
Xizhou Zhu1,3, Dazhi Cheng2,3 ,Zheng Zhang3 ,Stephen Lin3 ,Jifeng Dai3
2019/04/11
Preetum Nakkiran(Harvard University), Gal Kaplun(Harvard University), Yamini Bansal(Harvard University), Tristan Yang(Harvard University), Boaz Barak(Harvard University), Ilya Sutskever(OpenAI)
全員 Beihang University（北京大学）
2019/12/04
大きいディープラーニングのモデルで、パフォーマンスが低下（過学習）となった後、さらに学習をし続けるとまた性能が上がる現象（double-descent）をeffective model complexityという指数を定義して説明
宝くじ仮説と同じ話かと思ったら、どうも同じではないらしい。
なんとなく同じことを言っているような気がするけど…うーむ、分からん。
論文読み：DEEP DOUBLE DESCENT - Qiita
みつけたものをメモ
まとめ
Keynoteスピーチ
モデルの軽量化（蒸留）に関して
深層距離学習に関して
