つっても、非公開のを別につけているわけではない。
Copyright 1999- Jun Makino
2023/11 2023/10 2023/09 2023/08 2023/07 2023/06 2023/05 2023/04 2023/03 2023/02 2023/01 ---- もっと昔でも、演算器の消費電力が問題になってる現在では、「一般的な数値計算 用のフォーマット」として例えば IEEE-754 の倍精度浮動小数点数は適切なの かとか、入力の左右で精度が違ってはいけないのかとか色々考えないといけな いことはあるような気が。
元の話とは既になんの関係もないが。
AI プロセッサは Cerebras でこっちは Cerebrus。1文字違い。
小美濃さんの言葉そのままではないけど「ある程度大きな人数で、誰も反対しないよ うな設計を、、、ということで保守的なほうにいってしまった」
というわけでそうならないようにしないといけないんだけど大変困難である。
サムスンの3Dは、DRAM とロジック合わせた話ができる世界唯一の会社なのでロジックがちゃんと進むなら魅力的である。
サムスンが値引き攻勢にでているという Trendforce の記事
なんかいくらなんでもこのコメントはないと思ったら本人も そういう感想のようでちょっと安心。まあマスメディアの取材ってどう載るのか確認できないなら受けちゃ駄目ということではある。
あらま。この20年くらいずっとダイハツの車だったのでうーむである。何 故かリストの64車種には私がのって(た/る)のはないが。
報告書にある社員の声 「不正行為の根本的な問題は、開発失敗・ミスを叱責する風土だと考える。直 接的に日程を守りたかったから不正行為をしたわけでなく、日程を守れなか ったときの叱責されることを避けたかったのでは？」
まあありがちではある。
深層学習で、ってのは色々話があるけどなんか大変そうなので、例えば アニーリングでできないかと。
常微分方程式なら、近似解を、各自由度の時刻の点列とそれぞれの時刻での従 属変数の値として、ラグランジアンかなんかからSAのエネルギー関数にあたる ものを計算するみたいなの。
時間方向の微分の精度もエネルギー関数にいれないと駄目か。
でもまあルンゲの現象みたいなことがおきるかどうかで次数決めて誤差を 予測するのはできそう。
もちろん普通なら陰解法でも線形化して CG反復とかニュートン法とか 使うわけで、性質がよい問題ならそっちが速いにきまってるんだけど、 SA で解くことで性質が悪いのでも力任せに、人間がプログラム書かなくても 解けるようにならないかみたいな。
色々なところで、計算機の能力より人間の能力が解ける問題を決めてるの で。
Annual investment need: $750M throughout this decade to discover computing paradigms/architectures with a radically new computing trajectory demonstrating >1,000,000x improvement in energy efficiency.
こっちの資料にもあるが明らかに本命はロジックとDRAMの3Dスタックであ る。
こういうことは起きないと私は考えてる。
MN-Core 2 で OpenFDTD が A100 より速い話とか MN-Core 向け最適化コ ンパイラ(というかまあその)の話(こっちは講演では使わなかったけど)とかは いってるのでおひまな人はどぞ。
最適化コンパイラは、MN-Core 2 はオペランドにとれるローカルメモリが 物理的に2つとレジスタファイル(1R1W)(が本当は2つらしい)とあと補助レジス タがあるので、中間コードででるレジスタをどこに割付けるかで実行効率が変 わるという話。
人間はまあどうやればいいかわかるんだけど、コンパイラはどうしよう？ という話がずっとあったんだけど、(量子じゃない普通の)アニーリングで実用上十分というか完 璧にできたというサンプル。
元々は遠藤さんがやってたもの。
これを(疑似)量子アニーラで実装したら、「我々はコードを量子コンピュータで最適化しました」ってプレスリリースできるかなという話題は某所で実際に行われた。本当にするかどうかは未定。
そういえば、A64fx で、A64fx むけに最適化したコードでルーフライン的な評 価すると、L2 がバンド幅もレイテンシも××なので主記憶アクセスする とかになって、適切なメモリ階層があるアーキテクチャとは違う 必要 B/F がでるよね。
これはつまり明後日の講義の準備をしているということである。
決定「ポスト5G情報通信システム基盤強化研究開発事業／ポスト5G情報通信システムの開発（委託）」に係る実施体制の決定について
PFN、IIJ、JAISTが共同で超高効率AI計算基盤の研究開発を開始
ということで MN-Core 第三世代の開発が始動します。皆様よろしくお願いいたします。
普通の SA ってすごいとちょっと思ったところだったのでなんとなく。
というわけで新しいお仕事で1ヶ月。なんだかとにかく忙しい。
とはいえ色々なすごく活気があって新しいことに社としてもどんどん取り 組んでいくので、日本で AI とか HPC のハードウェア・ソフトウェア開発をやることに興味がある人は声かけてみて下さいみたいな。