人工知能や機械学習を専攻されてた方に伺いたいのですが、機械学習系の研究というのは具体的にどの様なテー

人工知能や機械学習を専攻されてた方に伺いたいのですが、機械学習系の研究というのは具体的にどの様なテーマや目的に沿って進めるのが一般的なのでしょうか？
私の研究室では、CNNとかみたいな有名なモデルを使って何かシステムを創作するといった感じなのですが、これって機械学習の知識さえあれば小学生でもできる自由研究とか趣味程度にしか思えません、、、
こんな事をやるのが大学の研究なのですか？
数式ゴリゴリ書いてモデル化したりするのがコンピュータサイエンスだと思ってました、、
旧帝大くらいじゃないとそういうのはやらせてもらえないんですかね…

No.6 回答者： stomachman 回答日時： 2022/12/03 14:14

> CNNとかみたいな有名なモデルを使って何かシステムを創作するといった感じ

　研究というよりは、典型的なアーキテクチャについて、それを理解し使いこなすスキルを身につけるための訓練、実業教育でしょうね。性能評価の技法を学び経験を積みセンスを養うわけで、メーカ等で製品開発をやるための実習になっている。専門学校の過程に相当するでしょう。その知識自体は数年で古くなってしまうだろうけれども、学び方、訓練の仕方を獲得できれば自力で前進して行けるようになる。なお、製品開発も広い意味で「研究」と呼ばれますが、そこに（産業上の意義を超えた）学術的な意義があるかどうかは開発したナカミによります。

> 数式ゴリゴリ書いてモデル化したりする

　それはあんまり「コンピュータサイエンス」らしくないですね。工学の分野では、具体的かつ切実な「実際上の課題」に取り組む上であらゆる手段を総動員し、機械学習的なものもそのひとつ（あまりスマートじゃないけど）と位置付けられる。で、そこを主客逆転して、常套的で共通性の高い手段の整備を基礎に据えるという発想は「数理科学」とか「数理工学」と呼ばれる。課題を解決するために数学を応用する、また、応用に向けて数学を発展させる。あるいは、意味のある計算が実用的な規模でできるようにアルゴリズムや近似法を開発する（計算幾何学など）。

> コンピュータサイエンス

にとっては、たとえば「有名なモデルを使って何かシステムを創作するだけで大抵ある程度ナントカなっちゃうのは、一体全体どうしてなのか」ということが目下の重要な課題のひとつです。これに対するアプローチには、たとえば情報幾何学（情報がなす抽象的空間の性質を調べる数学）などがありますし、また、「有名なモデルを使って何かシステムを創作するだけで大抵ある程度ナントカなっちゃっているシステムは、一体何をどうしてナントカしているのか」をうまく要約して説明するようなシステムを創作する、という研究もやられています。

> 旧帝大くらいじゃないとそういうのはやらせてもらえない

　誰かに「やっちゃイケマセン。もう、絶対やらせてやんない」とか言われたんですかね。そうでなければ、単に、自分でドンドンやればいいんです。教えてもらうことを期待して口を開けて待ってたってしょうがない。もちろん、助言できるだけの力のある教員がいないかもしれませんが、少なくともディスカッションの機会や設備や資料を提供してくれれば十分です。学生の方が教員よりデキるなんてのはちっとも珍しいことじゃありません。

No.5 回答者： kamiyasiro 回答日時： 2022/12/01 09:34

まだ閉じられていなかったのですね。

実証研究について、

量子論で言うと、スーパーカミオカンデで見つけてやろう！という一派です。

これだってノーベル賞を取れるのです。

ブラックホールを可視化した本間希樹（ほんままれき）先生もノーベル賞候補のひとりです。

理論を実証するということは、大いに価値のあることなのです。頑張って下さい。

No.4 回答者： kamiyasiro 回答日時： 2022/11/24 16:22

#3です。

#2さんがおっしゃるように、最新の論文で提案されている手法の実証であれば、価値はあります。

あるいは、こんなデータを入れたら成立しないという反証でも良いです。

実は、反証の方が価値があります。科学的命題は、１件でも反証があると、その蓋然性は失われるからです。論文誌への掲載取り下げにつながることもあります。

No.3 回答者： kamiyasiro 回答日時： 2022/11/24 15:53

研究の一分野として、実証研究というものがあります。

提案されている理論が、実際の場面で、あるいは実際の観測値を適用した際に、期待通りの効用を発揮するかどうかを確認し実証するのは、立派な研究アイテムです。

ですから、卒論で実証を行うのは恥ずかしいことではありません。

しかし、誰かやった適用の2番煎じではいけません。新規な研究は、先行研究がまだカバーできていない領域で行ってこそ価値があります。
（同じことを実装して喜んでいるのは、やってみた系のブロガー達です。）

ですから、CNNを実装して、画像データを適用して正解率を調べるにしても、

①これまでに問題になっているGoogle Photoの誤認識の問題とか、敵対的データ攻撃を敢えて加えた画像とか、ほぼ似ている雪原の狼とハスキー犬とか、を研究課題として、（←これらはダメです。既出です。）

②ドロップアウト量を変えてみたり、アテンションを入れたらどうなるか、という、あなた独自の視点で各パラメータの影響を調査して、

・解決の指針は得られたのか
・新しい提案はできるのか

これらを定量的に明らかにして、論文にまとめるのです。


卒業制作では決してありません。まずは、先行論文をしっかり読んで、何が未解決なのか調べましょう。それが研究テーマになります。

No.2 回答者： yhr2 回答日時： 2022/11/24 15:28

指導教官にそういう不満をぶつけてみてはいかがですか？

学会誌や論文集などを見て最新の研究の動向は把握しているのですか？

No.1 回答者： めくりや 回答日時： 2022/11/24 15:28

YouTubeにやまほど動画があるけど。

(34) 【完全版】この動画1本で機械学習実装（Python）の基礎を習得！忙しい人のための速習コース - YouTube


(34) 1年前の将棋ソフトと最新ソフトを戦わせたらとんでもない結果に・・・【elmo vs Apery】 - YouTube
https://www.youtube.com/watch?v=CDo7Q93uYh0

(34) 将棋AIをつくろう　第01回目 - YouTube
https://www.youtube.com/watch?v=YqSoQvpe7II