ขนาดวิดีโอ: 1280 X 720853 X 480640 X 360
แสดงแผงควบคุมโปรแกรมเล่น
เล่นอัตโนมัติ
เล่นใหม่
TH-camの訂正機能でも追加済みですが、18:00, 27:15の箇所で訂正があります!{g_i}や{g_i,h_j}の一次独立を条件と発言&表記してしまっていますが、正しくは、それらの勾配である{g_i}や{∇g_i,∇h_j}の一次独立が条件となります。大変失礼致しました
同じ点疑問に思ったのですが、こちらでコメントされていましたね。ありがとうございます。
今年の京大・物理宇宙物理専攻の院試にラグランジュ未定係数法が出題されました。前日に動画を見てよかったです。答えは未定のままでした()
院試の勉強でこの間復習しました。数学的な意味とか図形的な意味まではやりきれてないから、時間空いたらこの動画見てもっかい復習します。明日は院試の口頭試問!がんばる!
現在,都市計画・交通計画を研究している大学院2年なのですが,最適化はとてもよく出てくるので本当に助かります!ありがとうございます.
ありがとうございます!
経済学部でしたが一年生のときにクーンタッカー条件を学び衝撃を受けました。直感的にも納得がいきやすいところが快感です。
あまりにも(自分の興味の中で)タイムリーな話題でびっくりした!めちゃくちゃ助かります!!!
研究でSVM使う時にマージン最大化ところでお世話になりました。わかりやすいです。これ聞いた後に専門書読んだらKKTがアイドルのように可愛く感じれたのに。10年前に出会いたかったw
これまで様々なラグランジュの未定乗数法やKKT条件の説明を見てきましたが、今までで一番わかりやすかったです。ありがとうございます。この流れで是非凸計画問題の説明もぜひお願いしたいです!!
「制約付き最適化問題で困ったら,この動画を見ろ!」という決定版に出会えて感動です!
エネルギーの期待値が一定と確率の和が1を拘束条件としてラグランジュの未定乗数法を用いてボルツマンエントロピーからカノニカル分布が導出されるの気持ち良すぎて未定乗数法好きになった
経済学でも必須のラグランジュ乗数法ですね。ただ、一般的にKKT条件がよく使用されますが、FJ条件(フリッツ・ジョン)の方が比較的に『ユルい』条件下で使えて、個人的に好きですね。FJ条件の場合は、目的関数にもラグランジュ乗数が付くけど、それを背理法で消すのが楽しいです。
学生の時に、よく分からないけど乗数を掛けて微分すれば求まるということで覚えましたが特に使うことが無かったので意味を知ろうとしませんでした。勾配の向きが均衡点で一致するという性質での説明が分かりやすかったです。
最初にKKTについて新しいピン芸人といった瞬間、手の動きにBKBが現れたのを見逃さなかった。冒頭からエンジンかかってますね、バイクだけに!
データ分析の授業で出てきたばかりでこの動画のおかげで大変助かりました!!
ラグランジュの未定乗数法を初めて知ったときは、すごい便利だなと思いました。
ラグランジュの未定乗数法の気持ちがわかっていませんでしたが、非常にわかりやすく為になりました。
つい昨日まで院試で勉強してた分野なので、解説していただき嬉しいです!最適化の研究室なので、この動画を見て復習します!
18:00 と 27:10 あたりですが、「制約関数の『勾配』が一次独立であるとき」ですね。特に、不等式制約付き最適化について、一次独立制約想定は \bar{x} において "g_i(\bar{x})=0" となるものの勾配だけを考えれば良いです。(まあ、
ミクロ経済学やマクロ経済学でもよく使う最も基本的な制約付き最適化問題の解法だよね。学部レベルの経済学だとあまり現実との繋がりが見えにくい部分もあるが、院レベルまで到達すると一気に面白くなる。
勾配降下法を制約条件付けてどう解けばいいのか悩んでいたのですがこんなに素晴らしい解法が世の中にはあったのですね!お陰さまでプログラム実装できそうです。
Lagrangeの未定乗数法は6月に授業で習ったけど、別の解説もすごく面白かった❤不等式制約の部分はまだあまり理解できなかったから勉強しよう🔥
めっちゃ神タイミングw 丁度色々調べようとした時に出てきたので助かります!
ラグランジュの未定乗数法は学位論文で使いました。状態方程式を制約条件としてラグランジュ関数を作成し、最適経路追従問題を2点境界値問題に帰着して数値的に解く方法の研究をしていました。ラグランジュの未定乗数法は、すごく良い考え方ですが、学部や院で授業で習うことはなかったので、動画で公開されているのは有益に思います。スラック変数に関する補足等、続編も期待しています。
😊😅い😊いいいいいいいいいいいいい😊いいいいいいいいいいいいいい😊いいいいいいいいいいいいいいいいい😊iiいいいいいいいいいいい😊いいいいいいいいいいいい😊iいいいいいい😊😊😊い😊い😊
@@kantaro1966 いいいいいいいいいいいい
今学期に丁度最適化数学を履修してテストも終わったばかりなので自分にとって非常にタイムリーな話でした
制約付きのすごくわかりやすかったです!
SVMで必要になったので非常に助かりました
同じくPRMLのSVMで必要になりました
僕の学生時代にはKKT条件を「クーン・タッカーの条件」と習いましたね。それでもあまり詳しくは踏み込んでいなかったので、今回改めて学びになった気がします。
解析力学や統計力学で出てきたのを思い出しました。物理を復習中なので助かりました👍
高校数学でもゴリ押しに使えるが、制約と誓約感がすごい
経営工学系の学生なのでめちゃくちゃありがたい
本当に助かりました!
ここら辺使うと、数検とか高校の不等式問題とかでチートみたいに使えてすごい便利なんですよね
めちゃめちゃタイムリーで助かる
何回も同じ話を聞いた気がしますが、初めて腹落ち感がありました.手を動かして解く練習問題も一緒にやりたいです!
Fritz Johnもお願いします!
接したら勾配一致ソコが分かるだけで数式の見え方が変わるのよね昔、式だけ見目てチンプンカンプンだった
わかりたかったやつ!
経済学で必須の条件ですね!
これは経済学部歓喜
ミクロ経済学の授業の参考動画として引用したいレベル(引用したい
理工系だけど等式制約すら独学でした。大変申し訳ございません🙇♂️
カルーシュクーンタッカーについては余り気持ちがわからなかったのでありがたいです
点と直線の距離の公式を証明するときにこれを使う。
18:20 どうして多変数の時は線形結合になるんでしょうか?
3変数、2制約の場合を考えてみたのですが、この場合、それぞれの制約は曲面になっており、その交線が真の制約となり、最小値の必要条件となるにはこの交線がfの等高面に接している必要があるこの接点上での接線?(交線と同じ向きに伸びている直線)を考えると、交線がそれぞれの制約面に含まれるのだから、この接線?は制約面の接面に含まれるだからこの接線?は二つの接面の交線と等しくなる勾配は接面と垂直なので、交線とも垂直であり、勾配の線形結合で作られる面は交線と垂直に交わるこの面上にfの勾配が含まれていれば等高面に接していると言える、と思う!制約が増えるってことは、移動範囲は狭まるけど、逆に向きはどんどん弛くなってくんだなと感じました
@@ぬーべー-i5p 最終的に求めるべき各制約の交線(接線?)に対する∇fを、まず各制約の面に対する勾配としてそれぞれ考えた後、勾配を線形結合したもの(この場合は面)に含まれるものとして考えるということですか。なるほど……ご返答ありがとうございます。勾配ベクトルは接線に対して垂直なので、各制約それぞれに分解して考えると多変数でも"曲面が接する=接線を共有する"に落とし込むことができるということですよね。その場合、∇g_iをλ_i倍する意味はどのように考えられるのでしょうか?最終的に∇fが勾配の線形結合(面)に含まれるかどうかで判断するなら、定数倍してもその形は変わらないと思うので、λ倍する意味が今一つ分からないんです……
@@川村竹山 面にふくまれるが?を等式で判断する方法として使っているだけだと思いますよ面内の平行でない(一時独立)な二つのベクトルをスカラー倍して足し合わせる(線形結合)ことで表現できるベクトルは面に含まれていると言えるのて、スカラー倍部分がλ_iなのかと
神動画すぎ!
ラグランジュ、複雑な連立解くの嫌いだったから| fx gx || fy gy | = 0の行列式解いてた個人的には、λ使わない分こっちの方が楽で好き
0:27 それはBKBや
RNNの解説お待ちしてます!
等式制約の時に「gradFとgradGが平行」であって「gradF=-gradG」とならないのはどうしてだろう。最小化の目的のもとであれば、fとgが接するのは「gradF=-gradG」の接し方の時だけかと思ったけど違うのかな。
なるほどこうすれば良かったんだ!
1セットで見て下さい・ラグランジュの未定乗数法の気持ち【条件付き極値問題】 → th-cam.com/video/vAwqZmwf4W8/w-d-xo.html・制約付き最適化問題(KKT条件/ラグランジュ未定乗数法) → 本動画
追加・L1/L2正則化の意味【機械学習】 → th-cam.com/video/3vfiMRjgzZ8/w-d-xo.html
追加・中学数学からはじめる微分積分 → th-cam.com/video/4p1rwfXbCoY/w-d-xo.html&lc=UgzvWs0wP0Vu-7xfcpN4AaABAg・【大学数学】偏微分とは何か【解析学】 → th-cam.com/video/UWFTIEIruyc/w-d-xo.html・【大学数学】全微分とは何か【解析学】 → th-cam.com/video/ChoArVJnSjQ/w-d-xo.html・grad(勾配)の意味 → th-cam.com/video/p7hEoWv7pp4/w-d-xo.html・div(発散)の意味 → th-cam.com/video/ZS51xsn7onA/w-d-xo.html・rot(回転)の意味 → th-cam.com/video/JjdmVjQSKkA/w-d-xo.html・ベクトル解析入門①(内積と外積) → th-cam.com/video/k7ImHQhxF3s/w-d-xo.html
16:05 自分用
整数の制約を含む場合はどう扱えば、、、必ずgの勾配が0になる?そもそも離散値を含めると凸最適問題にならない、、、?
BKB!BKB!今回もアクセル全開ですね。バイクだけに、ブンブンっ!
ラグランジュ特集してください。つまりラグランジュと名の付く定理・公式のイかれたメンバー紹介動画を作って欲しいです。
機械学習、システム工学、経済学、解析力学あたりで使った
神
ミクロ経済学でやったところだ!
質問です。局所最小解の範囲は開区間と捉えて良いでしょうか?取る範囲によっては交点も局所最小解になりうると思ったのですが…
※閉区間の端点が、区間内で最小になるなら、それが局所最小解なのでは?という主張と捉えて話しています。勘違いでしたら申し訳ございません。xが局所最小解であるかどうかを考える時には、区間を先に決めてからその区間内の最小点を見るのではなく、xの付近でxが最小になるかどうかを見ます。局所最小解かどうかを考える点xを設定した時に、その付近の区間(のようなもの)が決まるので、xが区間の端点になることはないと思います。間違っていたら申し訳ないです。
中学生で勾配ベクトルの計算の応用の公式作ったらどうやって論文発表をしたらいいでしょうか【式】呼び海苔tasu たくみ= CircleLet's study!!
最適制御でよく出てきたなー
はしけんさん思い出した
コメ欄の知性が他の動画より一段階上がってて草。
草?
@@もんぶらん-n9v ん?
@@ナナシ-k7s 草か?
@@もんぶらん-n9v え、なに?そうとう暇なん?人生楽しい?
@@ナナシ-k7s 草。
経済学部ワイ歓喜
これ機械学習でやったな〜
不覚にもちょっとクスリとしてしまった!
微分面倒〜って言いながら使ってた学部2年
なんでg(x,y)は二次元なのに勾配があるの??
7:23
最初のピン芸人ってBKBのことか
スラック変数
K顔のK形がTトーマス
KKTヒーーーヤ!
高3で使ったら、先生に使うなって言われた。🤔
ぜひ生徒にカプリティオを招いてほしかった
法学部出身の財務官僚には、無理なんじゃ。
うぽつです_|\○_
ちなみに僕は、解と係数の関係のことをKKKと呼んでますを
経済学部一年でやるやつ
等式製薬草
きた
TH-camの訂正機能でも追加済みですが、
18:00, 27:15の箇所で訂正があります!
{g_i}や{g_i,h_j}の一次独立を条件と発言&表記してしまっていますが、正しくは、それらの勾配である{g_i}や{∇g_i,∇h_j}の一次独立が条件となります。大変失礼致しました
同じ点疑問に思ったのですが、こちらでコメントされていましたね。
ありがとうございます。
今年の京大・物理宇宙物理専攻の院試にラグランジュ未定係数法が出題されました。前日に動画を見てよかったです。答えは未定のままでした()
院試の勉強でこの間復習しました。
数学的な意味とか図形的な意味まではやりきれてないから、時間空いたらこの動画見てもっかい復習します。
明日は院試の口頭試問!
がんばる!
現在,都市計画・交通計画を研究している大学院2年なのですが,最適化はとてもよく出てくるので本当に助かります!ありがとうございます.
ありがとうございます!
経済学部でしたが一年生のときにクーンタッカー条件を学び衝撃を受けました。直感的にも納得がいきやすいところが快感です。
あまりにも(自分の興味の中で)タイムリーな話題でびっくりした!めちゃくちゃ助かります!!!
研究でSVM使う時にマージン最大化ところでお世話になりました。わかりやすいです。これ聞いた後に専門書読んだらKKTがアイドルのように可愛く感じれたのに。10年前に出会いたかったw
これまで様々なラグランジュの未定乗数法やKKT条件の説明を見てきましたが、今までで一番わかりやすかったです。ありがとうございます。この流れで是非凸計画問題の説明もぜひお願いしたいです!!
「制約付き最適化問題で困ったら,この動画を見ろ!」という決定版に出会えて感動です!
エネルギーの期待値が一定と確率の和が1を拘束条件としてラグランジュの未定乗数法を用いてボルツマンエントロピーからカノニカル分布が導出されるの気持ち良すぎて未定乗数法好きになった
経済学でも必須のラグランジュ乗数法ですね。
ただ、一般的にKKT条件がよく使用されますが、FJ条件(フリッツ・ジョン)の方が比較的に『ユルい』条件下で使えて、個人的に好きですね。
FJ条件の場合は、目的関数にもラグランジュ乗数が付くけど、それを背理法で消すのが楽しいです。
学生の時に、よく分からないけど乗数を掛けて微分すれば求まるということで覚えましたが特に使うことが無かったので意味を知ろうとしませんでした。
勾配の向きが均衡点で一致するという性質での説明が分かりやすかったです。
最初にKKTについて新しいピン芸人といった瞬間、手の動きにBKBが現れたのを見逃さなかった。
冒頭からエンジンかかってますね、バイクだけに!
データ分析の授業で出てきたばかりでこの動画のおかげで大変助かりました!!
ラグランジュの未定乗数法を初めて知ったときは、すごい便利だなと思いました。
ラグランジュの未定乗数法の気持ちがわかっていませんでしたが、非常にわかりやすく為になりました。
つい昨日まで院試で勉強してた分野なので、解説していただき嬉しいです!
最適化の研究室なので、この動画を見て復習します!
18:00 と 27:10 あたりですが、「制約関数の『勾配』が一次独立であるとき」ですね。
特に、不等式制約付き最適化について、一次独立制約想定は \bar{x} において "g_i(\bar{x})=0" となるものの勾配だけを考えれば良いです。
(まあ、
ミクロ経済学やマクロ経済学でもよく使う最も基本的な制約付き最適化問題の解法だよね。学部レベルの経済学だとあまり現実との繋がりが見えにくい部分もあるが、院レベルまで到達すると一気に面白くなる。
勾配降下法を制約条件付けてどう解けばいいのか悩んでいたのですがこんなに素晴らしい解法が世の中にはあったのですね!お陰さまでプログラム実装できそうです。
Lagrangeの未定乗数法は6月に授業で習ったけど、別の解説もすごく面白かった❤
不等式制約の部分はまだあまり理解できなかったから勉強しよう🔥
めっちゃ神タイミングw 丁度色々調べようとした時に出てきたので助かります!
ラグランジュの未定乗数法は学位論文で使いました。状態方程式を制約条件としてラグランジュ関数を作成し、最適経路追従問題を2点境界値問題に帰着して数値的に解く方法の研究をしていました。ラグランジュの未定乗数法は、すごく良い考え方ですが、学部や院で授業で習うことはなかったので、動画で公開されているのは有益に思います。スラック変数に関する補足等、続編も期待しています。
😊😅い😊いいいいいいいいいいいいい😊いいいいいいいいいいいいいい😊いいいいいいいいいいいいいいいいい😊iiいいいいいいいいいいい😊いいいいいいいいいいいい😊iいいいいいい😊😊😊い😊い😊
@@kantaro1966
いいいいいいいいいいいい
今学期に丁度最適化数学を履修してテストも終わったばかりなので自分にとって非常にタイムリーな話でした
制約付きのすごくわかりやすかったです!
SVMで必要になったので非常に助かりました
同じくPRMLのSVMで必要になりました
僕の学生時代にはKKT条件を「クーン・タッカーの条件」と習いましたね。それでもあまり詳しくは踏み込んでいなかったので、今回改めて学びになった気がします。
解析力学や統計力学で出てきたのを思い出しました。物理を復習中なので助かりました👍
高校数学でもゴリ押しに使えるが、制約と誓約感がすごい
経営工学系の学生なのでめちゃくちゃありがたい
本当に助かりました!
ここら辺使うと、数検とか高校の不等式問題とかでチートみたいに使えてすごい便利なんですよね
めちゃめちゃタイムリーで助かる
何回も同じ話を聞いた気がしますが、初めて腹落ち感がありました.
手を動かして解く練習問題も一緒にやりたいです!
Fritz Johnもお願いします!
接したら勾配一致
ソコが分かるだけで
数式の見え方が変わるのよね
昔、式だけ見目て
チンプンカンプンだった
わかりたかったやつ!
経済学で必須の条件ですね!
これは経済学部歓喜
ミクロ経済学の授業の参考動画として引用したいレベル(引用したい
理工系だけど等式制約すら独学でした。
大変申し訳ございません🙇♂️
カルーシュクーンタッカーについては余り気持ちがわからなかったのでありがたいです
点と直線の距離の公式を証明するときにこれを使う。
18:20 どうして多変数の時は線形結合になるんでしょうか?
3変数、2制約の場合を考えてみたのですが、
この場合、それぞれの制約は曲面になっており、その交線が真の制約となり、
最小値の必要条件となるにはこの交線がfの等高面に接している必要がある
この接点上での接線?(交線と同じ向きに伸びている直線)を考えると、
交線がそれぞれの制約面に含まれるのだから、この接線?は制約面の接面に含まれる
だからこの接線?は二つの接面の交線と等しくなる
勾配は接面と垂直なので、交線とも垂直であり、勾配の線形結合で作られる面は交線と垂直に交わる
この面上にfの勾配が含まれていれば等高面に接していると言える、と思う!
制約が増えるってことは、移動範囲は狭まるけど、逆に向きはどんどん弛くなってくんだなと感じました
@@ぬーべー-i5p 最終的に求めるべき各制約の交線(接線?)に対する∇fを、まず各制約の面に対する勾配としてそれぞれ考えた後、勾配を線形結合したもの(この場合は面)に含まれるものとして考えるということですか。なるほど……ご返答ありがとうございます。
勾配ベクトルは接線に対して垂直なので、各制約それぞれに分解して考えると多変数でも"曲面が接する=接線を共有する"に落とし込むことができるということですよね。
その場合、∇g_iをλ_i倍する意味はどのように考えられるのでしょうか?最終的に∇fが勾配の線形結合(面)に含まれるかどうかで判断するなら、定数倍してもその形は変わらないと思うので、λ倍する意味が今一つ分からないんです……
@@川村竹山
面にふくまれるが?を等式で判断する方法として使っているだけだと思いますよ
面内の平行でない(一時独立)な二つのベクトルをスカラー倍して足し合わせる(線形結合)ことで表現できるベクトルは面に含まれていると言えるのて、スカラー倍部分がλ_iなのかと
神動画すぎ!
ラグランジュ、複雑な連立解くの嫌いだったから
| fx gx |
| fy gy | = 0
の行列式解いてた
個人的には、λ使わない分こっちの方が楽で好き
0:27 それはBKBや
RNNの解説お待ちしてます!
等式制約の時に「gradFとgradGが平行」であって「gradF=-gradG」とならないのはどうしてだろう。最小化の目的のもとであれば、fとgが接するのは「gradF=-gradG」の接し方の時だけかと思ったけど違うのかな。
なるほどこうすれば良かったんだ!
1セットで見て下さい
・ラグランジュの未定乗数法の気持ち【条件付き極値問題】 → th-cam.com/video/vAwqZmwf4W8/w-d-xo.html
・制約付き最適化問題(KKT条件/ラグランジュ未定乗数法) → 本動画
追加
・L1/L2正則化の意味【機械学習】 → th-cam.com/video/3vfiMRjgzZ8/w-d-xo.html
追加
・中学数学からはじめる微分積分 → th-cam.com/video/4p1rwfXbCoY/w-d-xo.html&lc=UgzvWs0wP0Vu-7xfcpN4AaABAg
・【大学数学】偏微分とは何か【解析学】 → th-cam.com/video/UWFTIEIruyc/w-d-xo.html
・【大学数学】全微分とは何か【解析学】 → th-cam.com/video/ChoArVJnSjQ/w-d-xo.html
・grad(勾配)の意味 → th-cam.com/video/p7hEoWv7pp4/w-d-xo.html
・div(発散)の意味 → th-cam.com/video/ZS51xsn7onA/w-d-xo.html
・rot(回転)の意味 → th-cam.com/video/JjdmVjQSKkA/w-d-xo.html
・ベクトル解析入門①(内積と外積) → th-cam.com/video/k7ImHQhxF3s/w-d-xo.html
16:05 自分用
整数の制約を含む場合はどう扱えば、、、必ずgの勾配が0になる?そもそも離散値を含めると凸最適問題にならない、、、?
BKB!BKB!今回もアクセル全開ですね。バイクだけに、ブンブンっ!
ラグランジュ特集してください。
つまりラグランジュと名の付く定理・公式のイかれたメンバー紹介動画を作って欲しいです。
機械学習、システム工学、経済学、解析力学あたりで使った
神
ミクロ経済学でやったところだ!
質問です。
局所最小解の範囲は開区間と捉えて良いでしょうか?
取る範囲によっては交点も局所最小解になりうると思ったのですが…
※閉区間の端点が、区間内で最小になるなら、それが局所最小解なのでは?という主張と捉えて話しています。勘違いでしたら申し訳ございません。
xが局所最小解であるかどうかを考える時には、区間を先に決めてからその区間内の最小点を見るのではなく、xの付近でxが最小になるかどうかを見ます。
局所最小解かどうかを考える点xを設定した時に、その付近の区間(のようなもの)が決まるので、xが区間の端点になることはないと思います。
間違っていたら申し訳ないです。
中学生で勾配ベクトルの計算の応用の公式作ったらどうやって論文発表をしたらいいでしょうか
【式】
呼び海苔tasu たくみ= Circle
Let's study!!
最適制御でよく出てきたなー
はしけんさん思い出した
コメ欄の知性が他の動画より一段階上がってて草。
草?
@@もんぶらん-n9v ん?
@@ナナシ-k7s 草か?
@@もんぶらん-n9v
え、なに?そうとう暇なん?人生楽しい?
@@ナナシ-k7s 草。
経済学部ワイ歓喜
これ機械学習でやったな〜
不覚にもちょっとクスリとしてしまった!
微分面倒〜って言いながら使ってた学部2年
なんでg(x,y)は二次元なのに勾配があるの??
7:23
最初のピン芸人ってBKBのことか
スラック変数
K顔の
K形が
Tトーマス
KKTヒーーーヤ!
高3で使ったら、先生に使うなって言われた。🤔
ぜひ生徒にカプリティオを招いてほしかった
法学部出身の財務官僚には、無理なんじゃ。
うぽつです_|\○_
ちなみに僕は、解と係数の関係のことをKKKと呼んでますを
経済学部一年でやるやつ
等式製薬草
きた